En 735 l’église de Lutterbach faisait partie des quelques 70 églises rurales qui existaient au début du VIII siècle. Cette église primitive se trouvait à l’emplacement actuel du cimetière, à proximité d’une route romaine. Elle servait d’église mère aux villages environnants.
En 1629, le curé Henri Bryat a entrepris la construction d’une nouvelle église. Celle-ci n’était plus construite sur la colline mais le long de la route, à l’emplacement de l’actuelle basilique.
A la fin du XIX siècle, l’ancienne église Saint-Martin était devenue trop exiguë pour une population qui s’était considérablement accrue. Joseph Friederich, nommé curé à Lutterbach en 1897 décide donc d’entreprendre la collecte des fonds nécessaires à la construction de la nouvelle église et fait même établir l’esquisse d’un lieu de culte pouvant contenir 800 personnes. Malheureusement il se sent vite dépassé par cette tâche et obtient son déplacement en 1899.

C’est sous l’impulsion de son successeur Jean-Baptiste Ackermann  que le tournant décisif allait être pris. Ce prêtre, très dévot au Sacré Cœur, avait assisté au congrès eucharistique d’Anvers. C’est à cette occasion qu’avait été émis le vœu de construire dans chaque province une église dédiée au Sacré Cœur à l’instar de la France qui avait construit le sanctuaire national de Montmartre.

Ce prêtre a  voulu pour sa paroisse située au centre du Haut-Rhin le « Montmartre Alsacien ».

Construite dans un temps record, dans un style néo roman rhénan, l’église a été ouverte au culte le 22 septembre 1907. Sinistrée à plus de 50% durant les combats de la Libération, la basilique a mis des années à renaître de ses ruines. Sa restauration  a été achevée en 1953, lors de la consécration des cinq autels, en présence des neufs évêques et archevêques. A cette occasion ont été réalisés le nouveau maitre-autel en marbre rouge de Vérone, les remarquables fresques de René Kuder ainsi que les vitraux dus au maitre verrier parisien Le Chevallier. La basilique obtient ainsi une dignité nouvelle : elle est agrégée à la basilique majeure de Saint-Jean de Latran, cathédrale des papes ce qui lui permet d’obtenir les mêmes indulgences qu’à Rome pendant cinq ans. Par la suite ce privilège a été accordé à perpétuité.