A l'origine, au IX^e siècle, elle fut bâtie en annexe de Saint-Bénigne et ne fut érigée en paroisse qu'au XI^e siècle.  Reconstruite au XII^e siècle, elle était entièrement couverte de voûtes d'arêtes. La Tour de style flamboyant surmontée d'une magnifique flèche octogonal de pierre a été élevé en 1513.

Saint-Philibert a subi d'importants remaniement et, en particulier, a été amputée de son chevet qui comportait trois absides au début du XIX^e siècle pour créer une rue.
Son élévation intérieure, très sobre reste typique de l'art roman et il reste également une porte au riche décor sculpté sur le bas-côté sud.

A partir de 1972, d’importants aménagements  prévus pour la réutilisation de l’église se révélèrent. Mais l’installation d’un chauffage par le sol se révéla catastrophique en créant par la migration de sel dans la pierre une érosion de la roche. Ce phénomène d’éclatement provoqua la fermeture de l’édifice en 1979.
Depuis 1980, toute une série de mesures utilisant les méthodes les plus modernes ont été prises  pour permettre d’enrayer la dégradation de l’église. 

En 2002, pour la première fois depuis plus de 20 ans, L'église Saint-Philibert  a été réouverte lors des Journées du Patrimoine afin que le public puisse non seulement  redécouvrir cette belle église, seul édifice de l’art roman à Dijon, mais aussi comprendre la nature et l’importance des campagnes successives de travaux destinés à la sauver.