Ce chantier dura plus d’un siècle.. elle intègre pour la première fois la cohabitation avec d’autres églises sur le même site. Paris, l’ancienne Lutèce, a été évangélisée à partir du IIIe siècle. On y comptait vers 250 suffisamment de chrétiens pour que le pape Fabien y envoie comme premier évêque Dyonisius, notre Saint Denis devenu saint patron de Paris. Les chrétiens étant alors persécutés en Gaule comme dans tout l’Empire Chrétien, l’évêque Denis devait célébrer le culte secrètement sans doute dans une simple pièce d’une villa gallo-romaine. Denis a d’ailleurs été martyrisé quelques années plus tard avec ses auxiliaires sur le Mont Mercure, dénommé depuis Mont Martyrum (Montmartre). Ses successeurs ont vécu dans la clandestinité jusqu’à la paix de l’Eglise décidée par l’Empereur Constantin en 313.
Il est alors devenu possible de construire un premier édifice chrétien, vraisemblablement sur la rive gauche et peut-être, selon certaines histoires, du côté de l’actuel Val-de-Grâce. En fait, nous ne savons rien de précis sur cette première cathédrale ni sur les suivantes. Des fouilles ont été effectuées à différentes périodes dans la partie orientale de l’Ile de la Cité, là où se trouve maintenant la Cathédrale Notre-Dame. Elles permettent de penser qu’il existait à son emplacement au début de notre ère un temple païen, remplacé ultérieurement par une grande basilique chrétienne à cinq nefs, sans doute assez semblable aux basiliques antiques de Rome ou de Ravenne, notamment. Mais nous ne savons pas si cette cathédrale, dédiée à Saint-Etienne, avait été élevée au IVe siècle et aurait été remaniée par la suite ou si elle daterait du VIIe siècle avec des éléments plus anciens en remploi. Une certitude cependant : cette cathédrale Saint-Etienne était de très grandes dimensions. Sa façade occidentale, située une quarantaine de mètres plus à l’ouest que la façade actuelle de Notre-Dame, avait une largeur à peine inférieure, quant à la longueur totale de l’édifice, elle représentait un peu plus de la moitié de l’actuelle. A l’intérieur, les nefs étaient séparées par des colonnes de marbre et les parois étaient revêtues de mosaïques. Selon l’usage liturgique, elle était complétée sur son flanc nord par un baptistère, dénommé Saint-Jean le Rond.
La cathédrale Saint-Etienne semble avoir été régulièrement entretenue et réparée, suffisamment en tout cas pour résister aux guerres et à l’usure du temps. Cependant, au milieu du XIIe siècle sous le règne de Louis VII, l’évêque Maurice de Sully et le chapitre ont pris une décision extrêmement importante : construire à la place de Saint-Etienne une nouvelle cathédrale, beaucoup plus longue et plus haute que l’ancienne, comme le permettaient les nouvelles techniques architecturales qui commençaient alors à être employés, celle du style ogival, communément appelé gothique de nos jours.