Dans une région de dolmens et de brigands, Roger, deuxième abbé de Dalon en Limousin, envoya treize moines en Rouergue pour fonder en 1123 la première abbaye dans l’esprit de Cîteaux. La date de fondation est sujet à discussion : le 21 mars 1123 ou 1124. On sait que le 25 mai 1124, Ardouin de Parisot fit aux frères de Loc-Dieu un don important qui l’a fait considérer par certains comme le fondateur. L’évêque de Rodez, Adhémar III, leur donna l’église et les dîmes de Colombiers. Ce furent ensuite des seigneurs des environs qui concédèrent à l’abbaye des rentes et des terres.
Le lieu choisi, quoique faisant partie du causse de Limogne, est géologiquement remarquable. Une poche d’argile lui vaut de l’eau et des grands bois, refuge idéal des détrousseurs de la voie toute proche allant de Rodez à Cahors. Lieu donc bien mal famé qui méritait le surnom de « locus diaboli », le lieu du diable. Les démêlés des moines et des brigands sont devenus légendaires. Avec la bénédiction de l’évêque de Rodez, l’endroit devient quelques années après locus Dei, le lieu de Dieu, Loc-Dieu. L’abbaye, avec sa mère, ne se rattache officiellement à l’ordre de Citeaux qu’en 1162.
