Na het eerste concilie van Nicea gaf Constantijn de grote opdracht om een kerk op de geboorteplek van Jesus te bouwen. Deze was klaar in 334. In 339 wijdde koningin Helena de eerste kerk in die boven de grot werd opgericht. Die kerk ging echter in vlammen op tijdens een Samaritaanse opstand in 529. Hierna gaf Keizer Justitianus I van Byzantium opdracht tot de bouw van de huidige kerk. De Perzen hebben in 614 meer dan 3000 kerken en kloosters verwoest. Deze kerk echter werd gespaard omdat op de voorgevel de Drie Wijzen waren afgebeeld die in Perzische kleding gehuld waren. De kerk werd in 1169 gerestaureerd door de kruisvaarders; tijdens de daaropvolgende periode van islamitische bezetting werd de kerk nooit geheel verwoest. In 1934 werd de oorspronkelijke mozaïekvloer opgegraven. Delen daarvan zijn nu te zien via luiken die in de vloer van de huidige kerk zijn aangebracht.