Dès le iiie siècle, des moines choisissent de vivre dans la solitude en Égypte et gagnent un endroit retiré. C'est ainsi que des ermitages se développent au Sinaï dès la fin du iiie siècle. Le Voyage d'Égérie à la fin du ive siècle relate la présence dès cette époque de nombreux moines ermites dans les environs, un siècle après l'arrivée des premiers chrétiens fuyant les persécutions

Selon une légende associée à presque toute installation monastique grecque, l'impératrice romaine Hélène, mère de l'empereur Constantin Ier, fait construire en 337 une chapelle au pied du mont Sinaï, sur le site où elle pense que se trouve le « Buisson ardent » mentionné dans le Livre de l'Exode de la Bible (Ex 3. 1-22). Elle la dédia à la Vierge Marie. L'arbuste qui y est présenté comme tel aujourd'hui est une ronce commune (appelé aussi « mûrier sauvage »).

Au vie siècle, les religieux souhaitant être protégés des raids des tribus nomades du désert, demandent à l'empereur Justinien d'élever un monastère fortifié. Justinien envoye sur place des familles pour le servir et le défendre, choisies parmi les vassaux arabes des Byzantins. La construction est entreprise probablement de 548 à 562 sous la supervision de l'architecte Stephanos. Les inscriptions grecque et arabe au-dessus de la porte d’entrée occidentale5 donnent 527 comme l'année de la fondation. Cependant, ces inscriptions se basent sur des sources anciennes peu crédibles