Le couvent fut fondé en 1204, et le nom est attesté dès 1216, mais devint célèbre comme maison d’éducation après la réforme de la discipline introduite en 1602 par l’abbesse Jacqueline Arnauld. La famille Arnauld lui accorda son patronage et par la suite le couvent fut dirigé par des membres de cette famille. En 1625, des religieuses créèrent à Paris un nouveau Port-Royal, qui fut appelé Port-Royal de Paris tandis que son aîné devenait Port-Royal des Champs.

Sur le site primitif, plusieurs écoles furent fondées, connues sous le nom de Petites-Écoles de Port-Royal. Elles devinrent célèbres en raison de la qualité exceptionnelle de l'éducation qu’on y donnait. En 1634, Saint-Cyran en devint le directeur spirituel ; il était ami de Jansénius et, à partir de ce moment, les couvents et les écoles de Port-Royal se rattachèrent étroitement à cette école de théologie.

L'atmosphère faite d'étude sérieuse et de piété janséniste attira quelques grandes figures de la vie culturelle. Racine fut élève de Port-Royal, et Pascal prit sa défense contre les Jésuites lors de la controverse janséniste. De plus, plusieurs membres importants de la cour étaient proches du jansénisme, comme le duc de Luynes ou le duc de Liancourt. Les membres de la famille Arnauld s’étaient hissés à des emplois importants comme Simon Arnauld de Pomponne, ministre de Louis XIV.

Cependant, à la suite de la querelle janséniste dans le catholicisme, les écoles de Port-Royal furent considérées comme entachées d'hérésie. En 1679, on interdit au couvent d'accepter des novices, ce qui le condamnait à disparaître. Le couvent lui-même fut supprimé par une bulle du pape Clément XI en 1708, les religieuses qui restaient furent expulsées de force en 1709 et les bâtiments eux-mêmes rasés en 1710.