L'abbaye fut fondée par une charte rédigée à Bourges le 11 septembre 909 ou 910, par le comte de Mâcon, Guillaume Ier, duc d'Aquitaine et comte d'Auvergne, qui octroya une villa située près de Mâcon à Bernon, abbé de Baume-les-Messieurs et de plusieurs monastères dans la région.
Ce fut ce dernier qui choisit le site de Cluny et construisit les premiers bâtiments conventuels avec l'aide de douze moines des abbayes de Gigny et de Baume

Cluny est le symbole du renouveau monastique en Occident ; l'abbaye fut un foyer de réformation de la règle bénédictine et un centre intellectuel de premier plan au Moyen Âge classique. Il n'en subsiste aujourd'hui qu'une partie des bâtiments, faisant l'objet de protections au titre des Monuments historiques et gérés par le Centre des monuments nationaux. Les bâtiments de l'abbaye abritent depuis la fin du xixe siècle l'un des huit campus d'Arts et Métiers ParisTech, grande école d'ingénieurs française. Ce fut au Moyen Âge l'un des hauts lieux du renouveau spirituel et humaniste de l'Europe, en des périodes particulièrement troublées.