Créé en 1876, le musée a été installé dans les années 1960 dans l’ancien hôtel du duc de Bellegarde, édifié au XVIIe siècle. Pour exposer de nouvelles donations, la ville a acquis en 1990 les bâtiments attenants : la maison natale de Romain Rolland et celle de son grand-père, Edme Courot. Le musée a été rénové à partir de 1996 ; ses dernières salles ont été inaugurées en 2005.
Ces édifices constituent un écrin à la mesure des collections, qui comportent de l’archéologie gallo-romaine et mérovingienne, avec armes, bijoux et un objet unique dans tout l’empire romain : la calotte zodiacale de Chevroches. Dans les salles Beaux-Arts, on passe devant des tableaux flamands, italiens et français du XVIe siècle au XVIIIe siècle ; on voit aussi des œuvres du XIXe siècle et des créations contemporaines, parmi lesquelles figurent des peintures qui ont été offertes au président François Mitterrand pendant ses mandats. Le musée possède la collection la plus complète d’affiches de Charles Loupot (1892-1962), géant de la publicité du XXe siècle, qui a travaillé pour des marques célèbres. La salle des faïences est consacrée aux céramiques très originales produites à Clamecy. La salle dédiée au prix Nobel de littérature Romain Rolland retrace la vie et l’œuvre de cet écrivain, auteur notamment des romans Jean-Christophe, Colas Breugnon, L’Ame enchantée, et de l’appel pacifiste Au-dessus de la mêlée. Avec l’espace consacré au flottage, les visiteurs découvrent l’activité singulière des flotteurs de Clamecy qui, pendant des siècles, ont conduit sur l’Yonne et la Seine d’immenses radeaux de bois destinés à alimenter les foyers et les fours de Paris.