De stad dankt haar naam aan een 6e-eeuwse nederzetting in de nabijheid van Auxerre die sine muro, zonder stadsmuur , was. In de 7e eeuw wordt de plaats voor het eerst in een oorkonde vermeld. Het was de hoofdstad van het graafschap Auxois, dat opging in het Hertogdom Bourgondië. Hertog Robert II van Bourgondië verleende Semur-en-Auxois in 1272 de status van commune met een charte, wat vergelijkbaar is met beperkte stadsrechten in Nederland en de Duitse landen. Filips de Stoute liet het tijdens de Honderdjarige Oorlog van zware vestingwerken voorzien. In 1478 werd de stad door Frankrijk onder koning Lodewijk XI ingenomen. In 1589 werd het bij de Hugenotenoorlogen door de Katholieke Liga veroverd. In 1602 werden de vestingwerken ontmanteld. In later eeuwen bleef Semur-en-Auxois een bescheiden provinciestad. De beroemde vestingbouwer Sébastien Le Prestre de Vauban bracht tussen 1633-1640 een deel van zijn jeugd door in het stadje, waar hij ook school ging. In de eerste helft van de 18e eeuw was Émilie du Châtelet, een beroemd vrouwelijk wetenschapper en echtgenote van de plaatselijke gouverneur, markies Florent-Claude du Chastellet, er regelmatig de gastvrouw van Voltaire.