Samarcanda es una de las ciudades más antiguas del mundo aún habitadas. Dada su ubicación, Samarcanda prosperó debido a estar localizada en la Ruta de la Seda entre China y Europa. Llegó a ser una de las ciudades más grandes de Asia Central. Cuando llegó Alejandro Magno a esa zona, ya habían una colonia significativa de Judíos en Samarcanda. Cuando el Imperio Asirio invadió Judea en el año 721 a. c , sus habitantes fueron trasladados a Asiria. Posteriormente en el año 586 se volvió a repetir la historia con el Imperio Babilónico. Fue en el año 539 cuando el Emperador Ciro el Grande, permitió a los Judíos regresar a su patria.

Cerca de Samarcanda se encuentra el sitio arqueológico de Afrasiab, ciudad precursora de Samarcanda que fue fundada en el siglo VII a. C. Samarcanda fue capital de la satrapía de Sogdiana bajo la dinastía aqueménida de Persia, cuando Alejandro Magno la conquistó hacia el 329 a. C. El historiador griego de la época imperial Arriano de Nicomedia describe que la ocupación de esta región no fue tarea fácil pues se opuso tenazmente a ser sometida, ya que tenía fácil defensa debido a su ciudadela como indica el historiador romano Quinto Curcio Rufo. Bajo el Imperio sasánida, Samarcanda floreció hasta volverse una de las ciudades más importantes del Imperio persa.

Aunque la región tenía lengua iraní, no estuvo políticamente unida con Persia entre los tiempos de Alejandro Magno y de la conquista musulmana de Persia. Los griegos se refirieren a ella como Maracanda. En el siglo VI fue parte de los dominios de un reino turco.

Al comienzo del siglo VIII Samarcanda fue sometida a control árabe. Bajo el poder de los Abasidas, se obtiene el secreto de la fabricación de papel a partir de la confesión de dos prisioneros chinos capturados en la batalla del Talas en el año 751. Esto dio lugar a la primera fábrica de papel en el mundo islámico, que se fundó en Samarcanda. La invención luego se extendió al resto del mundo islámico, y de ahí a Europa.

Del siglo VI al siglo XIII la ciudad creció y llegó a ser controlada por turcos del oeste, árabes, persas samaníes, turcos qarajánidas, turcos selyúcidas, karakitay, y khorezmidas, hasta ser saqueada por los mongoles de Gengis Khan en 1220. En esa época la ciudad se aproximaba al medio millón de habitantes, que es la cifra que alcanza en la actualidad. Una pequeña parte de la población sobrevivió, pero Samarcanda sufrió una vez más otro ataque mongol liderado por Khan Baraq para obtener tesoros para pagarle a su ejército. Tras varias décadas la ciudad se recuperó de estos desastres. En 1365 tuvo lugar una revuelta contra el dominio mongol.

 Defensa por parte de las tropas rusas de la ciudadela de Samarcanda contra el Emir de Bujará. Danza de un bacha («bailarín»), c. 1905-1915. Madrasa Ulugh Beg.

El período timúrida fue el más significante para Samarcanda, entre los siglos XIV y XV. En 1370, Tamerlán decidió hacer de Samarcanda capital de su imperio, que se extendía desde India hasta Turquía. Durante 35 años construyó una nueva ciudad, poblándola con artesanos de todas las regiones que había capturado. Tamerlán se ganó fama de sabio y generoso, y Samarcanda se convirtió en el centro de la región de Transoxiana. Durante este tiempo tenía una población de alrededor de 150 000. Un siglo después de los viajes de Marco Polo en la ruta de la seda, el embajador del rey castellano Enrique III, Ruy González de Clavijo llegó a Samarcanda en 1404, con la intención de crear una alianza con Tamerlán para guerrear contra los turcos, pero la prematura muerte de Tamerlán frustró estas intenciones, aun así todas estas experiencias fueron anotadas por González de Clavijo en el libro Embajada a Tamorlán'. Un barrio de la ciudad recibe el nombre de "Madrid" en honor a esta expedición.

En el 1499 los uzbekos se hacen con el control de Samarcanda. Los Shaybánidas surgen como los líderes uzbekos de la región. En el siglo XVI, los Shaybánidas trasladan su capital a Bujará y Samarcanda entra en declive.

Después de un asalto por parte del rey persa, Nadir Sah, la ciudad fue abandonada en el siglo XVIII, alrededor del 1720. Desde 1784 Samarcanda fue gobernado por los emires de Bujará.

La ciudad pasó a manos rusas después de que la ciudadela fuera tomada por una fuerza bajo el coronel Aleksandr Abrámov en 1868. Poco después la pequeña guarnición rusa de 500 hombres fue sitiada. El asalto fue dirigido por Abdul Malik Tura, el hijo mayor del Emir de Bujará, pero este fue derrotado sufriendo fuertes pérdidas. Ascendido a general, Abrámov se convirtió en el primer gobernador del distrito militar que los rusos establecieron a lo largo del curso del río Zeravshan, con Samarcanda como centro administrativo. La parte rusa de la ciudad empezó a construirse a partir de esta fecha, mayormente al oeste de la ciudad vieja.

La ciudad se convirtió después en la capital del Óblast de Samarcanda en el Turquestán ruso y creció en importancia sobre todo cuando el ferrocarril Trans-Caspio llegó a la ciudad en 1888. En 1925 se convirtió en la capital de la República Socialista Soviética de Uzbekistán (RSSU), antes de ser sustituida en 1930 por Taskent, la actual capital de Uzbekistán. En 1939 Samarcanda tenía una población de 134 346 habitantes.