チグリス川に面しており、メソポタミア文明以来の歴史を持つ。

4世紀のローマ皇帝ユリアヌスが死去した街である[要出典]。

836年、アッバース朝の8代カリフであるムウタスィムは、マムルーク軍団とアッバース朝正規軍の対立を背景として[1]、即位3年ながら都をバグダードからサーマッラーに移した。それから892年までの約50年間サーマッラーはアッバース朝の都であり続け[2]、今日まで残るモスクとしては世界最大であるサーマッラーの大モスクが築かれるなど[3]、一定の繁栄を保った。しかし、東西貿易の幹線道路から外れていたことなどが影響してバグダードを超える都市機能を備えるまでには至らなかった[2]。

20世紀に入るとサーマッラーの発掘調査が行われるようになり、1911年にはヘルツフェルト (Ernst Herzfeld) 率いるドイツ調査団がサーマッラーの発掘をおこなった[4]。1965年にはイラク考古局のカッサール (Awad al-Kassar) のもとで大モスクやアッバース宮殿、アル＝アーシク宮殿の修復が行われた[5]。

20世紀に、チグリス川の氾濫を防ぐダムが建設されると、洪水が減って人口が増加し、現在およそ20万人の人口を擁する[要出典]。

スンナ派が多数を占めているが[要出典]、シーア派の12代イマームであるムハンマド・アルムンタザルを祀る聖地であり[6]、スンナ派のバアス党を率いて一党独裁していたサッダーム・フセイン元大統領がイラク戦争に敗れて失脚すると、両派の間に緊張が引き起こされるようになった[要出典]。