Stanowisko Nimrud zasiedlone było już w czasach prehistorycznych, ale o tych najwcześniejszych fazach zasiedlenia wciąż wiadomo jest bardzo niewiele[1]. Na początku III tys. p.n.e. znajdowała się tu już najprawdopodobniej osada, ale jej rozmiary i charakter pozostają nieznane[1]. Na powierzchni stanowiska odnaleziono fragmenty ceramiki należącej do kultury Niniwa 5 (1 połowa III tys. p.n.e.), a w jednym z wykopów odkryto grób skrzynkowy datowany na ok. 1750 r. p.n.e.[1]

Miasto Kalhu założone zostało najprawdopodobniej ok. 1280 r. p.n.e.[1] Teksty z XIII w. p.n.e. wskazują, iż już wówczas odgrywało ono ważną rolę jako jedno z centrów administracyjnych państwa asyryjskiego[1]. O mieście z okresu średnioasyryjskiego nie wiadomo wiele, gdyż archeolodzy prowadzący wykopaliska w Nimrud skupili swą uwagę przede wszystkim na przebadaniu miasta z okresu nowoasyryjskiego[1].

Około 878 r. p.n.e. asyryjski król Aszurnasirpal II (883–859 p.n.e.) uczynił Kalhu stolicą państwa i rozpoczął w tym mieście zakrojony na szeroką skalę program budowlany[1]. Na jego rozkaz wzniesiony został nowy mur miejski, królewski pałac oraz dziewięć świątyń (położenie trzech z nich ustalono dzięki pracom wykopaliskowym)[1]. Mur miejski o długości ok. 7,5 km, wzniesiony z cegły mułowej, otaczał obszar o powierzchni ok. 360 ha[1]. Wewnątrz miasta znajdowała się otoczona własnym murem obronnym cytadela, zajmująca powierzchnię ok. 20 ha[1]. Kalhu pozostało stolicą do roku 707 p.n.e., kiedy to Sargon II (722–705 p.n.e.) uczynił Dur-Szarrukin nową stolicą Asyrii[1]. Pomimo utraty statusu stolicy Kalhu pozostało ważnym miastem, a późniejsi władcy asyryjscy, jak np. Asarhaddon (680–669 p.n.e.), prowadzili tu prace budowlane[1]. Medowie i Babilończycy zdobyli najprawdopodobniej Kalhu w okresie pomiędzy 614 a 612 r. p.n.e.[1]