Nínive es mencionada por primera vez alrededor de 1800 a. C. como una ciudad con un templo dedicado a la diosa Ishtar, en buena parte responsable de la temprana importancia que adquirió la ciudad. Nínive también se menciona en la Biblia, como una ciudad edificada por Asur, que se separó del rey Nimrod, bisnieto de Noé, en el Génesis 10:7-11.

No hay demasiadas evidencias para decir que Nínive fuera totalmente reconstruida por los reyes asirios durante el segundo milenio a. C. Cuando el rey Senaquerib convirtió a Ninua, o Nínive en la capital del reino de Asiria a finales del siglo VIII a. C. (antes lo fue brevemente Dur Sharrukin), esta ya era un antiguo asentamiento. Los nombres de monarcas posteriores como Salmanasar I o Tiglath-Pileser I han aparecido en la acrópolis. Ambos fueron activos constructores en Assur, el primero de ellos fundó además Nimrud. Nínive tuvo que esperar hasta los neoasirios, después de la época del rey Asurnasirpal II, para alcanzar un desarrollo urbanístico mucho mayor. A partir de entonces, sucesivos monarcas mantuvieron y fundaron nuevos palacios, así como templos dedicados a Sin, Nergal, Inanna, Shamash, Ishtar y Nabu de Borsippa.

Fue el rey Senaquerib el que hizo de Nínive una ciudad realmente magnífica (700 a. C.). Diseñó amplias calles y plazas y construyó el famoso «palacio sin rival», de unos 200 por 210 metros, cuya planta ha sido reconstruida en gran parte. Este palacio tenía unas 80 habitaciones, muchas de ellas repletas de bajorrelieves en sus paredes. Gran parte de las tablillas de Nínive se encontraron aquí. Algunas de las principales entradas estaban flanqueadas por toros alados con cabeza humana. En ese tiempo el área total de Nínive ocupaba unos 7 km² y 15 grandes puertas permitían el paso de sus murallas. Un elaborado sistema de 18 canales llevaba el agua desde las colinas hasta Nínive. Se han encontrado también algunas partes de un magnífico acueducto erigido por el mismo rey en Jerwan, a unos 40 km de distancia.

El esplendor de Nínive fue efímero. Alrededor del 633 a. C. el Imperio asirio empezó a dar muestras de debilidad y los medos atacaron Nínive. Estos volvieron a atacar, esta vez junto a Babilonia y Susa, en 625 a. C.

En 612 a. C., nuevamente, babilonios y medos se volvieron a aliar para el asalto de la ciudad. El asedio duró tres meses, durante los cuales se emplearon todo tipo de tácticas, como desviar el curso del río Khosr o atacar a la vez por varios flancos para debilitar la defensa asiria. El ataque final se produjo por el cauce ya seco del río. Nínive cayó y fue arrasada hasta los cimientos. En los registros egipcios consta que el faraón Psamético I defendió la ciudad como aliado de los asirios, pero fue inevitable su caída. El imperio asirio llegó a su final cuando babilonios y medos se repartieron sus provincias.

Después de gobernar durante más de seis siglos, desde el Cáucaso y el Caspio hasta el Golfo Pérsico, y más allá del Tigris hasta Asia Menor y Egipto, la ciudad desapareció como si hubiese sido únicamente un sueño.

Anteriormente a las excavaciones del siglo XIX, los conocimientos sobre el gran Imperio asirio y su magnífica capital eran casi nulos. Vagos indicios conservados en la Biblia llevaban a los estudiosos occidentales a pensar en su poder y grandiosidad, pero definitivamente se sabía muy poco sobre Nínive. Otras grandes ciudades abandonadas, como Palmira, Persépolis o Tebas, dejaron tras de sí ruinas visibles que marcaban sus emplazamientos y mostraban su antiguo esplendor, pero de la imperial Nínive, incluso su extensión era una mera conjetura.

En la época del historiador griego Heródoto (400 a. C.), Nínive ya era parte del pasado. Cuando el historiador Jenofonte pasó por el lugar, en su obra Anábasis se ve que incluso el nombre de la ciudad había sido olvidado. Había desaparecido de la vista y nadie sabía de su importancia. Nunca más se levantó de sus ruinas.

En 2015, en un ataque terrorista por parte de integristas islámicos, se destruyeron o desfiguraron grandes estatuas del cercano lugar arqueológico de Hatra, declarado patrimonio mundial, así como artefactos únicos procedentes de varias excavaciones de la provincia de Nínive que se encontraban en el Museo de Mosul.