Die Stadt wurde 1898 – nach der Besetzung der nördlichen Mandschurei durch Russland – als Bahnstation der von Nikolai Swijagin gebauten Transmandschurischen Eisenbahn von Russen gegründet, weswegen das Stadtbild der älteren Stadtteile heute noch von russischer Architektur geprägt ist. Besonders nach der Oktoberrevolution flohen viele Russen nach Harbin und trugen zum Aufblühen der Stadt bei.[1] Im Hinblick auf den Personalbedarf der Transmandschurischen Eisenbahn wurde 1920 eine russisch-chinesische technische Schule unter der Leitung von Dmitri Horvat mit dem Verwaltungsratsvorsitzenden Nikolai Gondatti eröffnet.[2] Im April 1922 wurde die Schule als russisch-chinesisches polytechnisches Institut die erste höhere Bildungseinrichtung in Harbin. 1932 wurde die Stadt von japanischen Truppen besetzt. Nach der Kapitulation Japans im Zweiten Weltkrieg übernahm die Sowjetunion die Stadt. Zwar übergab sie die Stadt vereinbarungsgemäß der Republik China, aber die Truppen der Roten Armee blieben weiterhin dort stationiert. Unter ihrer stillschweigenden Duldung konnte die Kommunistische Partei Chinas die Stadt bereits 1946 erobern. Die Industrieanlagen dort dienten ihnen als Basis für den Sieg im Bürgerkrieg.

Nach der Gründung der Volksrepublik China wurde die Schwerindustrie in Harbin noch ausgebaut. Dafür wurden Menschen aus dem Süden Chinas hierher umgesiedelt und die Technische Universität durch Lehrkräfte aus dem Süden verstärkt. Viele dieser Menschen kehrten nach der Lockerung der Wohnbestimmungen wieder in ihre alte Heimat zurück.

Seit der wirtschaftlichen Reform versuchen Harbin und die Provinz Heilongjiang, sich als Brückenkopf im Handel mit Russland zu profilieren.

Im November 2005 verseuchte der Chemieunfall von Jilin das Wasser des Songhua Jiang mit Benzol, woraufhin die Trinkwasserversorgung der Stadt für mehrere Tage unterbrochen werden musste.

Am 20. Oktober 2013 breitete sich über Harbin ein schwerer Smog aus. Flughafen, Schulen und Kindergärten wurden für drei Tage geschlossen. Alle Autobahnen wurden nach Unfallserien geschlossen. Bei windarmem, relativ warmem Wetter war das kohlebefeuerte städtische Heizungssystem gestartet worden. Am 25. Oktober bewirkte kalte, aus Sibirien zuströmende Luft, dass sich der Smog nach oben hob und abzog.[3]