La storia di Harbin, partendo dalle prime presenze umane, può essere rintracciata dal 3457 a.C. Sull'origine del nome "Harbin" sussiste un dibattito.

Harbin si trovava nel territorio di Buyeo e del Bohai e, al tempo della dinastia Liao, il suo territorio apparteneva in parte al regno di Buyeo, in parte al regno di Balhae, alla famiglia Jie e la dinastia Liao aveva il controllo sulla parte orientale.

Nel 1114 il capo dei Manciù, Wanyan Aguda, guidò le truppe che combattevano contro i Liao, dando inizio alle guerre di Ning Jiang Zhu e di Chu He Dian, e infliggendo una severa sconfitta a 100.000 soldati Liao.

Nel 1115 l'imperatore Cheng, dopo aver fondato il regno di Jin, ricevette il titolo di re, e fondò anche il villaggio di A Cheng, noto, nelle cronache di Jin come villaggio di A Cheng orientale. Con i Jin, la luminosa Harbin diventa la capitale del distretto di Ji.

In primo luogo, nel suo periodo di splendore apparterrà al terzo fratello minore (Wojin) del clan di Gengis Khan, tutti del governo del dipartimento di Nu Er Gan. Dopo che venne fondata la dinastia Qing, quando Qian Long aveva 21 anni (nel 1756), viene istituito un governo a data definita.

Dopo la metà del periodo Qing, conformemente all'attuazione delle politiche "Jing Qi Yi Wen" e "Kai Jin Fang Huang", gente di etnia Han, migrò in gran quantità nel territorio di Harbin.

Con l'imperatore Qing Guangxu allora ventiduenne, nel 1898, l'Impero russo costrinse il governo Qing a firmare il trattato "Li-Lobanov", o "trattato segreto Sino-russo", con cui la Russia ottenne i diritti per la costruzione della Ferrovia Orientale Cinese.

Nel 1898 si iniziò a chiamare la città "Harbin"; essa apparteneva al distretto del Bolin. La città fu fondata dai russi nel 1898, come stazione sul tragitto della Ferrovia Orientale Cinese che attraversa la Manciuria e giungeva fino a Vladivostok.

Harbin venne usata come centro per la costruzione della ferrovia, finanziata dai russi; era infatti la città da cui si iniziò a costruire. Al tempo la Russia le cambiò il nome in "città del fiume Songhua", ma nel 1903 ritornò il nome di Harbin.

Dopo la fine dei Qing, nel 1913, il governo della Repubblica di Cina, organizzò il distretto del Bin Jiang e nel 1914 venne messa a punto la stessa strada del Bin Jiang.

Harbin è spesso chiamata la "Mosca d'oriente"; all'inizio del ventesimo secolo, dopo che la Russia fu sconfitta nella guerra russo-giapponese (1904-1905), l'influenza russa s'indebolì: da quel momento 160.000 emigranti, provenienti da 33 nazioni tra cui Stati Uniti, Germania, Polonia, Giappone e Francia, emigrarono ad Harbin.

Emigranti russi e delle altre nazioni europee giunsero fin dall'inizio in gran numero a Harbin. Nel 1913 Harbin era diventata, di fatto, una colonia russa grazie ai lavori di costruzione e manutenzione della Ferrovia Orientale Cinese; i dati di allora indicano una popolazione cittadina di 68.549 abitanti, dei quali la maggioranza assoluta russi (34.313, il 50,06%) e poco più di un terzo cinesi (23.537, 34,37%). Tuttavia, erano in totale ben 53 le differenti nazionalità dei cittadini di Harbin e oltre alla lingua russa e al cinese erano parlate ben 45 lingue diverse.[1] In quel momento, appena l'11,5% di tutti i residenti in città erano effettivamente nati ad Harbin.[2]

Nel dicembre del 1918, durante la guerra civile russa, alcune migliaia fra importanti ufficiali e soldati andarono in esilio ad Harbin.

A questo punto, Harbin, divenne un centro in cui ancora maggiore fu la presenza di Ebrei e soldati bianchi dalla guerra civile russa, che andarono in esilio e si stabilirono lì.

Divenne la città con più russi al di fuori della Russia.[3] I russi di Harbin costruirono alcune decine di scuole russe, e pubblicarono anche riviste e giornali di letteratura russa.

Nel 1921 Harbin era ormai diventata la città più popolosa della Manciuria settentrionale e aveva una popolazione di 300.000, di cui 100.000 russi.[4]

La comunità russa di Harbin raggiunse il suo picco nei primi anni '20, quando ammontava da circa 120.000 persone.[5]

Nel Dongbei prendono forma un'economia internazionale, un centro finanziario, nonché centro di traffico. Dal canto loro, i cinesi di Harbin hanno costruito, nel contesto delle imprese, industrie per la fermentazione di alcolici, industrie alimentari e tessili. Anche per questo motivo, Harbin aveva stabilito il suo essere vista come centro importante della parte settentrionale del Dongbei cinese, e si era trasformata in una città dallo status internazionale. Una dopo l'altra, 16 nazioni istituirono dei consolati a Harbin, dove si insediarono moltissime banche e imprese industriali, commerciali e di ogni tipo.

Nei primi anni '20, secondo recenti studi cinesi, oltre 20.000 ebrei vivevano ad Harbin.[6]

Il Giappone invase la Manciuria subito dopo l'incidente di Mukden nel settembre 1931. Dopo la conquista giapponese di Qiqihar, Harbin venne accerchiata da ovest e da sud. I bombardamenti dell'aviazione giapponese convinsero l'esercito cinese a ritirarsi dalla città, abbandonando Harbin alla mercé dell'invasore. L'occupazione di Harbin venne completata dai giapponesi in poche ore.[7] La maggioranza degli ebrei di Harbin (13.000 nel 1929) fuggirono dalla città in quanto i giapponesi erano legati al Partito Fascista Russo, il cui anti-bolscevismo e nazionalismo era accompagnato anche da un virulento antisemitismo.[8]

 Monumento ai soldati sovietici nel distretto di Nangang di Harbin, costruito dall'Armata Rossa nel 1945.

L'esercito sovietico occupò la città il 20 agosto 1945[9] e Harbin non finì mai sotto il controllo del Kuomintang cinese, le cui truppe si fermarono a 60 km dalla città.[10] L'amministrazione della città fu trasferita dall'esercito sovietico al Esercito popolare di liberazione cinese nell'aprile 1946. Il 28 aprile 1946 venne stabilito il governo cinese di Harbin, rendendo la città di 700.000 abitanti la prima grande città cinese ad essere governata dai comunisti. Durante la breve occupazione sovietica (dall'agosto 1945 ad aprile 1946) migliaia di immigrati russi che erano stati identificati come membri del Partito Fascista Russo ed erano fuggiti dalla persecuzioni dei comunisti dopo la rivoluzione d'ottobre[5] furono deportati a forza in Unione Sovietica. Dopo il 1952 l'Unione Sovietica lanciò una seconda ondata di immigrazione forzata in Russia.[5] Nel 1964 la popolazione russa di Harbin era ormai crollata ad appena 450 unità.[11] Il resto della comunità europea (russi, tedeschi, polacchi, greci, ecc.) emigrarono durante gli anni 1950–54 in Australia, Brasile, Canada, Israele e USA, o furono rimpatriati nei loro Paesi di origine.[5] Per il 1988 la comunità russa originale era ridotta ad appena 30 persone, tutti anziani. La moderna comunità russa di Harbin è costituita quasi esclusivamente da persone emigrate durante gli anni 1990 e 2000 e non ha collegamento con l'antica comunità russa della città.