Die National Gallery wurde 1824 ins Leben gerufen, nachdem die britische Regierung die Sammlung des russischen Bankiers John Julius Angerstein gekauft hatte. In den ersten 14 Jahren wurden die Bilder vorübergehend in Angersteins Haus untergebracht. Später folgten weitere Schenkungen von Sir George Beaumont und William Holwell Carr, mit der Bedingung, ein passenderes Gebäude für die Sammlung zu errichten, was 1838 auch geschah. Italienische Malerei aus dem 15. und 16. Jahrhundert war nun das Herzstück der noch jungen Sammlung und in den nächsten 30 Jahren sollten vor allem Werke von Meistern der Spät-Renaissance folgen.

Mitte des 19. Jahrhunderts veränderte sich die Sammlung, da der erste Direktor Charles Eastlake seine absolute Autorität dazu verwendete, Werke früher, aus nördlicheren Ländern stammenden sowie italienischer Meister anzuschaffen. Der dritte Direktor Frederic Burton bevorzugte die Kunst des 18. Jahrhunderts und machte einige bedeutende Erwerbungen aus englischen Privatsammlungen, wie Die Gesandten von Hans Holbein dem Jüngeren. Nachdem die National Gallery weiter wuchs, wurden 1897 viele britische Werke in die Tate Gallery überführt.

1906 wurde die Venus vor dem Spiegel von Diego Velázquez als erstes wirklich bedeutendes Werk vom National Art Collections Fund erworben, wie später viele andere auch. Die Leinwand dieses Bildes wurde 1914 von Mary Richardson eingeschlagen, um gegen die Misshandlung von Frauen zu protestieren. Im 19. Jahrhundert besaß die National Gallery keine Werke von zeitgenössischen Künstlern, doch dies änderte sich, nachdem Hugh Lane 1917 einige impressionistische Bilder an die Sammlung vererbte. Ein Fonds für den Erwerb von moderner Malerei wurde 1924 von Samuel Courtauld eingeführt, über den Bilder wie die Badende bei Asnieres von Georges Seurat gekauft wurden. Als der Zweite Weltkrieg ausbrach, wurde die Sammlung in ein sicheres Bergwerk nahe der Stadt Blaenau Ffestiniog, in Nord-Wales gebracht, während das Gebäude in London als Konzerthalle diente.

In den letzten Jahren waren Persönlichkeiten wie Lord Sainsbury, nach dem der Sainsbury-Flügel benannt ist, Lord Rothschild oder Sir Paul Getty wichtige Förderer der National Gallery.