Die seit 1840 vom schweizerischen Kunstverein organisierten Turnusausstellungen geben 1847 den Anstoss zur Erweiterung des Künstlergüetlis um einen kleinen Galerietrakt von Gustav Albert Wegmann. In dem neuen «Museum» dominiert lange die 1854 geschenkte Sammlung des Obersten Keller zum Mohrenkopf, ein repräsentativer Querschnitt durch die Zürcher Malerei von Hans Asper bis ins 18. Jahrhundert.
Der erste Konservator und spätere Direktor, Wilhelm Wartmann (1909 bis 1949), konzentriert sich angesichts der geringen Bestände zunächst auf Schweizer Kunst. Neben der damals besonders interessanten aktuellen Produktion bildet er Werkgruppen mit spätgotischer Malerei und Gemälden Johann Heinrich Füsslis.
Als sich 1917 anlässlich der grossen Ausstellung Ferdinand Hodlers zeigt, dass die Ankaufsmittel der Kunstgesellschaft ungenügend sind, gründet Alfred Rüetschi die «Vereinigung Zürcher Kunstfreunde», die die Sammlung des Kunsthauses bis heute regelmässig mit bedeutenden Erwerbungen erweitert. Er selbst stellt mehrere grosse Kompositionen und bedeutende Landschaften Hodlers zur Verfügung.
1920 erhält das Kunsthaus als Legat die Sammlung von Hans Schuler und damit erstmals Werke des französischen Impressionismus und Postimpressionismus: Renoir, Cézanne, Van Gogh, Bonnard. 1922 organisiert Wartmann nach langjährigen Vorbereitungen seine erste Ausstellung mit Edvard Munch und beginnt, die grösste Munch-Sammlung ausserhalb Skandinaviens aufzubauen.
1925 erweitert Karl Moser das Kunsthaus. 1929 beginnt Hans E. Mayenfisch für das Kunsthaus Gemälde lebender Schweizer zu kaufen; bei seinem Tod 1957 war der Bestand auf über 450 Werke angewachsen. Der Nobelpreisträger Leopold Ruzicka errichtet 1949 mit seiner hervorragenden Sammlung niederländischer Malerei des 17. Jahrhunderts eine Stiftung. René Wehrli löst 1950 Wilhelm Wartmann als Direktor ab; er legt das Hauptgewicht auf die französische Malerei seit Monet; im Anschluss an die Monet-Retrospektive werden die beiden grossen Seerosen-Panneaux erworben.
Erneuerung von Gebäuden und Strukturen
Von 1998 bis 2000 wird an der Winkelwiese 4 die Villa Tobler als neuer Sitz der Direktion und zu Repräsentationszwecken denkmalpflegerisch renoviert. Im September folgt Christoph Becker als neuer Direktor auf Felix Baumann und die Stimmberechtigten der Stadt Zürich verabschieden einen Sanierungskredit von CHF 28,5 Mio. CHF für das Kunsthaus. 2001 beschliesst der Kunstrat ein neues künstlerisches Leitbild. Interne Arbeitsgruppen und ein öffentliches Expertenhearing zur Zukunft des Kunsthauses unterstützen die Reform der internen Strukturen, während die Renovation des Bestand (2001–2005) beginnt.