Art Gallery ligger i parken Joubert, et par blokke fra hovedbanegården i Johannesburg. Bygningen er designet af den britiske arkitekt Sir Edwin Lachensom og består af 15 udstillingshaller, samt flere udstilling områder i det fri til store skulpturer. Hans arkiv er en samling af britiske og hollandske maleri af XVIII-XIX århundrede, en samling af europæiske malerier af det XIX århundrede, samt en stor samling af nutidige værker af sydafrikanske og internationale kunstnere.

Collector Dorothea Sarah Alexander Florence Phillips, hustru til minedrift magnat Lionel Phillips dannede den første kollektion af galleriet på bekostning af de midler, bidrager med sin mand. Efter flytning til Johannesburg, begyndte hun at tage billeder med det formål at skabe et kunstgalleri, som senere blev Johannesburg Art Gallery. Det erhvervet en samling af malerier af den britiske kunstner og opkøber Sir Hugh Lane, udstillet i London i 1910. Lady Phillips doneret sin samling af blonder og overtalte sin mand til at formidle til syv galleri af malerier og skulpturer af Rodin.

Samlingen af ​​galleriet omfatter værker af Auguste Rodin, Dante Gabriel Rossetti, Pablo Picasso, Camille Pissarro, Claude Monet, Edgar Degas, Herbert Ward og Henry Moore, samt arbejdet i sydafrikanske kunstnere - Gerard Sekot Walter Battissa, Alexis Preller, Maud Sumner, Sydney Kumalo og andre.

Johannesburg Art Gallery blev åbnet for offentligheden i 1910 på campus ved University of the Witwatersrand. Arkitekten, Sir Edwin Lachens inviteret Lady Phillips, kom til Sydafrika i 1910 for at udforske området og begynde opførelsen af ​​bygningen af ​​galleriet. Men bygningen blev ikke gennemført i overensstemmelse med de skitser af arkitekten. Fem år senere, med starten af ​​byggeriet, bygningen åbnede sine døre for offentligheden uden ceremonien, lige efter Første Verdenskrig.

I slutningen af ​​1940'erne blev galleriet bygningen forlænges efter design af arkitekten Lachensa - bygget vest og den østlige fløj af bygningen. Den nordlige fløj af galleri med en moderne facade blev bygget under den sidste renovering af bygningen i år 1986-1987.