Glavna naloga muzeja je bila zbirati vse predmete, povezane z zgodovino Ljubljane, njeno vlogo v duhovnem in narodnem smislu ter z razvojem sodobne Ljubljane. Turjaško palačo je mesto odkupilo od banovine, dve leti po ustanovitvi muzeja pa so odprli prvo stalno postavitev.
Hribar postavi temelje za prvo likovno zbirko
Ivan Hribar, ki je Ljubljani županoval med letoma 1896-1910, se ni ustavil le pri ideji, ustanovil je posebno mestno zbirko in bodočemu muzeju podaril starinsko zbirko orožja. Hribar je imel svojo vizijo za narodno osvoboditev. Njegov narodnostni boj je temeljil na predpostavkah, da je poleg vzpostavitve ekonomske moči potrebna tudi naša notranja osvoboditev, da bomo Slovenci lahko vzpostavili politično moč.

Zamislil si je tudi kulturne institucije - muzeje, knjižnice, arhive - ter postavitev spomenikov slovenskim zaslužnim možem. Hribar, ki mu cesar Franc Jožef po letu 1910 zadnje izvolitve ni potrdil, saj je bil zaradi delovanja v času protinemških demonstracij leta 1908 v cesarjevi nemilosti, je za protiutež "nemškemu" Narodnemu muzeju želel postaviti "slovenski" muzej, ki naj bi zbiral vse predmete, povezane z Ljubljano ter z vlogo mesta v duhovnem in narodnem smislu. Mestna občina je odkupovala likovna dela od umetnikov in s tem je Hribar zasnoval prvo likovno zbirko bodočega muzeja.
Korak k ustanovitvi se je kasneje zgodil v Beogradu, leta 1934 na kongresu zveze mest Kraljevine Jugoslavije, kjer je takratni ljubljanski podžupan Evgen Jarc razpravljal o kulturni vlogi naših mest. Pozneje je svojo vizijo utemeljeval z besedami, da bodo v razvoju ljudske izobrazbe muzeji pomembno dopolnilo historično-filološkemu bistvu šol in univerz.
V zapisniku seje leta 1936, so člani mestnega kulturnega oddelka jasno zapisali, kakšen muzej si želijo: "Mestni muzej je lokalni muzej mesta Ljubljane in obsega zbirke od najstarejše dobe do današnjih dni […] Posebno naj pokaže razvoj mesta Ljubljane [...] Ravnatelj mora biti akademsko izobražen, z načelnikom urada skrbita za pravilno uporabo kreditov, sicer je v strokovnih poslih povsem samostojen."
Najprej o zgodovini stanovanjske kulture meščanstva
Mestni muzej Ljubljana je sprva vodil poseben kuratorij pri občini, k sodelovanju in urejanju zbirk so bili povabljeni nekateri strokovnjaki. Prvo stalno postavitev so leta 1937 posvetili pregledu stanovanjske kulture meščanstva od poznega srednjega veka do prve polovice 19. stoletja, v nekdanji Auerspergovi palači pa je obsegala 14 sob.