Clădirea impunătoare, declarată monument de arhitectură, a fost construită în stil neo-brâncovenesc după proiectul renumitului arhitect Victor Ștefănescu la începutul secolului XX și a fost destinată inițial găzduirii Institutului Geologic.

Carol I a semnat în 1906 decretul regal de înființare a institutului, act care poate fi văzut, în original, chiar în holul de la intrare al muzeului.

Acum un secol, pe lângă activitatea de cercetare desfășurată aici, existau și colecții de roci și minerale care puteau fi vizitate de public – un muzeu incipient organizat în sala „Colecțiuni” de la parter.

Primul custode al colecțiilor, Iuliu Moisil, care era în același timp și bibliotecar al institutului, a fost urmat apoi de tineri geologi la acea vreme – St. Cantuniari, V. Papiu, Al. Codarcea, Gh. Murgeanu, Gr. Raileanu.

Schimbările suferite de institut au afectat și muzeul, astfel că în 1964, Al. Semaka, numit custode, devine un susținător activ al valorificării colecțiilor într-un muzeu național.

După reinventarierea pieselor existente s-a pornit un schimb cu alte institute de profil din străinătate pentru completarea fondului existent, în același timp cu reorganizarea pe tematici.

Încercarea de a organiza un muzeu a fost zădărnicită de bombardamente și cutremure, culminând cu cel din 1977, când imobilul a fost grav afectat, colecțiile fiind mutate temporar într-o altă clădire. Lucrările de refacere și consolidare a clădirii au demarat abia în 1983, cu un proiect care, fără a afecta stilul inițial, corespundea ideii de muzeu, de colecții deschise, vizitabile de un public larg.

Refacerea clădirii s-a făcut întocmai, pornind de la fotografiile de epocă, mai puțin sala Bibliotecii, care avea mobilier masiv de stejar până sub tavan (12 m înălțime !) și o scară în spirală ce ducea la balconul ce înconjura sala ca un brâu.Pana in 1989, cand s-a incheiat consolidarea, au existat propuneri ca incinta sa-si schimbe destinatia, sotii Ceausescu dorind sa amenajeze aici un muzeu al trofeelor de vanatoare.

Deschiderea oficială a Muzeului Geologic s-a făcut, în sfârșit, în aprilie 1990. În prezent, muzeul este o secție a Institutului Geologic al României, iar oamenii care lucrează aici sunt în marea majoritate geologi.