U suboru 26. septembra 2020. Istorijski arhiv Beograda obeležava 75 godina od osnivanja.Istorijski arhiv Beograda kao jedan od najmodernijih arhiva u zemlji, odigrao je značajnu ulogu u razvoju arhivske službe Srbije. Iako nema ingerencije matičnosti, uvek je po svojoj organizaciji, kadrovima i poslovima koje je obavljao predstavljao uzor mnogim arhivima. Nadležnost Arhiva obuhvata područje Skupštine grada Beograda odnosno svih 17 gradskih opština.
Povod za nastanak ove institucije bio je, pre svega, da se zaštiti i sačuva izuzetno značajna građa Zemunskog magistrata, nastala još u XVIII veku. Upravo zbog toga, na predlog prosvetnog odeljenja Izvršnog odbora narodnog odbora grada Beograda, na sednici 26. septembra 1945. godine, doneta je Odluka da se osnuje samostalna ustanova «Gradski arhiv», sa zadatkom da prikuplja originalne dokumente društvene i privatne zaostavštine čiji je rad vezan za razvoj Beograda i Zemuna. Od osnivanja Arhiv je bio u sastavu Gradske biblioteke, da bi se 1947. godine odvojio i nastavio da deluje kao samostalna institucija. Od 1954. godine nalazio se u zgradi bivše Кlasne lutrije (ugao Vasine i Zmaj Jovine ulice).
Sadašnji naziv Arhiv je dobio Odlukom Gradskog veća i Izvršnog odbora grada Beograda na sednici održanoj 24. januara 1958. godine.