Nach knapp zweijähriger Bauzeit wurde am 17. Mai 1903 das Gebäude, in dem sich heute das Institut für Kirchenmusik befindet, offiziell seiner Bestimmung übergeben. Zuvor war das 1822 von Carl Friedrich Zelter gegründete Königliche Institut für Kirchenmusik bereits mehrfach umgezogen. Untergebracht war es in Neukölln am Wasser 4 (dem heutigen Märkischen Ufer), in der Alexanderstraße 22 (beim Alexanderplatz) und schließlich in der Oranienburger Straße 29.

1889 erhielt die Einrichtung ein eigenes Haus im Garten der 1869 gegründeten Hochschule für Musik in der Potsdamer Straße 120. Der Neubau in der Hardenbergstraße, seinerzeit als Eckhaus eingebunden in die im Krieg zerstörte Wohnbebauung, die sich zum heutigen Ernst-Reuter-Platz erstreckte, wurde an der Außenseite in grob behauenem rotem Sandstein ausgeführt, und war auf Wunsch des damaligen Direktors Robert Radecke „von außen durch ein Thürmchen” gekennzeichnet. In diesem Türmchen, im Turmzimmer, das über eine Galerie in der Aula erreicht werden kann, ist heute ein Teil der Institutsbibliothek untergebracht.

Die romanischen Stilelemente in der Fassade, Rundbögen, schmale Fenster mit Gewände, ein Balkon in Form einer mittelalterlichen Außenkanzel (mit der Inschrift: Königlich akademisches Institut für Kirchenmusik) haben dem Gebäude, das als eine der wenigen erhaltenen Altbauten in der unmittelbaren Umgebung besonders auffällt, den Namen „Burg” eingebracht.