Brněnská konzervatoř vznikla z iniciativy Leoše Janáčka, a především ze studentů a pedagogů Janáčkovy varhanické školy, kterou Janáček v Brně založil již v roce 1881.
Německý učitelský ústav byl po první světové válce zrušen a v jeho budově po roce 1919 dále pokračovala Konzervatoř navazující na tradici varhanické školy návrhu skladatele Janáčka.