巴黎国立高等音乐学院是在“国民自卫军音乐学校”的基础上发展起来的。该校由贝尔纳.萨莱特(Bernard Sarrette)创建于1795年。
法国大革命以前，音乐教育一直是在隶属于各教堂教务会的儿童唱诗训练班、音乐学校或儿童唱诗班进行的。萨莱特原本计划在巴黎建立30所初级音无法学校和15所中级音乐学校以取代儿童唱诗训练班;另外再建几所高级进修学校和一所高等大学。然而到最后，只有这所高等大学如愿以偿地建成了。
学校聘请多位巴黎国立音乐学院的教授在校任教。其中包括MOUSIEUR JEAN-MARIE COTTET (PIANO钢琴)、MOUSIEUR JACQUES MAILLARD(MUSIQUE DE CHAMBRE，VIOLON 室内乐、小提琴)、FRANCIS DUDZIAK(chant声乐)等。
学院在villed'avray及巴黎的艺术生活中扮演重要的角色，音乐厅每周定期上演由学生排演的音乐会，学校亦组织优秀学生在巴黎的各个剧院公演。