До этого подготовка оркестрантов проходила при военных хорах или в так называемых «школах для солдатских детей», где детям давали только практические навыки игры на инструменте. Ни общее, ни музыкально-теоретическое образование обязательными не считались.
В мае 1873 общеобразовательная школа для матросских детей при восьмом флотском экипаже была преобразована в специальное военно-учебное заведение. Музыкальным руководителем и педагогом школы был назначен Н. А. Римский-Корсаков, который в то время служил инспектором Военно-музыкантских хоров Морского ведомства. Школа была рассчитана всего на 20 человек. В нее принимали мальчиков с 14 лет или рекрутов с музыкальными способностями – пять человек ежегодно. После четырех лет обучения они были обязаны еще шесть отслужить в военном оркестре. Знания, получаемые в школе, были разнообразными: кроме общеобразовательных предметов будущие оркестранты изучали нотную грамоту, теорию музыки, сольфеджио. Выходя из школы, они умели играть на всех духовых инструментах и на одном из смычковых. На капельмейстерском отделении готовили военных дирижеров.
В 1901 году школа получила новое название Музыкантская школа Балтийского флота. С 1917 года школа поступила в ведение Народного Комиссариата Просвещения РСФСР и в 1923 была закрыта – «в связи с трудностями» в этом ведомстве.