Город Стародуб славен тем, что в нем жил видный деятель музыкальной культуры второй половины XIX — начала XX века, профессор Петербургской консерватории Александр Иванович Рубец. Его имя было знакомо в России всем, кто интересовался музыкой. Он внес существенный вклад в область русского музыкального образования и просвещения, в развитие отечественной музыкальной культуры.

За плодотворную педагогическую деятельность в консерватории, большую исследовательскую работу в области музыкальной теории и практики в 1880 году А.И. Рубец был удостоен звания профессора.

В 1895 году композитора Рубца постигло несчастье — он потерял зрение, и в 1899 году Александр Иванович Рубец, ушедший по состоянию здоровья в отставку, переехал в город Стародуб. В Стародубе он продолжал давать уроки музыки, активно занимался общественной и благотворительной деятельностью.

В 1910 г. в селе Буда Корецкая на свои средства Александр Иванович Рубец построил школу; в Стародубе им были открыты кинотеатр, музыкальная школа (ныне ДШИ им. А.И. Рубца), школа рисования, курсы кройки и шитья. Также им были организованы детский и народный хор, симфонический оркестр, которые выступали под его руководством в созданном им же городском парке с эстрадой.

Труды А. И. Рубца являются ценным вкладом в нашу музыкальную литературу. Романсы, партитуры для хора, сборники русских и украинских песен не потеряли своей ценности до настоящего времени для мировой музыкальной культуры.

Среди известных учеников А.И. Рубца был уроженец деревни Ломаковка Стародубского уезда Константин Степанович Исаченко, а также оперный певец, профессор Петроградской и Бакинской консерваторий, Петр Константинович Левандо, певец-хорист.