Добрую память семья Терещенко оставили по себе везде, и прежде всего — в родном Глухове. На пожертвования Терещенко были построены ремесленное училище, женская и мужская гимназии, педагогический институт, здание 1 банка. Здесь и поныне вспоминают, как застраивали для бедняков целые улицы. В последние годы жизни Николай хотел даже соорудить в городе водопровод, но местная власть признала это излишней роскошью. В целом же для своего родного города сахарозаводчики пожертвовали свыше полутора миллиона рублей.
В память о матери братья основали в 1879 г. бесплатную больницу Св. Ефросиний и записали в уставе своего Общества, что на её содержание будет ежегодно отчисляться два процента прибыли. А на приют для малолетних сирот и детей неимущих жителей Глухова, который основал отец в 1871 г., шло три процента.
Выдающимся памятником города является Треханастасиевская церковь, построенная на средства Николая и Федора Артемьевича Терещенко в 1885-1893 гг. как семейная усыпальница. Сооружена она в неовизантийском стиле по проекту академика архитектуры А. Л. Гунна и внешне очень напоминает собор Святого Владимира в Киеве. Большую часть настенной живописи в ней выполнили художники Александр и Павел Сведомские, принимавшие участие в отделке Владимирского собора. Из родового поместья в церковь был вырыт подземный ход, — говорят, сахарный магнат каждое утро ходил туда молиться. Николай Терещенко прославился многими добродетелями, не случайно четырнадцать лет подряд жители Глухова избирали его городским головой.