В 1936 году Зеленов был призван на службу в Рабоче-крестьянскую Красную Армию. В 1937 году он окончил Луганское военное авиационное училище.
Участвовал в советско-финской войне, был награждён медалью «За отвагу». С первого дня Великой Отечественной войны — на её фронтах. Участвовал в боях под Ленинградом. Исключительно успешно проводил воздушные бои. Так, только за апрель 1942 года он сбил 8 вражеских самолётов.
К июлю 1942 года старший лейтенант Николай Зеленов был заместителем командира эскадрильи 154-го истребительного авиаполка ВВС 8-й армии Ленинградского фронта. К тому времени он совершил 382 боевых вылета, принял участие в 47 воздушных боях, сбив 9 вражеских самолётов лично и ещё 8 — в составе группы.
Указом Президиума Верховного Совета СССР от 10 февраля 1943 года за «образцовое выполнение боевых заданий командования на фронте борьбы с немецкими захватчиками и проявленные при этом отвагу и геройство» старший лейтенант Николай Зеленов был удостоен высокого звания Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда».
29 июня 1944 года Зеленов погиб во время учебного воздушного боя под Выборгом. Похоронен на Шуваловском кладбище Санкт-Петербурга.
За время своего участия в войне Зеленов совершил более 600 боевых вылетов, принял участие в 117 воздушных боях, в которых сбил 24 вражеских самолёта лично и ещё 9 — в составе группы.
Навечно зачислен в списки личного состава воинской части. Был также награждён двумя орденами Красного Знамени, двумя орденами Отечественной войны 1-й степени, рядом медалей.
