Вступив в должность, Николай Васильевич первым делом решил навести порядок в деятельности канцелярии градоначальства, переложив значительную часть своих обязанностей на городское самоуправление. В результате значительно сократилось число поступивших в канцелярию градоначальства бумаг, равно как и суммы, израсходованные на содержание канцелярских чиновников, писцов, на освещение, отопление и канцелярские товары. Как отмечали современники, при Клейгельсе в городе «свирепствовала строительная лихорадка». Все больше улиц стало покрываться торцовыми мостовыми. Вместо малоэтажной застройки все больше стало появляться многоквартирных доходных домов. Для усовершенствования полицейского дела Николай Васильевич учредил в Петербурге конно-полицейскую стражу, которая достаточно хорошо зарекомендовала себя при ликвидации уличных беспорядков. По распоряжению градоначальника был открыт Музей Санкт-Петербургской столичной полиции и приют для полицейских-ветеранов.
Наиболее заметным событием правления Клейгельса стало празднование двухсотлетнего юбилея Санкт-Петербурга. Это событие было отмечено морским парадом на Неве, богослужением в Исаакиевском соборе, открытием Троицкого моста и различными мероприятиями в рамках «недели Петра Великого».
Служба Николая Васильевича на посту градоначальника окончилась скандалом. Некий гвардейский кавалерист Х., сын давнишнего приятеля Клейгельса, проматывал свое состояние и тратил огромные деньги на М., француженку, очаровывавшую весь кутящий Петербург. Отец Х. просил Клейгельса помочь, и тот потребовал выслать М. из столицы. Дело дошло до командующего гвардией великого князя Владимира Александровича, который встал на сторону Х. и при первой же встрече с Клейгельсом наговорил ему много резкостей и грубостей. Весть об этом разнеслась по городу, престиж градоначальника был подорван, и оставаться в Санкт-Петербурге ему было неудобно. Николаю Васильевичу предложили место киевского генерал-губернатора.
В 1909 г. вследствие болезни он оставил службу и скончался 20 июля 1916 г. в Финляндии. Тело его перевезли в Петербург и 27 июля после отпевания в церкви всех Скорбящих Радость в Новодевичьем монастыре похоронили на монастырском кладбище. Сообщая о кончине Клейгельса, «Вестник полиции» писал: «В столице по себе Н.В. Клейгельс оставил добрую память, и все его знавшие в тяжелое время, которое мы переживаем, с чувством особой скорби прочтут известие о кончине верного царского слуги, доброго начальника и отзывчивого к нуждам всех обывателей столицы градоначальника».