Предыдущая деятельность Грессера не была отмечена выдающимися административными достижениями, поэтому его перевод в столицу стал неожиданностью для современников. В. П. Мещерский в связи с этим писал: «Уже одно то, что плохонький губернатор в Харькове оказался чуть ли не идеальным начальником полиции и градоначальником в Петербурге – в высшей степени курьезное явление. Факт тот, что ни до Грессера, ни после Грессера Петербург не имел подобной по энергии и здравомыслию личности во главе города. В разговоре о политике, о литературе, о великосветских злобах дня, о придворном мире – он казался менее сведущ и наивнее своего вестового; но когда вы входили в область его служебной деятельности, этот человек вдруг преображался не только в страстного любителя, но в гения своего дела».
Вступив в должность обер-полицмейстера, Грессер хорошо проявил себя при ликвидации студенческих волнений в дни коронационных торжеств.
В одиночку, верхом он подъехал к толпе и спокойным, но твердым голосом убедил всех разойтись, объяснив какие будут последствия в случае отказа. В июне 1883 г., когда обстановка в столице несколько стабилизировалась, император Александр III повелел «восстановить прежний порядок управления Санкт-Петербургом, присвоив начальнику санкт-петербургской полиции, по переименовании его из обер-полицмейстеров в градоначальники, предоставленные ему положением о Санкт-Петербургском градоначальстве полномочия». Петр Аполлонович был переименован из обер-полицмейстеров в градоначальники и продолжил управление городом. Под его руководством столичной полиции удалось ликвидировать остатки революционного подполья и предотвратить покушение на императора, запланированное на 1 марта 1887 г. Пятеро арестованных террористов (в том числе брат В. И. Ленина – А. И. Ульянов) были казнены в Шлиссельбургской крепости.
При Грессере в Петербурге открылись «Товарищество Санкт-Петербургского механического производства обуви» (с 1910 г. – фабрика «Скороход»), новый крытый рынок на Сенной площади, увеселительный сад «Аквариум» на Каменноостровском проспекте и бесплатные читальни для рабочих. Началось регулярное электрическое освещение Невского проспекта.
Скончался градоначальник от последствий неудачного лечения. Поверив в целительные свойства некоего «виталина», привезенного из Китая инженером Гачковским, Грессер заставлял делать себе уколы по 14 раз в день. При этом использовался непродезинфицированный инструмент, что привело к заражению крови.
Большинство петербуржцев искренне оплакивали смерть Петра Аполлоновича. Сибирский золотопромышленник К. И. Иваницкий пожертвовал 1000 рублей с тем, чтобы проценты с этой суммы выдавались каждые три года, в награду наиболее достойному городовому под названием «премии П. А. Грессера».