С 8 июля 1875 — епископ Люблинский, викарий Холмско-Варшавской епархии. Его главной задачей в это время было утверждение своей паствы в православии.
С 9 декабря 1878 — епископ Подольский и Брацлавский. Поощрял проповедническую деятельность подведомственных ему священников (сам много проповедовал и опубликовал около 60 своих слов, речей и бесед в «Подольских епархиальных ведомостях»), открытие церковно-приходских школ и создание из их учеников певческих хоров. Считал церковное пение хорошим способом воспитания у паствы религиозно-нравственного чувства.
С 6 марта 1882 — епископ Полоцкий и Витебский. За время управления этой епархией открыл 172 церковно-приходские школы, активно создавал хоры певчих, стимулировал введение общего хорового церковного пения. В каждой церкви епископом было предписано вести богослужебный журнал, в который записывать темы для проповедей, затем проверявшиеся епархиальным архиереем. В 1887 основал в Витебске братство во имя святого равноапостольного князя Владимира для религиозно-нравственного воспитания народа в духе православной церкви. В первый же год в состав братства вступили до пятисот человек.
25 февраля 1889 года был назначен присутствующим в Святейшем Синоде, с увольнением от управления Полоцкой епархией. Этот пост занимал в течение почти 12 лет.
Скончался в Санкт-Петербурге. Был погребён в Исидоровской церкви Александро-Невской лавры, в 1932 его останки были перенесены на Никольское кладбище.