4 декабря 1891 года архимандриту Гедеону повелено быть епископом Люблинским, викарием Холмско-Варшавской епархии. 12 января 1892 года в Александро-Невской лавре хиротонисан во епископа Люблинского.
22 декабря 1896 года уволен на покой.
С 6 ноября 1899 года — епископ Прилуцкий, викарий Полтавской епархии. Прибыл в Полтаву 28 ноября.
С 12 августа 1904 года — епископ Владикавказский и Моздокский. Много времени уделял миссионерской работе.
16 сентября 1908 года уволен на покой, согласно прошению, по болезни, с местопребыванием на подворье Второ-Афонского Успенского монастыря в Пятигорске.
24 января 1909 года перемещен в Лубенский Мгарский Спасо-Преображенский монастырь Полтавской епархии.
Скончался в 1922 году.
