19 червня 1887 прийняв чернечий постриг, 29 червня того ж року висвячений на ієромонаха, призначений викладачем Київської духовної семінарії. Потім деякий час викладав в Орловській духовній семінарії та Санкт-Петербурзькій духовній академії. З 1893 — ректор Могильовської, пізніше — Волинської духовних семінарій. З 31 січня 1899 — єпископ Новгород-Сіверський, вікарій Чернігівської єпархії, з того ж року — єпископ Ковенський, з 1902 — єпископ Омський і Семипалатинський. З 1905 перебував на Гродненській єпископській кафедрі з резиденцією у м. Ковно, з 1912 — архієпископ Гродненський і Брест-Литовський. З 1915 до липня 1921 проживав у Москві в Чодовому монастирі. У 1917—18 брав участь у Всеросійському помісному соборі у Москві. З 23 липня 1921 (за іншими даними — з січня) — митрополит Київський і Галицький, патріарший екзарх Російської православної церкви в Україні. Приїхав у Київ у серпні 1921 (за іншими даними — в липні), проживав у Києво-Печерській лаврі (див. ст. 489.1.10). Головним своїм завданням на цьому етапі вважав досягнення церковної єдності в умовах утворення в країні Української православної автокефальної церкви. 19 жовтня 1921 прибув на Всеукраїнський собор УАПЦ, що відбувався у Софії Київській, однак рішуче відмовився висвятити кандидатів з числа українських священиків на єпископів. 5 лютого 1923 заарештований радянськими органами влади, які побоювались його авторитету серед віруючих, завдяки якому могли зірватися плани ДПУ з утворення обновленських груп і розколу духівництва України. До 1925 перебував в ув'язненні, пізніше — на засланні в Ташкенті. 1926—27 проживав у Москві без права виїзду, потім – знову на засланні на Північному Кавказі. 1927—28 перебував у Харкові, у грудні 1927 призначений членом Тимчасового патріаршого Святійшого Синоду, утвореного Сергієм (Страгородським). З кін. 1928 жив у Києві в Свято-Михайлівському Золотоверхому монастирі, де 30 березня 1929 помер.
1 квітня його було поховано в склепі із зовнішнього боку Теплої, або Малої Софії за горнім місцем приділу священномученика Макарія. Місце поховання не позначене. Існують непідтверджені відомості, що останки Михаїла (Єрмакова) було перепоховано у 1930-х рр. в іншому місці.