Иоанновский женский монастырь основан в 1900 году выдающимся молитвенником, печальником и чудотворцем Земли Русской, протоиереем Кронштадтского собора святого апостола Андрея Первозванного отцом Иоанном Ильичом Сергиевым (нареченным народом Кронштадтским). Отец Иоанн – последний русский святой дореволюционной эпохи, его нзывали "Всея России чудотворцем", "Всероссийским батюшкой". Почитал его не только православный народ и не только в России – к нему за помощью обращались иноверцы, приезжавшие с разных концов земли. Еще при жизни его считали святым. Он был канонизирован Русской Православной церковью в 1990 году. В 1899 году на своей родине, в селе Сура на реке Пинеге в Архангельской губернии, Иоанн Кронштадтский основал Иоанно-Богословскую общину. Обитель была очень бедна, поэтому для ее поддержки отец Иоанн решил приобрести в столице участок земли и выстроить на нем подворье с храмом и часовней. Небольшой участок земли на берегу Карповки для постройки пожертвовал потомственный почётный гражданин С. Г. Раменский.

Закладка подворья состоялась в мае 1900 года. Вскоре была выстроена деревянная часовня. В сентябре началось строительство каменной обители в византийском стиле по проекту Николая Никонова. Монастырский комплекс стал крупнейшим петербургским произведением архитектора. Строительство двинулось так живо, что к концу года обширное главное здание с двухэтажным храмом внутри было доведено до чердачных перекрытий. В следующем году над зданием поднялись округлые шлемовидные "древнерусские" купола на широких барабанах с полуциркульными романскими арками. Строительство большого пятиглавого храма продолжалось до 1902 года. Осенью 1902 года отец Иоанн обратился в Синод с просьбой о переименовании Сурского подворья в самостоятельный женский монастырь во имя Святого Иоанна Рыльского, которая была удовлетворена.

В дальнейшем в комплекс вошли пятиэтажный жилой дом, лазарет, иконописная мастерская и хозяйственные постройки. Все строения решены Н. Н. Никоновым единым "блоком", не поддающимся расчленению. Целостность композиции подчеркнута идентичным построением фасадов образующих ее зданий.

В облике монастыря ясно ощущается воздействие византийских прототипов. Стены облицованы керамической плиткой в два тона. Кровля куполов ранее была покрыта блестящей поливой белого, зеленого и синего цветов. Купола храма на круглых световых башнях и высокая, асимметрично поставленная на западной стороне столпообразная колокольня помогают комплексу выполнять роль запоминающегося градостроительного акцента в этой части Аптекарского острова.

"Храм сей отличается благолепием и вместительностью", - сказано в путеводителе по городу, изданном в начале ХХ века. Два верхних этажа главного здания соединены в один, и в нем устроена высокая просторная церковь во имя Двенадцати Апостолов (освящена 17 декабря 1902 года), рассчитанная на 1000 прихожан. Храм украшали три резных дубовых иконостаса. Беломраморный престол его главного алтаря был украшен рельефными металлическими позолоченными изображениями Рождества Христова, Преображения Господня, Тайной Вечери и Двенадцати Апостолов. Всю полукруглую стену за алтарем занимали два яруса художественных цветных витражей – образов, среди которых выделялись образа Иисуса Христа, Божией Матери и Святого Иоанна Предтечи. В апреле 1903 года был освящен правый придел – во имя образа Богородицы Казанской, а в октябре того же года – левый, во имя Преподобномученика Андрея Критского и Преподобной Марии. На колоннах расположены хоры, где во время богослужения находился монастырский хор. В нижнем этаже расположена небольшая церковь во имя болгарского святого, небесного покровителя храмоздателя – Преподобного Иоанна Рыльского, освящённая 17 декабря 1901 года.

Богато и разнообразно в соответствии с эскизами Н. Н. Никонова были декорированы основные интерьеры монастыря. Сложный по рисунку пол храма выложили из цветных керамических плиток, а окна заполнили красочными витражами. Прекрасными украшениями церковного зала двухъярусные дубовые иконостасы, престолы и жертвенники, выполненные из мрамора, паникадило из чеканной меди. Несколько сдержаннее, но достаточно представительно были оформлены расположенные на втором этаже под алтарём храма помещения, предназначавшиеся для отца Иоанна Кронштадтского.

Когда в декабре 1908 г. отец Иоанн скончался, для его погребения послужила небольшая церковь-усыпальница с иконостасом из белого мрамора, устроенная незадолго перед этим в подвальном этаже монастыря тоже по проекту Н. Н. Никонова. Храм был освящен во имя Святого Пророка Илии и Царицы Феодоры – небесных покровителей родителей батюшки, на следующий день после смерти отца Иоанна – 21 декабря 1908 года, а 22 декабря в беломраморной гробнице батюшка был погребён. На похоронах присутствовало около 60 тысяч человек – такое количество народа, собравшегося проводить почившего в последний путь Петербург видел впервые (на похоронах Александра III было 10 тысяч человек, 30 тысяч на похоронах Ф. М. Достоевского). Усыпальница сразу же стала местом массового паломничества верующих.

В конце июня 1911 года была выстроена и освящена каменная часовня во имя преподобного Серафима Саровского, стоявшая на углу Карповки и Иоанновского переулка.

В 1923 году монастырь был закрыт, почти все монахини были в начале 30-х годов арестованы и приговорены к ссылке в Казахстан. Вход в усыпальницу отца Иоанна в 1926 году был замурован. Помещения монастыря долгое время были заняты квартирами, общежитием, швейным цехом. В 1989 году власти вернули обитель Церкви, и сначала в ней разместилось подворье Пюхтицкого женского монастыря. 1 ноября 1989 г., в день рождения отца Иоанна состоялось освящение нижнего храма во имя святого Иоанна Рыльского. Большой храм во имя Двенадцати Апостолов после произведенного ремонта был вновь освящен летом 1991 года. В 1992 году по благословению Патриарха Иоанновская обитель стала самостоятельным ставропигиальным монастырём. В настоящее время монастырь является одним из главных центров православного паломничества.