Женский монастырь на Каменной горе начинался как монашеское поселение, организованное монахом Савватием в 1628–1629 гг. До 1683 г. монастырь был известен как Каменогорский скит и на его территории были построены две церкви: одна – во имя Рождества Пресвятой Богородицы, вторая – во имя Николая Чудотворца.
С 1683 г. скит преобразован в женский монастырь по распоряжению епископа Митрофана. XVIII в. выдался очень тяжелым для монахинь. Монастырь был сначала упразднен, а затем и вовсе сгорел. И даже когда силами горожан был воздвигнут деревянный храм, их ходатайство о восстановлении монастыря было отклонено. На продолжение монашества сестер благословил святитель Тихон Задонский, который указал и место для строительства собора.
Вплоть до начала XIX в. монахини находились на Каменной горе нелегально, и также незаконно велось строительство соборного храма на деньги местных жителей. Однако, в 1822 г. Александр I издал распоряжение о возрождении Знаменского монастыря.
К XX в. монастырское подворье насчитывало более 200 насельниц. В обители находилось множество не только древних, но и чудотворных икон. Самой большой ценностью монастыря была блаженная затворница Мелания, которую впоследствии Русская Православная Церковь канонизировала.
После 1917 г. Знаменский монастырь был уничтожен в несколько заходов. Сначала были вытеснены монахини из обители, а их жилье было отдано под квартиры. Затем остальные здания были переданы под культурно-просветительские цели, в результате чего были сломаны или обветшали и разрушились.
С 1997 г. монастырский комплекс находится в ведении РПЦ. По благословению Патриарха Алексия II Знаменский монастырь был вновь открыт в 2004 г. Сегодня на территории монастыря ведутся крупномасштабные работы по его благоустройству.