Несколькими событиями ознаменовался для Кисловодска 1823 год. В этот год прибыл на минеральные воды А.П. Нелюбин, который письменно оформил полное врачебное, физико- химическое, медико-топографическое, историческое описание Нарзана.
Ещё одно событие – вдоль реки Ольховки заложили Кисловодский парк. Теперь вокруг Нарзана раскинулись плакучие ивы, душистые липы, раскидистые карагачи и каштаны, могучие тополи. В этом же году около источника построили ресторацию с залом для балов, танцев и помещения для приезжающих.
В 1827 году у источника стояли казённые кибитки для ванн, в них подогревали воду в самоварах из дерева. В 1829 году закончили возведение новой купальни, её обтянули сукном и полотном. Купальня вмещала шестнадцать ванн с тёплым нарзаном. В 1832 году появилась ещё одна купальня с восемью ваннами и два бассейна в проточном цельном нарзане.
Бурные ливни прошли в Кисловодске в 1845 году. Потоки грязной воды залили источник и парк.
До настоящего времени в Кисловодске сохранилась Нарзанная галерея, которую построили в 1858 году. Здание создано по проекту архитектора С.И. Уптона в английском средневековом стиле. Источник располагался в южной части галереи, в северной части были комнаты для приезжих. Общие купальные бассейны и ванны размещались на нижнем этаже.
Основательное курортное строительство начали в 1851 году. В 1856 году в Кисловодске насчитывалось 1004 человека, по склонам Ольховской и Берёзовой балок располагалась слобода. В неё входило 264 дома и деревянная церковь. Слободой управлял комендант Кисловодской крепости.