Для очередного исследования вод отправляют аптекаря Швенсона, штаб-лекарей Крушневича и Гординского в 1802 году. Швенсон сделал количественный и качественный анализ источника, а Крушневич и Гординский наблюдали всё лето за больными и влиянием на течение болезни кислого источника. Через некоторое время они выдвинули идею о создании приспособлений для лечения и привлечения на эту территорию врачей.
В 1803 году князь Цицианов, главноуправляющий Грузии, согласовав с императором Александром I, строит крепостное укрепление около кислого источника с целью обезопасить приезжающих. В этом же году император Александр издал указ о том, что Кисловодск с минеральной водой и лечебной местностью относится к территории государственного значения.
Путешествовать к источнику было небезопасно, желающих отдохнуть сопровождал конвой казаков с пушкой. Поэтому недалеко от источника пришлось построить сторожевой пост. Сегодня эта сторожевая гора носит имя революционерки К. Ге, казнённой белогвардейцами в 1919 году. На другой горе дежурил казачий разъезд, возвышенность назвали Пикетом.
Кисловодская крепость значительно облегчила жизнь всем тем, кто набирался сил и лечился на минеральных водах. За крепостным валом находились офицерские мазанки и домики, артиллерийские погреба, кухни, продовольственные склады, казармы.