Поет Афанасій Фет, який проходив військову службу на території нашого краю, зокрема і в Єлисаветграді, писав у своїх мемуарах, що 1847 року цар заклав палац між центральними кварталами міста та Ковалівським передмістям. У другій частині своїх спогадів «Ранние годы моей жизни», в яких описана перша частина життя А. Фета, і які вийшли друком уже після його смерті у 1893 році, поет розповідає про неймовірну і малоочевидну історію з будівництва палацу: «Действительное не всегда вероятно. Справедливость этого изречения еще раз подтвердилась при постройке дворца в Елисаветграде, о которой я уже говорил раньше. На этом громадном сооружении, требовавшем несколько раз новых ассигновок со стороны казны, не взирая на возведение его домашними средствами поселения, сосредоточены были все заботы неутомимого начальника штаба В. О. фон-дер-Лауница. Главным строителем был надворный советник штатский инженер Шохин, и кроме него для наблюдения за работами прибыл из Петербурга полковник Мельцер, о котором я же говорил. Светлорусого Шохина, человека средних лет, обязательно появлявшегося при наших официальных представлениях у начальника штаба и у корпусного командира, - я не мог не знать, хотя на квартире у него ни разу не был. А небольшая белокурая с рыжеватым отливом жена его весьма редко появлялась на балах в собрании. Помнится, здание было возведено в три этажа. И так как материал подавался на постройку со всех концов по лесам, прилаженным в обширные окна, - понятно, что все ревизоры, в том числе и начальник штаба, входили в здание по лесам. Но кто поверит, что однажды при новом осмотре фасада оказалось, что в огромном дворце нет нигде дверей. Рассказывала мне Сливицкая, хорошо знавшая Шохину, что когда бедный Шохин узнал о своем недосмотре, то, вернувшись домой, схватил себя за голову и стал восклицать: «дверей нет! не понимаю! голова трещит, мозг вытекает!». Никакие усилия жены не могли его отвлечь от этой роковой мысли, и к вечеру он сошел с ума, а через два дня умер».