Граф Попов, личный секретарь князя Потемкина, выстроил свой дворец неподалеку от села Оленевка на полуострове Тарханкут. В те времена, практически сразу после присоединения Крыма к России, такие здания в этой местности были редкостью. Владелец явно хотел показать свою состоятельность и силу. Даже сегодня строение отличается своей основательностью и необычностью. Вокруг господского дома устроили роскошный парк с редкими деревьями и кустарниками, разбиты фруктовые сады. Попов оказался рачительным хозяином, создав в этой части Крыма, среди выжженных степей, доходное имение. Друзья и гости Попова очень любили сюда приезжать, где их неизменно радушно принимали, и где можно было отдохнуть от городской суеты.
Время отнеслось к усадьбе благосклонно, а невзгоды обошли стороной. Несколько раз дворец реставрировали, но при этом была сохранена первоначальная архитектурная индивидуальность.