Исторический музей Степанцминда (раньше называлось Краеведческий Музей в Казбеги и дом-музей писателя Александра Казбеги) помещается в двухэтажном большом доме, принадлежавшем отцу писателя Александра Казбеги (полковник Михаил Казбеги первый грузин с которым Пушкин познакомился на территорию Грузии). В ограде перед домом, на могиле писателя, установлен памятник с помещенным на лицевой стороне, у заглублении, бюстом Александром Казбеги.
Экспозиции музей Степанцминда дает наглядное представление о минеральных богатствах Хеви, его флоре и фауне, этнографии и истории края; дополнительно к основной экспозиции в музее открыта постоянная выставка, экспонаты которой иллюстрируют сообщения о Военно-Грузинской дороге, заключающиеся в «Путешествии в Арзрум» А.С. Пушкина.
В отделе геологии прежде всего привлекают внимание сверкающие кристаллы горного хрусталя, находимого в горах Куро. В витринах выставлены образцы местных минералов, содержащих элементы меди, железа, серебра (пириты, халькопириты, ссребросодержащий галенит), горных пород, находящих применение в промышленности (асбест, андезит) и строительстве (кровельный сланец, гранит, порфирит, диабаз).
В отделе ботаники показаны полезные и декоративные растения Хеви, а рядом, в отделе исторического прошлого Хеви, посетитель музея имеет возможность ознакомиться с фотографиями и муляжами археологических находок в сел. Степанцминда, дающих представление о культуре первого тысячелетия до нашей эры в Хеви. Эти предметы, найденные в разных местах в с. Степанцминда и его окрестностях, представляют собой, как полагают археологи, не только инвентарь погребений, но и культовый клад. Часть находок, как, например, бронзовые фигурки, иногда сопровождающиеся орнаментально трактованными рогами, принадлежат VI — V в.в. до н. э., а другие предметы, в том числе-изящной работы серебряная чаша с изображением лебединых головок (оригинал хранится в Эрмитаже) — несколько более позднему времени, — V — IV в.в. до н.э.
В этом же отделе посетитель знакомится с чертежами обмера храма Гергетской Самебы, копией одной из сцен фресковой росписи Гвелетской церкви, фотографиями памятников средневекового зодчества Хеви и портретами представителей власти Грузии и правителей Казбегского района в XVII, XVIII и первой половины XIX в.в.
В отделе этнографии показан интерьер старого мохевского жилого дома с устроенным в земляном полу очагом, над которым висит надочажная цепь, служащая для подвешивания над огнем котла. Надочажная цепь символизировала в свое время крепость и единство семейного очага и поэтому из поколения в поколение являлась для членов данного рода предметом большого уважения и почитания.
Множество предметов, собранных в этом помещении, знакомят посетителя с вышедшими из обихода предметами утвари, старинными музыкальными инструментами и мастерски украшенной резьбой деревянной мебелью. Кроме того, в отделе этнографии выставлены рисунки костюмов обитателей Хеви, образцы оружия, в том числе художественно украшенные кинжалы, являвшиеся неотъемлемой принадлежностью вооружения мохевца.
Верхнем этаже музей Степанцминда зритель знакомится с материалами, освещающими жизнь и творчество писателя Александра Казбеги (Мочхубаридзе). Здесь собраны автографы и рукописи Александра Казбеги, сюда же поступил и его архив.
Количество единиц хранения музея 17859 экспонатов.