鎌倉時代から戦国時代にかけて活躍した高梨氏の居館跡
小館の高梨城は高梨政盛の全盛時代、永正7年(1510)越後の長尾為景(謙信の父)に加担して敵将を討ちとった魚沼郡長森原で戦いで信州へ凱旋した前後に築城したと言われています。
のち高梨城は、武田信玄勢の侵攻によって落城し、高梨氏(政頼の代)は越後上杉氏を頼りました。武田氏が天正10年(1582)滅亡してのち高梨氏(頼親の代)は、故郷へ帰還することができましたが、慶長3年(1598)上杉景勝に従って会津へ去りました。以来、堀の内は、ゆかりの人達によって遺跡として護られてきました。
周囲には空濠・土塁が残り、庭内に稲荷社・井戸跡・庭石なども残っています。
市が進めてきた高梨館跡公園の整備が終わり、平成13年11月2日、開園およびしゅん工式を同公園で実施しました。
中部地方の武士団の文化的レベルや方形館の発展過程を示すものとして高く評価され、平成19年2月には国指定史跡となりました。
毎年４月上旬になると、タカトウコヒガンザクラが見ごろを迎える、市内でもっとも早いお花見スポットとして親しまれています。