戦国武将の中でも名高い上杉謙信が越後国春日山城に没すると、その遺骸は甲冑を身に纏った姿で甕に納められ漆を流し込んで埋葬された。後継者の上杉景勝が越後から会津、さらに米沢と移動の際にも、謙信の霊柩も一緒に運び、米沢城本丸に御堂を建立しそこに安置した。
元和９年（1623）景勝が他界すると現在の廟所に埋葬され、以後十二代藩主までここに埋葬された。明治政府の廃城令に伴い米沢城が解体される際に、謙信の霊柩はこの地に移された。
二代景勝から八代重定までは火葬で埋葬され、御堂は入母屋造りで、材質は欅を用い、柱は丸柱となっている。左が三代定勝の廟屋で、右が五代綱憲の廟屋である。
九代治憲から十二代斉定までは土葬となり、御堂も十代治憲（鷹山公）の考案による宝形造りで、材質も杉や檜を用い、柱は角柱と簡素になり、藩の財政事情が窺われる。左が七代宗憲で、その右に九代重定、十一代治広の廟屋が並んでいる。
中央の謙信霊廟の左には二代景勝の廟屋が建ち、次の四代綱勝の廟屋との間に十四代茂憲の記念碑が建てられている。
四代綱勝の左には六代吉憲、八代宗房、十代治憲とその子顕孝、十二代斉定の廟屋が並んでいる。
十代からは宝形造りで、十代治憲（鷹山公）の左の子顕孝の廟は少し奥まって建てられている。
