二子山古墳の南にも長さ109mの鉄砲山古墳などがいくつかあり、小さな浅間塚古墳の上には前玉（さきたま）神社が建てられている。一の鳥居は、延宝４年（1676）忍城主阿部正能家臣と氏子により建立された。だが扁額には、よく見ると浅間神社の銘「富士山」と書かれている。
道路脇には神木が立っているが、推定樹齢600年、樹高20m、目通り幹周４mの埼玉県現存最大の槙の木（イヌマキ）である。
御嶽山信仰の奉納植樹の神木で、幹の中心にある空洞には木曽御嶽神社の石祠が祀られている。
前玉神社は延喜式神名帳に記されている古社であり、幸魂（さいわいのみたま）神社ともいう。神亀３年（726）正倉院文書戸籍帳に見える武蔵国「前玉郡（さきたまのこおり）」は、当神社より名付けられたとされ、後に「埼玉郡」へと漢字が変化し、現在の埼玉県につながり、県名発祥の神社であるともいわれている。参道を進むと二の鳥居の先がやや広い境内となる。
三の鳥居の先には石段があり、石碑がいくつも立っている。鳥居の左手には簡素な石舞台がある。
石舞台の左には、小さな境内社として商売繁盛の恵比寿様（右）と、菅原道真を祀る天神社があり、さらに左手には古い舞殿がある。
三の鳥居の先の石段を少し上った右手には、浅間神社がある。祭神は木花開耶姫命である。「新編武蔵風土記稿」では、成田氏の時代に忍城中の浅間神社を勧請したとされており、江戸時代に浅間神社の信仰が盛んになり、社名も浅間神社と称するようになり、明治になって旧に復し前玉神社になったという。
しかし今でも地元の人々は、総じて浅間神社と呼んでいる。
左に進むと右手に社殿に上る石段があるが、その階段を挟むように立つ灯籠は、万葉灯籠と呼ばれている。元禄10年（1697）氏子達が奉納した灯籠に、この地を詠んだ万葉集の歌が刻まれている。左は「小埼沼」の碑で、「前玉之 小埼乃沼爾 鴨曽翼霧 己尾爾 零置流霜乎 掃等爾有欺」 [埼玉の小埼の沼に鴨そ翼（はね）霧（き）る 己（おの）が尾に降りおける霜を払ふとにあらし ] 鴨が羽ばたきしているが、尾に降りつもった霜を振り払っているようだ、との旋頭歌である（巻九1744）。
右側は「埼玉の津」の碑で、「佐吉多万能 津爾乎流布禰乃 可是乎伊多美 都奈波多由登毛 許登奈多延曽禰」[埼玉の津に居（を）る船の風をいたみ 綱は絶ゆとも言（こと）な絶えそね] 埼玉の渡し場の船の綱が激しい風に切れることがあろうと、私たちの恋の便りは絶やさないでください、との相聞歌である（巻十四3380）。
「万葉集」の歌碑としては、全国的にも最も古いものの一つだといわれている。
