天平13年（741）に聖武天皇の詔によって全国に建てられた国分寺の一つ。建武元年（1334）に円源房宣基により再建され、『天橋立図』には五重塔と金堂、中門や塀、堂舎が描かれている。『国分寺略縁起』によれば天文11年（1542）の兵乱で焼失したとあり、現在は礎石を残すだけとなっている。聖武天皇の詔は、国ごとに金光明最勝王経一部を安置した七重塔、国分寺、国分尼寺を造るというもので、造塔は国のもっとも良き箇所になすこととあった。天橋立を見下ろすこの地は、まさに詔どおりといえよう。

南北朝時代の『丹後国分寺再興縁起』によれば鎌倉時代後期には衰退し、本尊の薬師如来像までもが盗難にあう有様であった。宣基上人は奈良・律宗西大寺派の支援を受けて伽藍を再興、造営には大坂・四天王寺大工と地元・府中大工が参加した。

建武元年4月、後醍醐天皇の勅使が参列し金堂供養が営まれる。丹後・大和の僧衆も一堂に会して華やかな舞楽に彩られた盛大なものであった。

天文の兵乱以後の国分寺の消息については不明だが、寺伝によれば天和3年（1683）の洪水によって堂宇が破損したとあり、その後に背後の丘陵地へ移転し、現在の護国山国分寺となっていることから再々興した建物があった可能性も指摘されている。