この地は、二千年前の弥生時代から多くの人々が住んでいた。継体天皇が弟国宮（おとくにのみや）を築かれたともいわれるこの景勝の地に、推古天皇の勅願を受けた聖徳太子は、十一面観世音菩薩を本尊とする伽藍を建立させた。この寺が即ち乙訓寺である。
延暦三年（784）、桓武天皇がこの乙訓の地に遷都されたとき、京内七大寺の筆頭として乙訓寺を大増築された。この当時の境域は、南北百間以上もあり建てられた講堂は九間に四間の大建築で難波京の大安殿と同じ規模のもであった。翌年、藤原種継が春宮房の人々により暗殺されるや天皇は皇太子早良親王を当寺に幽閉された。
  嵯峨天皇は、弘仁二年（811）十一月九日太政官符をもって弘法大師（空海）を別当にされた。大師の残されたご事跡も多く、八幡明神の霊告をうけて合体の像を造り（現在の本尊・八幡弘法合体大師像）また、境内に実る柑子を朝廷に献上された。（性霊集に記載）
  弘仁三年(812)十月には、当寺を訪ねられた天台宗祖・伝教大師（最澄）と、密教の法論を交わされ灌頂の儀の契りを結ばれる。（伝教大師の弟子・泰範に宛てた書簡に記載）
  永禄年間（1558～1569）信長の兵火により一時衰微したが、元禄六年（1693）五代将軍綱吉は、堂宇を再建して乙訓寺法度をつくり、寺領を寄せ徳川家の祈願寺とせらる。
  昭和四十一年(1966)には、講堂や大師がご起居されたと考えられる単独僧坊跡が発掘調査され、出土瓦などにより平安期に隆盛を極めていたことがわかっている。草創から一千三百有余年、時に盛衰はあったが大師ゆかりの真言道場として今日に及んでいる。