고려 초기에는 유서 깊은 곳에 석불이나 사찰을 건립한 경우가 많았다. 고란사도 그러한 곳 중의 하나이다. 고려가 개국한 이후 당시 백제의 유민들은 백제 말에 낙화암에서 빠져 죽어 수중 원혼이 된 백제 여인들을 명복을 빌기 위한 위령사찰로 고란사를 건립하였다. 당시 백제는 국운이 쇠퇴하여 나라가 망할 즈음에 삼천궁녀가 이 곳 백마강에 몸을 던졌다는 이야기가 전해져 오기 때문이다. 이 곳에 사찰이 건설된 것은 백제가 멸망한 이후일 것이며, 이 때문에 권세가들이 모여들어 이 고장의 목민관은 이들을 대접하기에 힘이 겨워 한 때 “골란사”라 부르기도 하였다고 한다. 고려 시대의 석불이 있었던 것으로 보아 고려시대에 이르러 창건했다고 추정된다. 1028년(현종19)에 백제의 멸망과 낙화암에 빠져 죽은 삼천 궁녀의 넋을 위로하기 위해 절을 창건하였을 것이다. 그 뒤 1629년(인조7)과 1979년(정조21)에 각각 중수되었다. 고란사의 조선 중엽의 모습은 당시의 문인 서경(西坰) 유근(柳根)의 시에서 엿볼 수 있다. 1959년 중건 시에 발견된 상량문은 1797년(정조21)에 작성된 것인데, 이 상량문에 의하면 고란사가 백제의 고찰임을 밝히고 있지만 그러한 사실을 입증할 만한 자료는 찾아지지 않는다. 한편 1959년에 고쳐 지을 때 사찰의 내부 구조와 지붕을 주로 개수하였으며, 그중 기와는 부여 경찰서 옆에 있던 옛날 기와집을 감리교회로 사용하다가 헐게 되자 그 기와를 옮겨 사용하였다고 한다. 1900년에는 부여군 은산면 각대리에 있던 숭각사(崇角寺)의 건물을 옮겨 중수하였으며, 불상도 이곳으로 이운하여 봉안하였다(이상은 불교tv에서 인용함)