이렇게 교회가 비약적으로 발전하자 천주교를 반왕조적(反王朝的) 종교로 규정한 집권층에서는
천주교에 대한 일대 탄압을 단행한다. 1801년에 단행된 박해는 나이 어린 교회를 뿌리째 뒤흔들어 놓았으니,
이 박해로 말미암아 주문모 신부가 순교하였다. 이때 주문모 신부는 중국으로 피할 수도 있었지만,
자신이 피하면 신자들이 더 큰 고통을 당하게 되리라는 생각에 순교의 길을 택하였다.
이 박해의 와중에서 교회의 지도자인 신자들은 모두 죽임을 당한다.
당시 교회의 총회장 최창현과 명도회 회장 정약종,
그리고 충청도와 전라도 신앙 공동체의 지도자 이존창과 유항검이 이때 순교하였으며,
강완숙, 이순이(李順伊, 1781~1801년) 등과 같은 여성 신자들도 이때 순교하였다.
또한 이 박해에서는 앞서 배교를 선언했던 이승훈, 김건순(金建淳), 이희영(李喜英)과 같은 인물들도 사형 선고를 받았다.
그러나 정약용을 비롯하여 배교를 선언한 대부분의 신자들은 사형을 면하고 귀양을 떠나거나 방면되었다.
이때 황사영(黃嗣永, 1775~1801년) 백서 사건이 발생한다.
초기 교회에서 중요한 지도자 가운데 한 사람인 황사영은 박해가 발생하자 이를 피하여 제천에 이르렀다.
그곳에서 그는 북경의 주교에게 조선의 박해 상황을 알리고 구원을 요청하는 편지를 보내려 하였다.
이 편지는 도중에 발각되었고 그도 체포되었다.
편지 내용에는 조선 왕조의 존재를 부인하고 외국 세력의 개입을 요청하는 강경한 말들이 포함되어 있었는데,
이 때문에 조정은 천주교의 성행에 대하여 더욱 긴장하게 되었다.
그는 ‘신앙의 자유'라는 정당한 목적을 가지고 백서를 작성했지만,
‘무력적 외세'라는 부당한 방법을 제안하였고, 이 때문에 그의 행동에 대한 긍정적 평가가 인색하게 되었다.
결국 황사영도 자신의 행위 때문에 죽임을 당하였다.
1801년의 박해로 말미암아 교회는 큰 타격을 받았으나,
이 박해는 천주교 신앙을 더욱 널리 전파시키는 계기가 되었으니,
박해를 피해 각처로 흩어진 신자들은 피난처에서 새로운 신앙 공동체를 형성해 나갔다.
경상도나 강원도로 이주한 내포 지방 신자들은 비밀리에 신앙을 실천하면서 그 지역에 천주교 신앙의 씨를 뿌렸던 것이다.
박해가 끝난 이후 신자들은 교회 재건을 위하여 온 힘을 쏟았다.
당시 교회 재건에 힘쓴 신자들 가운데는 순교자 정약종의 아들 정하상(丁夏祥, 1795~1839년) 등이 있었다.
1801년의 박해 때 배교를 하고 귀양을 살던 정약용도 1811년 이후 교회 재건 운동에 참여하고 있었다.
이들은 북경의 주교에게 밀사를 보내어 선교사 파견을 간청하였으며, 로마 교황청에까지 편지를 보내어
그들의 딱한 사정을 호소하며, 주교 파견을 간청하기도 하였다.
이렇게 교회 재건 운동이 활발히 전개되고 있었으나
천주교에 대한 조정의 박해는 일부 지방에서 계속되고 있었다.
그러나 이러한 박해 속에서도 꾸준히 교회 재건 운동을 전개한 결과
조선 교회는 중국인 여항덕(呂恒德: 異名 劉方濟, 파치피코) 신부를 맞아들일 수 있었다.
그는 조선을 위해서 헌신적으로 선교하였다.
그러나 그는 뒷날 프랑스 선교사가 조선에 입국하게 되자 이들과 갈등을 빚으면서 중국으로 귀환하였다.