한국 전쟁 말기, 한국군의 2차 증강계획인 국방부 일반명령 육군 제32호에 따라, 1953년 2월 9일 강원도 양양에서 제1교육여단을 기반으로 창설되었다. 938번 선우 고지와 크리스마스 고지를 방어하고 있던 중, 6월 10일 M-1 고지로 공격해 온 중공군 제60군의 제33사단과 충돌하여 공방전을 벌인 끝에 22일에 격퇴하였다.
1964년부터 휴전선 지역에 주둔하던 중, 1977년 10월 20일, 강원도 철원에 주둔하고 있던 제60연대 1대대장이 무전병을 끌고서 휴전선 철조망을 지나 군사분계선을 넘어 북한으로 넘어갔다. 이에 따라 이듬해 1978년 제5사단과 임무를 교대하여 양평으로 주둔지를 옮겼다.
1980년 5월 17일, 사단장인 박준병에 의해 60, 61, 62 연대와 사단 전차대대, 91 포병대대가 5·18 광주 민주화 운동 진압인 충정 작전에 동원되었다.
1981년 8월 25일 육군 일반명령 제 31호로 차량화 보병화, 육군 일반명령 제42호로 1983년 6월 1일 대한민국에서 두 번째로 기계화 보병으로 또다시 개편된 후, 제7기동군단에 예속 전환되었다.
2009년 11월 31일 최초로 사단에 K-21가 배치되었다.
2014년 7월 최초로 사단에 K2 흑표가 실전배치되었다.
20사단은 2019년 12월 1일자로 11기계화보병사단과 통합돼 해체되고 양평종합훈련장(용문산 사격장)도 11사단이 담당한다. 경기도 양평의 (구)20사단 사령부에는 강원도 양구에 있는 (구)2보병사단 사령부가 들어선다.