부처님이 세상을 떠난 후 불교가 대중에게 각광을 받으면서 비약적인 발전을 거듭하게 된 데에는 부처님이 지시한 규율을 철저히 지키면서 그의 순수한 뜻을 실천하려는 제자들의 노력이 큰 역할을 하였을 것이다.
그러나 예상외로 지지하고 신봉하는 이들이 많아지자, 애초에 지시한 교단 내의 규율을 그대로 적용할 수 없는 일도 발생하였다. 뿐만 아니라 사람들의 수준에 따라 그때그때 설했던 부처님의 가르침을 체계적으로 정리하고 해석하는 과정에서 보다 원의에 충실하려는 노력이 견해의 차이를 야기하였다.
이러한 상황을 교단 내의 분파 또는 분열이라 하지만, 이것은 결코 교단의 와해와 같은 부정적인 의미를 내포하는 것은 아니다. 시대의 변천에 따라 불교가 점차 발전해 가는 양상이라고 볼 수 있다. 하나의 사상이 다양한 시각과 입장에서 조망될 때, 비판되고 개선되어 발전을 이루는 것이다.
부처님의 입멸 후 100년쯤에 제2결집이 있었는데, 이때에 교단 내의 의견대립이 최초로 표면화되었다고 한다. 그 대립의 원인이 되는 것은 역시 몇 가지 조율의 조목이었다. 계율을 제정할 당시에는 예기치 못했던 어떤 일들에 직면해서도 과거의 규율을 융통성 없이 고수해야 되느냐는 문제였다.
초기의 성전에 의하면 이때 제기되었던 문제가 열 가지(十事)라고도 하고 다섯 가지(五事)라고도 한다. 어쨌든 이에 대해 교단 내에서는 과거의 규율을 엄격히 고수해야 한다는 보수파와 융통성 있게 긍정적으로 받아들여야 한다는 진보파의 두 입장이 공존하게 되었다.
그리하여 전자는 전통을 고수한다 하여 상좌부(上座部)로, 후자는 수적으로 우세하다 하여 대중부(大衆部)로 분립되기에 이르렀다. 이때 제기되었다는 문제의 예를 들면, 수행하는 승려가 탁발한 후에 신도의 식사 대접에 응해도 좋으냐, 또는 금이나 은으로 보시받는 것을 허용해도 좋으냐 하는 등이었는데, 이는 물론 원칙적으로 금지되어 있었다. 위의 대립을 근본분열이라 한다.
다시 200∼300년에 걸쳐 이 두 파로부터 수차에 걸쳐 지엽적인 분파가 생겨나는데, 이를 지말분열(枝末分裂)이라 하며, 기원전 100년 무렵에는 총 20부파(상좌부 9, 대중부 11)에 이르렀다 한다. 이를 흔히 소승 20부라 칭한다. 그리고 이러한 일련의 과정에 있었던 불교를 부파불교라 하는 것이다.
부파불교시대의 불교교단은 부처님이 설한 가르침(經)과 교단의 규칙(律)을 깊이 연구하고 정리하여 발전시킨 웅대한 논서(論)들을 작성하면서 번쇄한 논쟁에 종사하였다.
여기서 논(論)이라는 말의 원어가 아비다르마(abhidharma)이고, 이를 한역에서는 흔히 아비달마(阿毘達磨)라고 표현하므로, 이 시대의 불교를 아비달마불교라고도 칭하는 것이다. 다시 말해서 부파불교에 이르러서는 경, 율, 논의 삼장이 성립되었고, 이 중에서 논장이 바로 아비달마불교를 특징짓게 된 것이다.
아비달마라는 말의 원래 의미는 '법(다르마)에 관한'이므로, 이는 부처님이 설한 '법에 관한 연구'를 의미하게 된다. 이를 '뛰어난 법'이라고 해석하는 경우가 있는데, 이는 당시에 아비달마의 우위를 주장하기 위해 내세운 해석일 뿐이다.
부파불교의 초기에 있어서 아비달마는 각 부파에 공통되는 개념이었으나, 당시의 부파들 중 설일체유부(說一切有部)가 우세하였으므로, 나중에는 아비달마가 특히 설일체유부의 논서를 가리키는 명칭으로 쓰이기도 하였다. 즉 설일체유부는 스스로를 아비달마논사라고 부르고 있는 것이다. 이는 아마도 이 부파의 논서가 다른 부파에 비해 가장 잘 완비되어 있었기 때문일 것이다.
부파불교의 논장은 다음과 같은 3단계의 과정으로 성립되었다고 한다. 첫째는 경전에 대한 주석, 둘째는 부파불교 특유의 교의 창조와 그 발전, 셋째는 둘째의 내용에 대한 일관된 조직화이다. 현재 전해지고 있는 당시의 논장은 주로 설일체유부와 남방의 상좌부에 각각 소속된 일곱 가지뿐이다.
다른 부파의 논서로는『성실론(成實論)』 등 극히 소수일 뿐이다. 그래서 이 시대에 있었던 다른 부파의 교의는 위의 두 부파의 논서들에 인용되어 있는 내용을 통하여 알 수 있을 뿐이다.
아비달마불교의 논사들이 관심을 쏟은 것은 부처님의 가르침에 충실하기 위한 교리의 해석이었다고 생각된다. 그러나 그 논의가 지나치게 학문적이어서 종교적인 생동감을 잃고 번쇄한 사변철학(思辨哲學)으로 흘렀다는 점에 문제가 있다.
예를 들어 설일체유부의 경우, 논사들은 부처님의 가르침을 정확히 이해하기 위해 근본교설인 사법인의 해석에 초점을 맞추었다. 그리하여 먼저 사법인 중 제행무상(諸行無常)에서 말하는 무상의 구조를 명확히 설명하기 위해, 세계를 구성하는 요소, 즉 존재로서 75개의 법(요소)을 상징했다.
이 중 72법은 시간과 함께 끊임없이 변화하는 유위법(有爲法, 조성된 것)으로서 제행무상의 제행에 해당하며, 나머지 3법은 시간의 경과에도 결코 변하지 않는 무위법(無爲法, 조성되지 않는 것)이라 구별함으로써 제행무상의 내용을 엄밀히 설명하고자 했던 것이다.
다시 이 75법을 세밀히 분석하고 해석한다. 또 사법인 중 일체개고(一切皆苦)에 대해서는 우리의 잘못된 행위(業)에 의해 고통이 일어난다고 보아, 소위 업감연기설(業感緣起說)로써 인간의 무한한 윤회와 업의 문제를 여러 가지로 검토하고 있다.
이러한 아비달마불교의 특징은 출가자와 승원을 중심으로 하는 학문불교라 규정할 수 있다. 그리하여 교단 자체가 대중, 즉 사회와 유리되고, 교단으로부터 멀어진 대중은 미신화되어 감으로써 불교의 순수성이 상실될 위기에 처했다.
이에 따라 아비달마불교에 반발하고 부처님에게로 복귀하려는 운동이 불탑(佛塔)을 중심으로 하여 일어났는데, 이것이 곧 대승불교이다. 이 새로운 운동은 개인의 완성보다 전체의 완성을 우선한다는 입장에서 스스로를 대승(大乘)이라 칭하고 기존의 불교를 낮추어 부르길 소승(小乘)이라 하였던 것이다. 이에 따라 부파불교, 즉 아비달마불교는 소승불교라 불리고 있다.
그러나 아비달마불교가 무가치하다는 것은 아니다. 불교의 교리발전에 있어서 매우 중대한 역할을 한 것이 아비달마이다. 대승은 그 아비달마에 반발하여 일어났기 때문에 대승의 사상을 이해하는 데에는 아비달마의 연구가 중요한 가치를 지닌다. 그렇기 때문에 대승불교가 흥기한 후에도 아비달마불교는 소멸하지 않고 존속하였던 것이다. 그럼에도 그 신앙적 측면에서는 비판을 면할 수 없다.