본래 조선시대에서 사대부는 문관관료를 의미하였다. 문관 4품 이상을 대부(大夫), 문관 5품 이하를 사(士)라 하였다. 이것은 문산계(文散階)에 그대로 반영되어 문관 4품 이상을 대부, 문관 5품 이하를 낭(郞)으로 구분하고 있다. 또한 사는 상사(上士), 중사(中士), 하사(下士)로 나누기도 한다. 그러나 당시가 문치주의 국가였기 때문에 사대부라 하면 문․무 관료 모두를 가리키기도 하였다. 더 나아가서 조선 후기에는 문․무 관료뿐 아니라 포의(布衣)의 독서인(讀書人)까지 사의 범주에 포함시켰다. 박지원(朴趾源)이 말한 “독서왈사 종정왈대부 유덕위군자”(讀書曰士 從政曰大夫 有德爲君子)의 ‘사’가 그것이다. 따라서 사림(士林)은 ‘사대부지림’(士大夫之林)의 준말이다.
본래 선진(先秦)시대에는 천자(天子), 제후(諸侯), 경(卿), 대부(大夫), 사(士)의 봉건적 위계 속에서 대부와 사가 제후의 가신군(家臣群)을 의미하였다. 따라서 이때에는 사대부(士大夫)라는 개념보다는 대부․사라는 개념이 쓰였다. 신분이 다른 사와 대부를 합쳐 일컫는 사대부라는 용어는 쓰이지 않았다. 이때의 ‘사’는 경․대부 밑에 있던 제후의 가신이나 전사(戰士) 등 하위 귀족계급을 의미하였고, 전국시대 이후에 형성된 사인층(士人層)을 가리키는 것은 아니었다.
그러나 전국시대에 이르면서 문학유세지사(文學遊說之士), 임협지사(任狹之士)로 불리는 새로운 사인층이 등장하기 시작하였다. 이들은 개인의 능력으로 관료가 된 사람들로서, 신분적으로 구분되어 있던 경․대부․사와는 아주 다른 집단이었다. 세습적인 신분질서가 무너지고 자유로운 계층이동 속에서 ‘사대부’라는 용어가 생기게 된 것이다. 이때의 사대부는 서민과 하급서기를 제외한 모든 문․무 관료를 가리켰다. 한․당대에는 문․무 관료군을, 송대에는 문관 관료 중심의 문․무 관료와 광범한 포의의 독서인층을 사대부라 불렀다. 전자가 귀족주의에 바탕을 두었는 데 비해 후자는 관료주의에 바탕을 두었다고 할 수 있다.
물론 사대부라 하면 문관 관료만 가리킬 수도 있고, 문․무 관료를 다 가리킬 수도 있었으나, 서민에 대칭되는 문․무 관료를 다 일컫는 것이 보통이었다. 이는 사가 고대의 전사(戰士) 또는 무사(武士)를 가리켰다가 나중에 문사(文士)를 가리키게 된 것과도 무관하지 않다. 역사 발전에 따라 무사가 지배하던 사회에서 문사가 지배하는 사회로 이행하는 과정에서 사대부라는 용어도 의미하는 내용이 달라진 것이다.