비트겐슈타인의 초기 사상은 “논리철학 논고”(Tractatus Logico-Philosophicus)라는 책으로 집약된다. 이 책은 새롭고 심오하고 영향력 있는 저서로 널리 인정받았다. 이 책은 비록 적은 분량이지만 광범위한 주제를 포괄하고 있다. 비트겐슈타인이 놀랍게 생각한 점은 사람들이 그 전에 한 번도 들어본 적이 없는 문장들을 이해한다는 사실이었다. 그에게 떠오른 해결책은, 무언가를 말하는 문장은 ‘실재의 그림’이어야 하고, 그 의미를 보여주며, 또한 세계의 어떤 상황을 보여 준다는 것이었다. 비트겐슈타인의 그림이론은 종이 위에 씌어진 기호들과 외부세계의 어떤 상황 사이의 연관성을 설명하는 것처럼 보였다. 명제가 그림이라는 점을 깨닫지 못하는 까닭은 명제를 완전히 분석된 형식으로 고찰하지 못하기 때문이다. 이러한 형식 속에서 명제는 단지 실재의 단순요소들과 상호 관련되는 단순 기호들을 배열한 것이다.
“논리철학 논고”가 지닌 가장 두드러진 특징 중의 하나는 언어의 한계에 대한 생각이다. 말해질 수 없는 것으로 실재의 단순 요소들의 필연적 존재, 사고하고 의지하는 자아의 존재, 절대적 가치의 존재 등이 있는데, 이러한 것들은 사고될 수 없다. 그 이유는 언어의 한계가 사고의 한계이기 때문이다. 그에 의하면 말할 수 없는 것에 관해서는 침묵해야 한다.
흄의 분기와 논리 실증주의에 대한 비트겐슈타인의 고안의 도움으로 ‘비엔나 학파’가 형성되었는데 그들은 특별히 형이상학의 비판에 초점을 두었다. 또한 논리실증주의자들은 언어, 특히 기호로서의 언어의 연구에 초점을 맞춘다.
그들에 의하면 자연과학이 다루는 문제는 모두 일정한 대상에 관한 문제다. 반면 철학은 과학의 언어의 논리를 연구해야 한다. 과학의 언어는 대상과 직접 관계하는 대상언어이다. 그런데 한 차원 높게 이 대상언어에 관해 연구하는 언어가 있을 수 있다. 이러한 언어를 메타언어(meta-language)라고 한다. 여기서는 언어와 대상의 관계가 아니라, 언어상호간의 관계가 연구된다. 구문론에서는 개념들이 결합하여 명제가 형성되고, 하나의 명제로부터 다른 명제가 도출되는 과정이 논리적인 규칙에 맞아야 의미 있는 명제가 된다.
언어를 그 대상과의 관계 속에서 다루는 의미론에서 어떤 명제가 의미 있는 명제가 되기 위한 조건을 비트겐슈타인은 두 가지 제시하고 있는데, 이 두 조건은 논리실증주의의 특징을 가장 잘 보여준다. 그 조건은 첫째, 논리법칙에 일치해야 하고 둘째, 검증 가능해야 한다는 것이다. 논리실증주의는 무의미한 명제를 형이상학적이라고 한다. 검증가능성의 기준이란 분석명제이거나 모순명제가 아닌 한 어떤 명제가 의미 있기 위해서는 그것이 참인지 거짓인지의 여부가 경험적으로 검증될 수 있어야 한다는 것이다. 이 기준에 의하면 형이상학은 의미 없는 명제의 집합으로서 학문적 논의의 대상에서 제외될 수밖에 없다. 논리실증주의는 이러한 형이상학적 명제를 철학에서 제거해야 한다고 주장한다. 그러나 한편 논리실증주의는 경험적으로 검증가능하지 않은 명제들을 모두 철학에서 배척함으로써 실천을 위한 가치판단으로서의 철학의 중요한 한 영역을 스스로 포기한 결과를 낳았다. 논리실증주의의 핵심은 모든 주장을 원자명제로 환원하는 데 있다.
비트겐슈타인의 영향아래 철학자들은 진정한 철학적 문제는 존재하지 않거나, 있다고 하더라도 언어의 용법 혹은 단어의 의미에 관한 문제라고 생각해 왔다. 그러한 언어분석철학의 대세에 맞서서 진정한 철학적 문제가 존재하며, 그것은 바로 우리 자신과 우리의 지식을 포함하고 있는 세계를 이해하는 우주론적 문제라는 철학관을 지켜 온 철학자가 ‘칼 포퍼’ (Karl Popper)일 것이다.
비트겐슈타인에 의하면 철학의 목적은 해결될 수 없는 문제에서 생기는 고통으로부터 우리를 해방시키는 것이며, 그 방법은 언어의 분석을 통한 명료화에 있다. 반면에 포퍼는 철학의 관심사가 과학과 마찬가지로 우주의 이해에 기여하는 데 있다고 생각한다. 그에 의하면 언어의 기능을 이해하는 것은 우리의 우주 이해에 중요한 부분이지만, 우리의 문제를 단순히 언어의 수수께끼로 설명해 버리는 것은 잘못이라는 것이다. 철학이든 과학이든 그러한 추구를 포기한다면 그 매력을 상실해 버릴 것이라고 포퍼는 경고한 바 있다.