샤논의 한계

[강준철]

Shannon의 정리(정보 이론의 기본 정리)

채널 용량은 C, 심벌의 속도는 R이고 R<C인 이산 무기억 채널이 주어진 경우(각 심벌은 다른 모든 심벌에는 독립적으로 잡음에 의해서 왜곡되어 있다), 정보원의 출력을 아주 작은 오류 확률로 채널을 통하여 전송할 수 있는 부호가 존재한다.

따라서 섀넌의 정리는 근본적으로 잡음이 존재하더라도 오류 없이 전송할 수 있는 방법에 대하여 예견한 정리인 것이다. 그러나 불행히도 이 정리는 그러한 부호의 존재성만을 밝혔을 뿐 부호를 구성하는 방법에 관해서는 아무런 언급도 되어 있지 않다.

초당 비트의 단위를 갖는 가산적 백색 잡음이 있는 연속 채널의 용랑은 다음과 같다.

C = B log2(1+S/N)

여기서 B는 채널의 대역폭이고 S/N은 신호대 잡음의 전력비를 나타낸다. 이 식을 섀넌-하틀리 법칙이라고 부른다. 대역폭과 SNR의 트레이드오프는 섀넌-하틀리 법칙으로부터 알 수 있다. 무한 SNR인 경우, 즉 잡음이 없는 경우 대역폭이 0이 아닌 모든 채널에서는 용량이 무한대가 된다. 그러나 잡음이 있는 상황에서는 대역폭을 넓힐지라도 용량이 임의로 증가할 수는 없다. 대역폭이 넓은 경우의 섀넌-하틀리 법칙을 이해하기 위해 위의 식을 약간 다른 형태로 바꾸는 것이 바람직하다. 비트당 에너지 Eb는 신호의 전력 S에 비트의 지속시간 Tb를 곱한것과 같다. 비트율 Rb는 용량과 같다. 따라서 비트당 Tb=1/C의 시간이 된다. 이것은 용량에 있어 다음 식을 산출해 낸다.

Eb=STb=S/C

대역폭 B에서의 총 잡음 전력은 다음과 같다.

N=N0B

여기서 N0는 단측 잡음 전력 스펙트럼 밀도이다. 따라서 신호 대 잡음비는

S/N=(Eb/N0)*(C/B)

이고, 이 식을 이용하여 섀넌-하틀리의 법칙을 다시 표현하면 다음 식과 같다.

C/B=log2(1+(Eb/N0)*(C/B))

위의 식을 Eb/N0에 관한 식으로 표현하면 다음과 같다.

Eb/N0=B/C(2^(C/B) -1)      ........(1)

위의 식은 이상적인 시스템의 성능을 분석하는데 사용될수 있다. B>>C인 경우, 근사식 e^x=1+x, x<<1을 사용하면,

2^(C/B)=e^(C/B)ln2=1+C/Bln2     .........(2)

(1)식에 (2)식을 대입하면,

Eb/N0=ln2=-1.6dB  ,  B>>C

따라서 이상적인 시스템의 경우, 대역폭이 무한정 증가함에 따라서 Eb/N0는 -1.6dB에 근접하게 된다.

Eb/N0를 그림으로 나타내었다. Rb=C이고 (1)번식에 대응하는 시스템을 이상적인 시스템이라 정의한다. 이 그림에서 두부분의 영역으로 나눌 수 있는데, Rb<C인 첫번째 영역은 비교적 오류 확률이 낮은 영역이 된다. 이것이 우리가 시스템을 작동시킬 때 원하는 영역이 된다. Rb>C인 영역에서는 낮은 오류 확률을 기대할 수 없다. 그림으로부터 중요한 트레이드오프가 나올수 있다. 비트율이 대역폭보다 훨씬 크도록 대역폭 인자 Rb/B가 크다면, 이 인자가 작을 때보다는 Rb<C인 영역에서 시스템을 작동시키기에 충분히 더 큰 Eb/N0값이 필요하다. 다른 방법으로 설명하기 위해, 정보원 비트율이 초당 Rb로 고정되어 있고, 사용가능한 대역폭이 B>>Rb가 되도록 크다고 가정해보자. 이 경우에 Rb<C인 영역에서의 작동은 Eb/N0값이 -1.6dB보다 약간만 더 크면 된다. 요구되는 신호 전력은 다음과 같다.

S=Rb(ln2)N0W

이것은 Rb<C 영역에서 동작할 최소의 신호전력이다. 그러므로 이 영역에서의 동작을 전력제한된 동작이라 한다.

이제 대역폭이 Rb>>B가 되도록 제한된다고 가정해보자. 그림으로부터 더 큰 Eb/N0값이 Rb<C영역에서의 동작을 위해 필요하다는 것을 알 수 있다. 따라서 소요 신호 전력은 위의 식에 주어진것보다 더 크다. 이를 대역제한된 동작이라 한다.

잡음이 실제로 존재하는 경우라 하더라도 이론적으로는 완전한 시스템의 성능을 얻을수 있다. 따라서 섀넌의 정리에서 제시한 성능을 얻을 수 있도록 하는 시스템이 있는데 직교 신호를 채널로 전송하고 복조기에서는 상관수신기를 이용한다. 잡음의 영향에 대처하기 위해 많은 기술들이 사용되고 있으며 그로 인한 성능은 섀넌의 이론적 한계에 더욱더 가까워졌다. 가장 보편적으로 사용되는 기술은 전방오류정정(Forward Error Correction)이다. 전방 오류정정을 위한 두 종류의 주요부호가 바로 블록부호와 길쌈 부호이다.

[최우영]

준철이가 설명해야 겠다..^^