Fascination N−D−File 情報路容量

戻る


情報理論(電気・電子系教科書シリーズ)


情報理論のエッセンス


宇宙を復号する
―量子情報理論が解読する、宇宙という驚くべき暗号 (単行本)

通信路容量または伝送路容量(英: Channel capacity)とは、電気工学や計算機科学において通信路を通じて確実に転送できる離散的情報の量である。伝送路符号化によれば、ある通信路の通信路容量は誤り率が極めて低い状態で単位時間当たりに転送可能な情報量の上限である。

クロード・シャノンの確立した情報理論では通信路容量が数学的に定義され、ある通信路の通信路容量が計算できるようになっている。通信路容量は通信路の入力側と出力側の相互情報量の最大値であり、入力側の分布によって最大化される。

形式的定義

X を送信側のメッセージ空間、Y を単位時間に通信路を通して受信されるメッセージの空間とする。ここで

pY | X(y | x)

X が与えられたときの Y の条件付き確率分布関数である。ここで、pY | X(y | x) を通信路に固有な特性であるとする(その通信路のノイズの性質を表している)。すると、XY の同時分布

pX,Y(x,y)

は通信路と、その通信路上で送るメッセージの周辺分布

から決定される。同時分布は先の条件付き確率分布関数から次のように求められる。

何らかの制約条件下で、通信路容量すなわち通信路を通して送れる信号の量を最大化したいとする。この場合、適切な尺度として相互情報量 I(X;Y) があり、相互情報量の最大を通信路容量と呼び、以下のように表す。

伝送路符号化

伝送路符号化によれば、任意の ε > 0 と通信路容量 C より小さい任意のレート R について、ブロック誤り率を ε 未満にする符号化・復号化方法が存在する。また、レートが通信路容量より大きい場合、ブロック長が無限大に近づくと共に受信側のブロック誤り率は 1 に近づいていく。ただし、通信路容量には他の定義もある。


inserted by FC2 system