信道容量

在电机工程学、电脑科学、资讯理论中，信道容量（Channel capacity，又译通道容量）是指在一个频道中能够可靠地传送资讯时可达速率的最小上界。所谓可靠传输指的是可以以任意小的错误率传递资讯。根据有噪频道编码定理，频道容量是可以误差概率任意小地达到的给定频道的极限资讯率。频道容量的单位为位元每秒、奈特每秒等等。

夏农在第二次世界大战期间发展出资讯理论，为信道容量提了定义，并且提供了计算频道容量的数学模型。夏农指出，信道容量是频道的输入与输出的互资讯量的最大值，而相应的输入分布称为最佳输入分布。^[3]

定义

X代表已传送讯号的随机变数，Y代表已收到讯号的随机变数。 $\ p_{{Y|X}}(y|x)$ 代表已知X的情况下Y的条件分布，为频道的内在固定属性。于是依据如下性质

\ p_{X,Y}(x,y)=p_{Y|X}(y|x)\,p_{X}(x)

边缘分布 $p_{X}(x)$ 的选取完全决定了联合分布 $p_{{X,Y}}(x,y)$ ，这就能导出互资讯 $I(X;Y)$ 。频道容量定义为

\ C=\sup _{{p_{X}(x)}}I(X;Y)\,

其中上确界针对对所有可能的 $p_{X}(x)$ 值。

有噪频道编码定理

有噪频道编码定理表明，对任意的ε > 0以及传输速率R小于频道容量C，在块长度足够大的情况下，总有一种在速率为R下传输的编码和解码方案，它的误差概率小于ε。另外，对于任何大于频道容量的速率，随着块长度趋近于无穷，接受者的误差概率也趋于1。

参见

参考文献

^ Saleem Bhatti. Channel capacity. Lecture notes for M.Sc. Data Communication Networks and Distributed Systems D51 -- Basic Communications and Networks. [2007-11-10]. （原始内容存档于2007-08-21）.
^ Jim Lesurf. Signals look like noise!. Information and Measurement, 2nd ed. [2007-11-10]. （原始内容存档于2016-12-28）.
^ Thomas M. Cover, Joy A. Thomas. Elements of Information Theory. John Wiley & Sons, New York. 2006.

[1] Saleem Bhatti. Channel capacity. Lecture notes for M.Sc. Data Communication Networks and Distributed Systems D51 -- Basic Communications and Networks. [2007-11-10]. （原始内容存档于2007-08-21）.

[2] Jim Lesurf. Signals look like noise!. Information and Measurement, 2nd ed. [2007-11-10]. （原始内容存档于2016-12-28）.

[3] Thomas M. Cover, Joy A. Thomas. Elements of Information Theory. John Wiley & Sons, New York. 2006.

[3]