离散无记忆信道
约 316 个字 3 张图片 预计阅读时间 1 分钟
抽象数学建模：
离散无记忆信道：
由于一般传输时，发送的是序列\(x^N\), 所以传输是\(x^N \rightarrow y^N\)的形式。由此，总概率是\(\Pi_{n=1}^N p(y_n|x_n), \forall N\)
平稳的信道：
我们之前介绍了平稳信源的概念。
信道容量/单位：bit
\(C=\lim_{n\rightarrow \infty} \max I(X_1X_2\cdots X_N; Y_1Y_2\cdots Y_N)\)
物理意义：平均每次利用信道，在输入和输出符号之间所能相互提供的互信息的最大值的极限。该信道容量定义对所有形式信道均成立。
消除的不确定性：如果\(I(X;Y)=H(X)\)，那么相当于100%传输！
举个例子：
设左侧的X是26个字母，就是\(\log_2 26\) bit.
\(X \ \ \ \ \ \ \ \ \ Y\) \(x_1\ \rightarrow \ y_1\)
对于离散无记忆信道(DMC)：
\(I(X_1X_2\cdots X_N;Y_1Y_2\cdots Y_N)\leq \sum_{n=1}^N I(X_n;Y_n)\)
注意：这里的\(C\)是最大值。可以往小了取值，但不能往大了取值。例如。你无法在这个\(\log_2 26\) bit
无用信道
由上图，这个信道是有错误的。 我们应用之前的公式，计算\(I(X;Y)\) ：