第３２卷第３期 河北建筑工程学院学报 Ｖｏ１．３２ Ｎｏ．３ ２０１４年９月 ＪＯＵＲＮＡＬ ＯＦ ＨＥＢＥＩ ＩＮＳＴＩＴＵＴＥ ＯＦ ＡＲＣＨＩＴＥＣＴＵＲＥ ＡＮＤ ＣＩＶＩＬ ＥＮＧＩＮＥＥＲＩＮＧ Ｓｅｐ．２０１４ 关于强对称离散信道信道容量计算的讨论 闰常丽 王利民 邓全才 （河北建筑工程学院，数理系张家口０７５０００） 摘 要：信道是构成通信系统的重要部分，用来传输和储存信息，而信息在信道中传输的多少 不仅仅与信道本身的特性有关，还和信源的输入有关。讨论了信息论中的强对称离散信道，并 给出其信道容量的一种算法，得出只有离散信源的输入呈等概率分布时，此时强对称离散信道 才可以达到其信道容量． 关键词：强对称离散信道；信道容量；平均互信息量 中图分类号：Ｏ ２１ 文献标识码：Ａ ０ 引 言 通常情况下，通信系统一般是由信源、信道和信宿这样的三部分组成的，其中信道是构成整个通信 系统的重要组成部分，它是信息传递的通道，主要完成对信息的传输，而信道容量是指在信道中能够传 输的最大的信息量，它是反映信道特性最重要的一个参数．在香农信息论中，由于强对称离散信道自身 所具备的特点，所以本文对其信道容量的计算做一个详细的讨论． １ 基本概念 设单符号离散信道｛ｘ Ｐ（Ｙ／Ｘ） Ｙ｝的输入随机变量ｘ和输出随机变量Ｙ取值的集合都是由ｎ 个不同符号组成，用数学语言表示出来即为／Ｙ∈ｆ 。，“。…口 ｊ，ｙ∈ｆｂ ，６：，…６ ・・６ ｝，其中，记每 个符号能正确传递的概率为ｑ，而其它的（ 一１）个符号发生错误传递的概率为＝『＝ ，且Ｐ＋ｑ一１，则信 ｑ Ｐ… Ｐ ｇ… 道矩阵为对称矩阵Ａ ，这样的信道称为强对称离散信道，简称为强对称 一 １ ”一 １…ｑ 信道． 这类信道的主要特点是：信道传输时发生总的错误概率是Ｐ，然后把它平均地分配给（ 一１）个输出 符号，信道矩阵中不仅满足每行之和等于１，同时每列之和也等于１，而在一般的信道矩阵中，每列之和 是不一定等于１的． 信道容量是指信道中信息无差错传输的最大量．由平均互信息的性质可知，Ｉ（ｘ；Ｙ）是｛Ｐ（ａ ）｝的上 凸函数，因此，总可以有一种概率分布｛ｐ（ａ ）），使信道所能传送的信息量为最大，于是我们就把这个最 大的信息传输量定义为信道容量，记为．ｃ—ｍａｘＩ（Ｘ；ｙ） ） ２ 关于强对称离散信道信道容量的计算 ２．１平均互信息量 在信息论中，平均互信息Ｉ（Ｘ；ｙ）一Ｈ（ｙ）一Ｈ（Ｙ／Ｘ），其中Ｈ（ｙ／ｘ）为条件熵．条件熵Ｈ（ｙ／ｘ）＝ 收稿日期：２０１４—０１—２Ｏ 基金项目：张家口市科学技术研究与发展指导计划项目（课题编号：１１０１００２Ｂ） 作者简介：闰常丽（１９８０一）女，硕士学位，讲师，从事数学研究． 第３期 闫常丽等 关于强对称离散信道信道容量计算的讨论 １０３ ∑∑ｐ（ａ ） （６ ／＆ ）ｌｏｇｚＰ（ｂｊ／ｎ ），为了下面讨论方便，我们定义上式中的一Ｐ（ｂｊ／ｄ ）ｌｏｇ Ｐ（ｂｊ／ａ ）一 Ｈ ，所以有Ｈ（Ｙ／Ｘ）一∑∑ｐ（ａ ）Ｈ ． ｉ＝ｌｊ＝】 ２．２对Ｈ 进行分析写出它的具体表达式 对于Ｈ ＝＝＝一Ｐ（６ ／ａ ）ｌｏｇｚｐ（ｂ ／ｎ ）的计算，若取定某一个ｉ，则此时相当于ｘ—ａ 对Ｙ求和，也就是 说，在强对称信道矩阵中若选定某一行，对该行上所有元素的自信息量求加权和，由于所讨论的是强对 称离散信道，每一行都是ｎ元集合ｆｇ， ，…， ）中的所有元素的不同排列，所以，Ｈ 便可化简成 Ｈ，一一ｑｌｏｇｚｑ一（ 一１）× ｏｇｚ ），从这个式子中我们可以看出，对于所有的日 （ 一１，２，…， ）， Ｈ （ｉ一１，２，…，”）的结果都是一样的，所以，有结论Ｈ 与输入Ｘ无关，为一固定值，代入式子得Ｈ（ｙ／ Ｘ）一Ｈ ，从而有，（Ｘ；ｙ）一Ｈ（ｙ）一Ｈ ． ２．３求强对称离散信道的信道容量 信道容量ｃ—ｍａｘＩ（Ｘ；ｙ）＝＝＝ｍａｘ［－Ｈ（Ｙ）一Ｈ ］，由以上的讨论已经知道Ｈ 为一固定值，此时，求信 ｄ．） （ａｉ） 道容量就变成求输入分布ｐ（ａ ）使Ｈ（ｙ）取最大值的问题了，而根据信息论中的最大离散熵定理，Ｈ（ｙ） ≤ｌｏｇｚ 当且仅当输出端呈等概率分布ｐ（ｂ ）一÷时，Ｈ（ｙ）才能达到最大值ｌｏｇｚ ，因ｐ（ｂｊ）一∑ｐ（ｎ ） （易，／ａ ），Ｊ＝：＝１，２，…， ．通过此公式，就可以得到当Ｈ（Ｙ）取最大值时相应的输入概率分布ｐ（ａ ）． 在… 般情况下，不一定存在这样的输入概率分布，但对于强对称离散信道，其输入、输出之间概率关 ｑ Ｐ… Ｐ（ｂ ） Ｐ（６２） Ｐ ｑ… Ｐ（ａ１） Ｐ（ａ２） 系可用矩阵形式表示为 ●●● Ｐ（ｂ ） ”一 １ ７ｌ＂ 一 １…ｑ ｐ（ｂ ）一ｑ （ａ ）＋ （ｎ ｚ）十…＋ （ｎ ） 上式展开得 ｐ（ｂｚ）一 户（ｎ ）＋ｑ （ａｚ）＋…＋ （ｎ ） ｐ（ｂＩＩ）一 （。 ）＋ ｐ（。ｚ）＋…＋ｑｐ（ｎ ） 在以上的（１）式中，当输入符号Ｘ等概率分布时，即ｐ（ａ ）一÷，输出符号Ｙ一定是等概率分布，这 时Ｈ（ｙ）＝＝＝ｌｏｇ２ ，此时，相应的信道容量为ｃ一１ｏｇ２ｎ－－Ｈ 一１。ｇ２ｎ＋ｑｌｏｇｚｑ＋ｐｌｏｇｚ Ｐ ． ３ 结 论 通过以上的讨论可知，若强对称离散信道达到信道容量，只有满足信道的输入呈等概率分布，从最 终的信道容量的表达式还可以进一步得出，强对称离散信道的信道容量仅仅与信道的输出符号数 和 ｛ｑ， Ｐ ，…， ｝有关，即说明了，强对称信道的信道容量就是信道本身的特征参量． 参 考 文 献 ［１］傅祖芸，赵建中．信息论与编码［Ｍ］．北京：电子工业出版社，２００６ １０４ 河北建筑工程学院学报 第３２卷 Ｅ２］陈运．信息论与编码［ＭＪ．２版．北京：电子工业出版社，２００９ ［３］管宇，离散信道容量的迭代算法，应用数学与计算数学学报，２００６，１２，２０，２：１９￣２７ Ｅ４］陈长生，求解一般信道容量的方法分析，电脑与电信，２０１０（１） －Ｉ５］沈世镒，陈鲁生．信息论与编码理论．北京：科学出版社，２００２，８１～９３ Ｅ６］许可．离散对称信道的信道容量的计算，硅谷，２００８（１２），４１ Ｄｉｓｃｕｓｓｉｏｎ ｏｎ ｔｈｅ ｃａｌｃｕｌａｔｉｏｎ ｏｆ ｔｈｅ ｓｔｒｏｎｇ ｄｉｓｃｒｅｔｅ ｃｈａｎｎｅｌ ｃｈａｎｎｅｌ ｃａｐａｃｉｔｙ ＹＡＮ Ｃｈａｎｇ—ｌｉ，ＷＡＮＧ Ｌｉ．ａｉｒｎ，ＤＥＮＧ Ｑｕａｎ．ｃａｉ （Ｃｏｌｌｅｇｅ ｏｆ Ｓｃｉｅｎｃｅ，Ｈｅｂｅｉ Ｕｎｉｖｅｒｓｉｔｙ ｏｆ Ａｒｃｈｉｔｅｃｔｕｒｅ，Ｚｈａｎｇｊｉａｋｏｕ，０７５０００，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｃｈａｎｎｅｌ ｉｓ ａｎ ｉｍｐｏｒｔａｎｔ ｐａｒｔ ｏｆ ａ ｃｏｍｍｕｎｉｃａｔｉｏｎ ｓｙｓｔｅｍ，ｗｈｉｃｈ ｉｓ ｕｓｅｄ ｔｏ ｔｒａｎｓｍｉｔ ａｎｄ ｓｔｏｒｅ ｉｎｆｏｒｍａｔｉｏｎ，ａｎｄ ｉｎｆｏｒｍａｔｉｏｎ ｉｎ ｔｈｅ ｃｈａｎｎｅｌ ｉｓ ｎｏｔ ｏｎｌｙ ａｓｓｏｃｉａｔｅｄ ｗｉｔｈ ｔｈｅ ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ ｏｆ ｔｈｅ ｃｈａｎｎｅｌ ｉｔｓｅｌｆ，ｂｕｔ ａｌｓｏ ｒｅｌａｔｅｄ ｔｏ ｔｈｅ ｉｎｐｕｔ，ｉｎ ｔｈｉｓ ｐａｐｅｒ，ｔｈｅ ｓｔｒｏｎｇ ａｓｙｍｍｅｔｒｉｃ ｉｎｆｏｒｍａｔｉｏｎ ｔｈｅｏ— ｒｙ ｉｓ ｄｉｓｃｕｓｓｅｄ ｉｎ ｄｅｔａｉｌ，ａｎｄ ａｎ ａｌｇｏｒｉｔｈｍ ｉｓ ｇｉｖｅｎ，ｉｔ ｃｏｎｃｌｕｄｅｄ ｔｈａｔ ｗｈｅｎ ｔｈｅ ｉｎｐｕｔ。ｆ ｄｉｓｃｒｅｔｅ ｉｎ— ｆｏｒｍａｔｉｏｎ ｓｏｕｒｃｅ ｉｎ ｐｒｏｂａｂｉｌｉｔｙ ｄｉｓｔｒｉｂｕｔｉｏｎ，ｔｈｅ ｓｙｍｍｅｔｒｉｃ ｄｉｓｃｒｅｔｅ ｃｈａｎｎｅｌ ｃａｎ ａｃｈｉｅｖｅ ｔｈｅ ｃｈａｎｎｅｌ ｃａｐａｃｉｔｙ． Ｋｅｙ ｗｏｒｄｓ：ｓｔｒｏｎｇ ｓｙｍｍｅｔｒｉｃ ｄｉｓｃｒｅｔｅ ｃｈａｎｎｅｌ；ｔｈｅ ｃｈａｎｎｅｌ ｃａｐａｃｉｔｙ；ｔｈｅ ａｖｅｒａｇｅ ｍｕｔｕａ１ ｉｎｆｏｒｍａｔｉｏｎ 护驴 护 、驴 （上接第１０１页） ［６］赵近芳．大学物理学（下）［Ｍ］．北京：清华大学出版社，２０００．２２３ ［７］程守洙，江之永．普通物理学（３）［Ｍ］．北京：高等教育出版社，１９９８２５１ ．Ａｎ Ａｎａｌｙｓｉｓ ｏｎ Ｌｉｇｈｔ Ｖｅｃｔｏｒ Ｐｏｌａｒｉｚａｔｉｏｎ ｏｆ Ｒｅｆｌｅｃｔｉｏｎ ａｎｄ Ｒｅｆｒａｃｔｉｏｎ ｏｆ Ｎａｔｕｒａｌ Ｌｉｇｈｔ ＳＵ Ｊｉｎｇ—ｓｈｕｎ，ＭＡ Ｌｉ—ｈｏｎｇ （Ｈｅｂｅｉ Ｉｎｓｔｉｔｕｔｅ ｏｆ Ａｒｃｈｉｔｅｃｔｕｒｅ ａｎｄ Ｃｉｖｉｌ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｚｈａｎｇｊｉａｋｏｕ，０７５０００） Ａｂｓｔｒａｃｔ：Ａｃｃｏｒｄｉｎｇ ｔＯ ｔｈｅ Ｆｒｅｓｎｅｌ ｆｏｒｍｕｌａ，ｔｈｅ ｑｕａｎｔｉｔａｔｉｖｅ ａｎａｌｙｓｉｓ ｏｆ ｒｅｌａｔｉｖｅ ｒｅｌａｔｉｏｎｓｈｉＤ ｂｅｔｗｅｅｎ ｐａｒａｌｌｅｌ ｖｉｂｒａｔｉｏｎ ｃｏｍｐｏｎｅｎｔ ａｎｄ ｖｅｒｔｉｃａｌ ｖｉｂｒａｔｉｏｎ ｃｏｍｐｏｎｅｎｔ ｈａｓ ｂｅｅｎ ｍａｄｅ ｗｈｅｎ ｔｈｅ ｎａｔｕｒａ１ ｌｉｇｈｔ ｉｓ ｉｎｃｉｄｅｎｔ ｏｎ ｔｗｏ ｋｉｎｄｓ ｏｆ ｍｅｄｉｕｍ ｓｕｒｆａｃｅ ｌｅａｄｉｎｇ ｔｏ ｒｅｔｉｅｃｔｉｏｎ ａｎｄ ｒｅｆｒａｃｔｉｏｎ，ａｎｄ ｃｏｒｒｅｃ— ｔｉｏｎｓ ｏｆ ｓｏｍｅ ｉｎａｃｃｕｒａｔｅ ｓｔａｔｅｍｅｎｔｓ ｉｎ ｔｅａｃｈｉｎｇ ｍａｔｅｒｉａｌｓ ｈａｖｅ ｂｅｅｎ ｍａｄｅ，ａｎｄ ｔｈｅ ｑｕｅｓｔｉｏｎｓ ｓｈｏｕｌｄ ｂｅ ｎｏｔｉｃｅｄ ｗｈｅｎ ｕｓｉｎｇ ｔｈｅ ｇｒａｐｈｉｎｇ ｍｅｔｈｏｄ ｔＯ ｐｒｅｓｅｎｔ ｐｏｌａｒｉｚａｔｉｏｎ ａｒｅ ｐｕｔ ｆｏｒｗａｒｄ ａｓ ｗｅ１１． Ｋｅｙ ｗｏｒｄｓ：Ｆｒｅｓｎｅｌ ｆｏｒｍｕｌａ；ｎａｔｕｒａｌ ｌｉｇｈｔ；ｌｉｎｅａｒｌｙ ｐｏｌａｒｉｚｅｄ ｌｉｇｈｔ；ｐａｒｔｉａ１１ｙ ｐｏｌａｒｉｚｅｄ ｌｉｇｈｔ
