内 容 简 介本书系统介绍了两部分内容:其一,香农信息论的三个基本概念(信源熵、信道容量和信息率失真函数),以及与这三个概念相对应的三个编码定理;其二,信源编码和信道编码的基本原理与方法。为了便于教学和加深对概念的理解,以及读者自检,每章后面都附有思考题与习题。本书不追求高深的数学推导,尽量用通俗、生动的语言对概念进行描述,用例题和图表形象地说明基本概念和原理,特别适合于教学和自学。已掌握工科高等数学和工程数学的读者都能读懂本书。本书的电子课件可通过http://www.tupwk.com.cn/downpage/下载。本书可作为高等院校通信工程、信息工程和电子工程,以及相关专业的本科生、研究生的教材或教学参考书,也可供从事相关专业的科研人员和工程技术人员参考。
1948年,C.E.Shannon的开创性文章《通信的数学理论》,为信息论和编码技术奠定了理论基础。信息理论是信息科学中最成熟、最完整、最系统的一部分,以活跃、新颖的思路和高效解决问题的方法而显示出独特的魅力。在此基础上发展起来的数据通信和计算机技术,又反过来为信息编码技术的发展和应用创造了有利的环境。随着社会信息化的不断深入,信息论和编码技术已经渗透到许多应用领域,展示出勃勃生机和巨大的发展前景。 信息论不仅在方法论的层面上解决通信的有效性和可靠性问题,而且在认识论的层面上帮助认识事物的本质。学完信息论之后,再重新审视一下周围的事物,会有许多新的看法和认识。用信息论可以宏观地认识某些政治问题,也可以定量地解决某些经济问题,还可以分析、解释外语学习中存在的问题等。总之,信息论是高层次信息技术人才必不可少的基础知识。因此,目前各高等院校的电子信息类专业的本科生、研究生都把信息论和编码技术作为一门重要的专业基础理论课。 由于信息论牵涉到众多学科,需要广泛的数学基础,许多读者虽然认识到信息论和编码技术的重要性,但在繁杂的公式面前只好望而却步。针对这种情况,作者根据多年的教学经验,在编写过程中强调基本原理的理解,选材时充分考虑其实用性,把信息论涉及的数学知识限制在工科高等数学和工程数学的范畴内,并尽量以通俗形象的语言描述定义、性质和结论的物理概念,叙述中重概念描述、少理论推导,每章还附有相应的思考题与习题。因此,本书适于作为通信工程及信息类专业的本科生、研究生的教材,也可作为其他专业学生及有关科技人员的参考书。 本书主要内容包括经典信息论的基本内容和主要结论、信息压缩编码的基本原理、提高通信可靠性的纠错编码理论和方法。全书共分6章,遵照由浅入深、循序渐进的教学规律,系统地组织教学内容。第1章绪论,介绍信息论与编码的基本概念、数字通信系统模型,以及信息论与编码理论研究的主要内容和意义;第2章信源及其熵,介绍信源的数学模型和分类、离散信源的信息熵及其性质、连续信源的信息熵、信源的冗余度和离散无失真信源编码定理;第3章信道及其容量,介绍信道的数学模型与分类、信道疑义度与平均互信息、离散信道的信道容量、连续信道的信道容量、信源与信道的匹配,以及信道编码定理;第4章信息率失真函数,介绍失真测度、信息率失真函数及其性质、离散无记忆信源的信息率失真函数、连续无记忆信源的信息率失真函数和保真度准则下的信源编码定理;第5章信源编码,介绍编码器和相关概念、变长编码、限失真信源编码和一些实用的信源编码方法;第6章信道编码,介绍信道编码的概念、线性分组码、循环码和卷积码。其中第1~3章由冯桂编写,第4章由陈东华编写,第5和第6章由林其伟编写,全书由冯桂统稿。 本书获得了华侨大学教材建设基金的资助,在此表示感谢。 限于作者的水平加上时间比较仓促,书中难免有欠妥和错误之处,殷切希望读者指正,作者不胜感激。本书责编的E-mail:hnliujinxi@163.com。服务邮箱:wkservice@tsinghua.edu.cn。 编著者 2006年12月