文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > IT/计算机 > 计算机软件及应用 > Information Theory & Coding信息论与编码(英文版)信息论基础绪论
侵权投诉

Information Theory & Coding信息论与编码(英文版)信息论基础绪论

信息论基础

绪论

科学技术的发展使人类正在进入一个新的时代,这个时代的主要特征之一是对信息的需求和利用,因此有人称它为信息时代。

一) 什么是信息?

信息至今无确切定义,但是它是一种人人皆知的抽象概念,是一种不言自明的概念。正像什么是“人”的概念一样,不言自明,人人皆知。

信息虽无确切定义,但是却具有两个明显的特征:广泛性与抽象性。所谓广泛性可从以下三方面来理解:

1) 客观世界充满着信息:

天上的星体、地下的矿藏,一切客观物质无不具有自己的特征信息。

2) 人类离不开信息:

人的五官在不停地感知、接收信息;人的神经系统在不停地传递信息;人的大脑则在不停地处理与决策信息;人与人之间又在不停地交流信息;人活在世上百分之百时间都在自觉与不自觉地与信息打交道。

3) 知识、书本是有用信息的积累:

人类依靠知识改造自然,适应自然,靠知识促进社会的发展与进步。

所谓抽象性则是指:

信息是组成客观世界并促进社会发展的最基本的三大要素之一。

三大要素是:物质、能量与信息。三要素中物质是基础,是实体。能量是物质运动的形式,E=mc2,物质可转换成能量,而能量又是改造客观世界的主要动力。

信息:它依附于物质和能量,但又不同于物质和能量。没有信息就不能更好地利用物质和能量,人类利用信息和知识改造物质,创造新物质,提高能量利用效率,发现新能量形式。信息也是客观存在的,它是人类认识、改造客观世界的主要动力,是人类认识客观世界的更高层次。就狭义而言,在通信中对信息的表达分为三个层次:信号、消息、信息。

信号:是信息的物理表达层,是三个层次中最具体的层次。它是一个物理量,是一个载荷信息的实体,可测量、可描述、可显示。

消息:(或称为符号)是信息的数学表达层,它虽不是一个物理量,但是可以定量地加以描述,它是具体物理信号的进一步数学抽象,可将具体物理信号抽象为两大类型:

1) 离散(数字)消息,是一组未知量,可用随机序列来描述: 1…Ul…UL)

2) 连续(模拟)消息,也是未知量,它可用随机过程来描述:U(t,ω)

信息:它是更高层次哲学上的抽象,是信号与消息的更高表达层次。三个层次中,信号最具体,信息最抽象。它们三者之间的关系是哲学上的内涵与外延的关系。

这就是说:信息可以认为是具体的物理信号、数学描述的消息的内涵,即信号具体载荷的内容、消息描述的含义。

而信号则是抽象信息在物理层表达的外延;消息则是抽象信息在数学层表达的外延。同一信息,可以采用不同的信号形式(比如文字、语言、图象等)来载荷;同一信息,也可以采用不同的数学表达形式(比如离散或连续)来定量描述。同样,同一信号形式,比如“0”与“1”可以表达不同形式的信息,比如无与有、断与通、低与高(电平)等等。

二) 什么是信息论?

它是C.E.Shannon四十年代末期,以客观概率信息为研究对象,从通信的信息传输问题中总结和开拓出来的理论。主要研究的问题:

1) 信源的描述,信息的定量度量、分析与计算。

第1页

你可能喜欢

热门文档

相关文档

  • 信息论与编码论文

    A10 电信 汪艳 100403139 电子信息工程导论 —信息论与编码基础理论之学习【...Information Theory And Coding Abstract: With the rapid development of ...

  • 信息论与编码基础绪论

    信息论与编码基础绪论_天文/地理_自然科学_专业...(channel coding)-提高抗干扰能力,减低误码率(也... Information Theory, coding and Cryptography 三 ...

  • 信息论与编码2012

    信息论与编码基础 信息论与编码基础内容 教学 第一章:绪论 计 第二章:离散...Robert J.McEliece著,《THE THEORY OF INFORMATION AND CODING》(SECOND EDITION...

  • 信息论与编码理论

    信息论与编码理论 杨文通信工程系 信息论基础的重要性 ? ? ? 信息论是信息...《<<信息论与编码理论>>(The Theory of Information and Coding,英文影印版)(...

  • 信息论基础教程

    Wells: Applied Coding and Information Theory for Engineers 机械工业版,2002.9 Thomas M.Cover:信息论基础(英文版) 清华版,2003-11-01 Ranjan Bose:信息论、...

  • 信息论与编码理论--第一章

    信息论基础参考书: Elements of Information Theory,Thomas M. Cover 清华大学...channel coding theorem Chap7:Block coding Chap9:Rate Distortion Chap10: ...

  • 《信息论与编码基础》第1章_绪论

    Thomas,Elements of Information Theory,清华大学出版社,2003 ? R. J. McEliece, The Theory of Information and Coding, 电 子工业出版社, 2005 第一章 绪论 ...

  • 信息论与编码

    信息论与编码 The Theory of Information & Coding 授课老师:林爱英 河南农业...信息论基础 ? 基本概念:自信息量、信息熵、互信息、信息率失真 函数以及信道...

  • 信息论与编码序论1讲

    网络工程系-Information Theory and Coding 那么信息究竟是什么呢? 1 2 3 4 ...应用近代概率统计方法研究 信息论基础 网络工程系-Information Theory and Coding ...

  • 信息论与编码

    编码的基本理论 和方法和技术 ; 为从事信息科学的研究和应用打下坚实的基础。 ...( A mathematical theory of communication)为题公开发表,标志着信息论的正式诞生...

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email