信息论的由来发展VIP免费

信息论的由来发展科学技术的发展是人类正在进入一个新的时代，这个时代的主要特征之一就是对信息的需求和利用，因此有人称之为信息时代。而迄今为止，人们对信息都没有确切定义，但是它是一种人人皆知、不言自明的抽象概念。信息虽无确切定义，但是却有两个明显的特征：广泛性与抽象性，信息时组成客观世界并促进社会发展的最基本的三大要素之一（物质、能量和信息）。它依附于物质和能量，但又不同于物质和能量。没有信息就不能更好地利用物质和能量，人类利用信息和知识改造物质，创造新物质，提高能量利用效率，发现新能量形式。信息也是客观存在的，它是人类认识、改造客观世界的主要动力，是人类认识客观世界的更高层次。人类社会的生存和发展无时无刻都离不开信息的获取、传递、处理、再生、控制和利用。信息论正是一门把信息作为研究对象，以揭示信息的本质特征和规律为基础，应用概率论、随机过程和数理统计等方法来研究信息的存储、传输、处理、控制和利用等一般规律的科学。自从1948年贝尔研究所的香农发表了《通信的数学理论》一文，宣告了信息论作为一门独立的、全新的学科成立。自此以后，信息理论本身得到不断地发展和深化，尤其是在信息理论的指导下，信息技术也获得飞快发展。这又使信息的研究冲破了香农狭义信息的范畴，几乎渗透到自然科学与社会科学的所有领域，从而形成了一门具有划时代意义的新兴学科——信息科学。信息科学是人们在对信息的认识与利用不断扩大的过程中，在信息论、电子学、计算机科学、人工智能、系统工程学、自动化技术等多学科基础上发展起来的一门边缘性新学科。它的任务主要是研究信息的性质，研究机器、生物和人类关于各种信息的获取、变换、传输、处理、利用和控制的一般规律，设计和研制各种信息机器和控制设备，实现操作自动化，以便尽可能地把人脑从自然力的束缚下解放出来，提高人类认识世界和改造世界的能力。信息科学在安全问题的研究中也有着重要应用。1924年H.Nyquist开始分析电报信号传输中脉冲速率与信道带宽的关系1928年R.V.L.Hartley提出信息应该由随机事件样本空间中兀素的个数的对数值来衡量1930年N.Wiener开始把傅里叶分析方法全面引入随机时间信号的研究中来1936年E.H.Armstrong提出频率调制1939年H.Dudley发明了声码器1948年N.Wiener发表《控制论》1948年C.E.Shannon发表《通信的数学理论》1952年D.A.Huffman提出了Huffman编码1954年P.Elias提出了卷积码1959年S.K.Kullback提出了鉴别信息的概念1961年C.E.Shannon提出了多用户信息论1963年P.Elias提出了算术编码1965年A.N.Kolmogorov提出了通用编码1982年G.Ungerboeck实现了网格编码调制1993年Turbo码的性能已经非常接近于理论极限上表记录了科学家们再信息科学发展中的重要贡献，反映了信息科学的发展历程。香农在论文《通讯的数学理论》中系统地提出了关于信息的论述，创立了信息论。维纳提出的关于度量信息量的数学公式开辟了信息论的广泛应用前景。1951年美国无线电工程学会承认信息论这门学科，此后得到迅速发展。20世纪50年代是信息论向各门学科冲击的时期，60年代信息论不是重大的创新时期，而是一个消化、理解的时期，是在已有的基础上进行重大建设的时期。研究重点是信息和信源编码问题。到70年代，由于数字计算机的广泛应用，通讯系统的能力也有很大提高，如何更有效地利用和处理信息，成为日益迫切的问题。人们越来越认识到信息的重要性，认识到信息可以作为与材料和能源一样的资源而加以充分利用和共享。人类迈入21世纪的高度信息化时代以来，移动通信、互联网通信、多媒体技术、计算机技术、空间技术等信息技术出现了超越人们想象的、前所未有的发展速度，在这些领域中，只要涉及信息的存储、传输和处理就要用到香浓信息理论——无失真通信的传输速率极限（即香浓极限）、无失真和限失真新源编码理论（即数据压缩原理）和信道编码理论（即纠错码理论）等。如今信息的概念和方法已广泛渗透到各个科学领域，它迫切要求突破申农信息论的狭隘范围，以便使它能成为人类各种活动中所碰到的信息问题的基础理论，从而推动其他许多新兴学科进一步发展。目前，人们...