1、. .9/9香農的信息論的局限性與其推廣研究（一）立項依據與研究容 項目的立項依據研究意義關于香農信息論的局限性一直都有研究，但是信息的可靠性的研究一直在很大程度上受到忽視，比如香農（Shannon，又譯申農、仙農）的信息論只是涉與到信息傳輸過程中的可靠性，香農對信息的定義和度量都從隨機不確定性的角度來進行考慮。目前信息的定義超過80種之多，但是信息的定義都缺乏對信息可靠性的考慮，一些信息的定義把信息當作對事物的一種真實的反映，然而信息的不可靠性是廣泛存在的，從嚴格的角度來講，信息很難是絕對可靠的，包括一些科學規律（一種特別的信息），也只能被證偽，而不能被證明是正確的，用于獲取信息的人的感官和

2、各種儀器設備也存在一定的不可靠性。信息的不完備性，也是廣泛存在的，往往由于條件的限制而不能得到完全的信息，如何將許多片面的信息進行融合，讓信息更加完備，也是一個很重要的問題（特別說明：這里的可靠性是信息本身的可靠性，而不是信息傳遞、存儲等方面的可靠性）。信息的價值之所以存在，還是因為信息具有一定的可靠性，我們處于信息社會，各種各樣的信息在急遽增長，如何很好利用信息，識別信息，提高信息的可靠性，將各種不完備，不可靠的信息進行利用、融合和提取，顯然是非常重要的。信息的可靠性不能完全靠人工來鑒別，人工作業有其不精確性，主觀性，應當盡量采用信息技術來自動解決，減少人為判斷?；ヂ摼W的出現使得信息不斷急遽

3、增長，人工處理這些浩如煙海的信息將是很困難，不現實的，需要建立相關的信息理論來通過計算機融合信息。然而香農的信息論并不能解決這些問題，他的信息論僅僅適應于通信等很局限的領域。一些學者提出了廣義信息論、全信息理論，統一信息理論擴展了他的理論，但是這些理論都沒有考慮信息的可靠性方面。此外，它與其他的一些信息相關的學科在一定程度上是隔離的。在申請人提出了信息的可靠性問題后，一些學者認為可靠性是信息的重要方面，建議筆者建立可靠信息論。由于可靠性可能過于狹隘，而采用相對信息論命名，除了考慮可靠性外，它具有更加深遠的意義，有助于解決和解釋更多的問題。在密碼分析方面，缺乏對信息的不確定性和信息融合的研究，比

4、如當多個偽密鑰存在的情況下，如何進行判斷分析。密碼分析前已知的信息與密碼分析得到的信息如何進行融合，密碼分析得到的信息是不可靠的時候，或者密碼分析得到的信息只能得出某些需要了解的信息的不確定的概率分布且事先也對這些需要了解的信息從其他的角度得出某一概率分布時候，如何來得出更加完備和可靠的信息，都是尚未研究的領域。國外研究現狀與發展動態分析香農信息論的局限性很早就被認識到，包括香農本人。香農的信息論誕生不久，許多人將它推廣到日常信息交流場合，于是出現紕漏。香農也曾經輯文反對信息論的濫用。和Shannon合著通信的數學理論一書的W. Weaver就提出通信的三個水平，而香農理論僅僅是其中一個水平。

5、為了解決語義信息問題，R. Carnap等人提出用邏輯概率代替普通概率，然后用Shannon 熵度量語義信息。50年代末，Kullback提出Kullback信息公式。60年代初，Brillouin提出可用Hartley公式的改進形式來度量非概率信息，比如測量數據的信息。1965年，L. A. Zadeh提出模糊集合論，1968年，他又提出模糊事件，即模糊集合A中事件的概率，和模糊集合的熵。1972年,德魯卡和特爾米尼提出了用來測度模糊事件的信息量的模糊信息熵公式。70年代，H. Gottinger提出非概率信息，S.Guiasu提出了加權熵和效用信息，都產生了一定影響。G. Jumarie還

6、提出采用洛倫茲變換的相對信息，可惜相對信息的定義并不自然，它與本項目的相對信息有很大的差別。此后，R. Yager，M. Higashi和G. Klir，D. Dubois和H. Prade等人又提出或討論了可能不確定性測度與相應的廣義熵，這類方法只采用隸屬度等主觀測度而不使用事件發生的概率。吳偉陵教授對廣義熵和模糊信息做過探討。我國學者鐘義信先生1981年針對香農信息論的熵公式只能度量概率信息的缺陷,提出了一種廣義信息函數。1985年,他又把該公式推廣到語義信息和語用信息的度量,得到了語法,語義和語用信息的綜合測度公式,即所謂全信息的計量模型。1993年，魯晨光提出廣義信息論，指出香農信息論

7、的局限性具體表現在:不便于度量語義信息、感覺信息、信源信道可變時的信息以與單個信號的信息。魯晨光提出了廣義通信模型和可度量語義信息、感覺信息與測量信號信息的廣義信息測度；討論了預測和檢測的信息準則和優化理論。George J. Klir則在模糊邏輯，不分明集這些不確定性方面作出了許多的研究。斯托尼爾在90年代初提出統一的信息理論,他把信息看成是宇宙的一種基本屬性,其目標是在信息物理學的基礎上,并綜合現有的控制論,符號學,語言學,認知心理學等學科,構建一個所謂一般信息理論的框架。這些新的理論都是在香農的基礎上進行擴展，認識到了香農的一些局限性，都很重視對單重不確定性（信息熵）的研究，但是都沒有考

8、慮的信息的可靠性這一問題，即信息與客觀事實和真理的符合程度，從信息表示的角度，也就是說沒有考慮到信息的表示是不確定性的，如信息的表達中概率是變動的，隨機的。此外關于信息的定義非常多，但是并不存在公認的定義，絕大多數定義都沒有考慮信息的可靠性，信息的定義也是以“信息是消除不確定性的東西”得到廣泛的重視。關于不確定性理論，相關的推理模型沒有一個統一的模型，種類不計其數，其中比較著名的有：Shortliffe在1975年結合醫療專家系統MYCIN建立的確定性理論，Duda在1976年結合探礦專家系統PROSPECTOR建立的主觀Bayes推理，Dempster Shafer在1976年提出的證據理論

9、，Zadeh在1978年提出的可能性理論，1983年提出的模糊邏輯和邏輯推理，Nilsson在1986年提出的概率邏輯，Pearl在1986年提出的信任網絡。八十年代以后，人們又提出了灰色系統理論、粗集理論、概念圖、基于信比概念的知識處理和集對分析等新方法。國學者德毅提出了云模型，何華燦提出了泛邏輯學。但是不確定性理論通常是不夠嚴謹的，甚至還存在一些沖突和悖論。這些理論與概率論和信息論都是出現了不應該有的隔離，特別是與信息論與不確定性理論、信息融合相去甚遠?？梢哉f信息與知識和智能已經隔離了，國學者鐘義信認識到這一問題，提出信息知識智能轉換的規律，提出了一些框架。在可靠性理論方面，主要是研究工程

10、、產品和系統的可靠性，其中包括軟件產品的可靠性，涉與到信息的主要是針對信息系統的可靠性、可靠性相關的信息的處理軟件系統以與可靠性相關的信息的分析和利用設計。除申請人提出了信息的可靠性問題，并且分析了它與不確定性的關系外，目前尚未見到有對信息本身的可靠性相關的其他研究，而信息的可靠性問題比一般的可靠性問題更加復雜。主要參考文獻1.Shannon C E. A mathematical theory of communication，Bell System Technical Journal,27 (1948)，379429，6236562.美威弗爾. 通訊的數學理論的新發展，系統論控制論信息論經

11、典文獻選編，1989,6126363.汪培莊. 模糊集和隨機集落影，師大學，1984. 4.宛天巍， 王浣塵， 旭，信息測度方法的綜述，系統工程理論方法應用，第14卷第6期，2005年12月5.Wierman, M.J.,Tastle, W.J. Placing the Dissonance Measure in the Context of Generalized Information Theory,Fuzzy Information Processing Society, 2006. NAFIPS 2006. Annual meeting of the North American, 3

12、-6 June 2006 Page(s):253 - 2566.Peter Fleissner, Wolfgang Hofkirchner ，Emergent information Towards a unified information theory In: BioSystems 2-3(38)/1996, 243-2487.KullbackS. Information and Statistics，John Wiley & Sons Inc.，New York，1959 8.Aczel J and Forte B. Generalized entropies and the maxim

13、um entropy principle，In: Bayesian Entropy and Bayesian Methods in Applied Stastics，Cambridge University Press，Cambridge，1986，951009.Brillouin L. Science and Information Theory，Academic Press，New York，196210.Zadeh L A. Probability measures of fuzzy events，Journal of mathematical Analyses and Applicat

14、ions 23 (1968)，42142711.De Luca A and Termini S. A definition of nonprobabilistic entropy in the setting of fuzzy sets， Infor. Contr. 20 (1972)，20131212.Gottinger H W. Lecture notes on concepts and Measures of information，In Information Theory: New trends and Open Problems, G. Longo eds.，Springer Ve

15、rlag，CISM(1975)13.郝建民，紀念信息論創立五十周年，遙測遙控，1999年5月，第20卷第3期14.鐘義信面向智能研究的全信息理論J郵電大學學報，2000，(1)15.Klir, G. J. Uncertainty and Information: Foundations of Generalized Information Theory. John Wiley, Hoboken, NJ,2006 16.鐘義信. 信息科學原理，人民，198817.魯晨光廣義信息論，中國科技大學，199318.Klir, G.J.Measuring uncertainty associated w

16、ith convex sets of probability distributions: a new approach,Fuzzy Information Processing Society, 2005. NAFIPS 2005. Annual Meeting of the North American 26-28 June 2005 Page(s):61 - 6419.王勇，論信息的相對性，：首屆全國社會信息科學研討會論文集，2007年06月20. George J. Klir.An update on generalized information theoryA.ISIPTAC.20

17、03.32133421.王勇. 香農信息論的局限性分析. 中國科技論文在線(). 2007年07月18日22.德毅，不確定性人工智能，國防工業, 2005年7月項目的研究容、研究目標,以與擬解決的關鍵科學問題項目研究容（1）本項目借鑒前人對信息論的局限性的分析，從可靠性的角度來分析香農信息論的局限性，以與其產生的根源，并且將信息論從相對信息的角度來進行推廣。提出相對信息論，基于相對信息理論提出（精確的）集合下信息的可靠度和信息的差別指標，提出一些算法，用于解釋一些概率沖突，并且用于信息融合。（2）將相對信息理論應用在密碼分析中，研究在密碼分析中，如何將密碼分析的結果與事先已知的信息進行融合。將

18、相對信息理論應用于解釋各種社會分歧和沖突。（3）研究量子信息與經典信息論的融合和統一問題，用于發展相對信息理論。項目研究目標分析香農信息論尚未研究的局限性，指出信息論的潛在條件和適用圍，并且根據局限性，推廣信息理論，從信息可靠性和相對性角度建立廣義的信息理論，提出一些度量指標和一些算法，并且用它來解釋各種現象，將信息論和本來與之相對獨立的人工智能、信息融合等領域真正融合起來。將推廣的信息理論應用在密碼分析中。擬解決的關鍵科學問題（1）對信息論忽視信息的可靠性來進行剖析，并且給出信息可靠性的表征方式，研究如何將各種不可靠的，不完備（完全）的信息進行融合，提出相關算法，建立相對信息論。（2）將相對

19、信息理論的信息融合算法用于將密碼分析的結果與事先已知的信息進行融合，以與不能確定真偽密鑰情況下的信息融合。（3）用相對信息論來解釋自然科學和社會科學現象，特別是解釋各種文化沖突、多元化、各種派別的分歧、信仰差異、科學與偽科學之爭。將原本分離的信息論、不確定性理論和信息融合理論的整合。擬采取的研究方案與可行性分析研究方案本項目研究采取的是理論分析、數學證明、實例檢驗、公理化方法、舉反例以與在適當條件下爭取實證研究相結合的研究方法。為了保證成果的可靠性，一些成果將會在網絡上接受質疑，并且參加學術會議與學者交流辯論。主要利用概率論、信息論、不確定性理論、信息融合理論以與人工智能和信息處理等領域的一些

20、理論知識。（1）以不確定性理論、信息融合理論、可靠性理論、概率論來對信息論忽視信息的可靠性的局限性進行剖析，對香農對信息的表達方式的局限性進行分析，即香農信息的概率是定值，但是現實中概率本身往往也具有一定的不確定性，以概率論方法來表征信息的可靠性，從而將信息融合問題歸結為概率論的問題，同時充分借鑒可靠性理論、超熵理論和云模型的方法。用公理化方法以與概率論來給出多個條件下信息的融合問題的算法并且驗證，采用數學分析方法來分析相關的性質。（2）借鑒香農對通信的可靠性的考慮以與香農對信息的可靠性的考慮（雖然香農沒有明示），研究信息的可靠性。（3）針對信息的可靠性相關的一系列問題，還需要通過進一步與專家

21、學者探討、辯論，保證項目的質量。重視從多個方面來說明問題，除了直接說明問題，還需要間接證據支撐。以各種社會科學和自然科學領域的分歧與沖突為依據，研究科學規律和理論這些特殊信息的相對性和沖突的根源，完善相對信息理論。（4）對密碼分析中的各種信息的特點進行分析，根據條件對（前面建立的）算法的適用性來確定將密碼分析的結果與事先已知的信息進行融合的算法?？尚行苑治霰卷椖康目尚行约畜w現于：新穎的學術思想項目研究既借鑒已有的理論，又充分分析已有理論的一些局限，根據這些局限性，采取去掉約束的方法來推廣理論。從信息可靠性、完備性、信息的多重不確定性這些尚未研究，但是卻很重要的方面來分析研究信息，將會使得信息

22、的研究更加符合現實需求，同時在這些方面也有可以借鑒的理論，比如概率論、香農信息論、可靠性理論等。良好的實施條件和項目組織方式 申請者一直從事本項目相關的研究和實踐，特別在信息可靠性方面已取得了階段性成果，為后續研究打下了基礎；項目組成員大多數為35周歲以下年輕學者，鉆勁足、視野開闊、創新意識強，均主持或參加過多個科研項目，具有較強的科研能力和項目組織管理經驗。本項目將充分利用網絡加強聯系和管理，拓展吸納項目組成員的方式，加強知識產權保護和管理以與科研管理，通過網絡開放項目，制定規和制度，開誠布公，強化和便利化項目管理，增加項目討論的渠道，此外項目組已經建立了開放項目開放科研項目和教改項目吧（）

23、，以期充分利用和吸納自愿參與的人才，以提高項目的質量和加快進度。此外，項目組還將在相關的網絡，特別是一些關于信息論研究方面的論壇上交流。本項目的特色與創新之處（1）本項目中，我們將信息與信息表示的原對象區分開，研究它們的差異，通過信息的這種指向性，我們充分研究信息廣泛存在的非絕對可靠和完備的性質，從信息論的角度來考慮信息的可靠性和完備性。（2）以概率論為基礎來表征信息，但是這里的概率相對于香農的信息論中概率是固定值而言，差別在于信息的概率依然是隨機不確定的，即對信息的多重隨機不確定性進行研究并且表征。（3）根據多個條件下概率滿足的一般性質來建立某些簡單公理，用公理化方法以與概率論來給出多個片面

24、（不完備）條件下信息的融合問題的算法并且加以驗證。將這些理論應用在密碼分析中。（4）研究針對一樣事物的各種信息分歧產生的根源，為化解沖突和矛盾提供理論依據，從而促進社會和諧。年度研究計劃與預期研究結果年度研究計劃2009-01-01至2009-12-31國外現狀的進一步掌握，項目調研和前期工作，分析香農關于信息定義和信息論的多方面局限性，并且進行推廣。 2010-01-01至2010-12-31根據香農信息論的局限性，從可靠性的角度將信息論拓展到通信以外的領域，比如信息融合、人工智能以與各種其他信息處理的領域。建立信息的可靠度和信息差別度量指標。2011-01-01至2011-12-31將本理

25、論應用在密碼分析中，解決密碼分析中的一些信息融合問題。研究現實息分歧產生的根源，并且建立相關的理論。補充完善前面工作基礎上，對本理論在其他等領域進行探索性研究，進行項目總結。預期研究成果從多個新的角度指出香農信息論的局限性，融合信息論、信息融合與人工智能等領域，建立基于可靠性的相對信息論，并且將它應用在密碼分析中。預期發表高質量的學術論文515篇，被三大檢索收錄13篇，完成一篇完整的研究性的結題報告，參加5次以上學術會議。出版廣義信息論領域學術專著一本?；谠撜n題，至少聯合培養碩士生3名與博士生1名。（二）研究基礎與工作條件 一、關于你的項目的同行評議意見如下： 申請人從Shannon信息論有關信息定義的局限性開始，對信息論進行推廣，以建立更為廣泛適用的信息論。申請書對國外有關研究Shannon信息論局限性問題的發展過程和存在的問題等作了較為詳細的描述，立論依據較充份。 有關Shannon信息論的局限性和推廣等問題，并不是一個新問題，國外早已有人研究