431
《偉大的計算原理》一總結
本節書摘來華章計算機《偉大的計算原理》一書中的第3章 ，［美］彼得 J. 丹寧（Peter J. Denning）
克雷格 H. 馬特爾（Craig H. Martell）著 羅英偉 高良才 張 偉 熊瑞勤 譯 更多章節內容可以訪問雲棲社區“華章計算機”公眾號查看。
總結
自古以來，人類就開始編碼信號，使其可以在不同的媒介中進行傳輸。在20世紀40年代，香農的信息論提出了四大準則：
- 每一個通信係統都可以被建模成一個噪聲通道，其攜帶著被編碼的信號，該信號表達著消息源中的消息。
- 消息源的熵決定了消息源最短的可解析編碼的長度，哈夫曼編碼是和熵一致的一種編碼（信息熵小於一個比特）。
- 充分冗餘的比特位能夠添加到任意編碼中，以此來克服信道中的噪聲，並且能同時保證百分之百準確的接收。
- 利用更短的編碼替換模式，文件能夠被壓縮到更小的尺寸。
這些原則使得通信和計算機工程師能夠設計數字係統，這些係統在傳輸過程中不會丟失信息，並且噪聲引入的錯誤也可以被消除。
一些不理解香農理論的企業家認為“比特而非原子”的理論能夠預示一個激增的新興經濟體，但他們的夢想是不會實現的，因為真正的通信和計算係統的基礎來源於將數據記錄表示成物理信號和狀態，而計算和傳輸需要消耗時間和能量。我們在計算上花費了很多能量：互聯網的連接點和數據中心消耗了世界近6%的電力。我們不能寄希望於假定能通過比特而不是原子來解決棘手問題就忽略了這個問題：比特背後的原子也是很重要的。
正如摩爾定律所預示，我們存儲信息的能力成指數增加，我們闡明信息含義的壓力也在不斷地增加，而香農信息論的定義無法解決這個問題。這看似是個悖論：係統如何在不考慮信息含義的情況下處理信息，同時還能在用戶的體驗中產生含義。
含義保留的變換融合了機器的無意義機製和能讓機器產生含義的人類經驗。程序設計師編製指令，從而能在用戶群體產生預期含義的輸出；每一條指令的執行，逐步將部分計算結果接近預期的輸出。讓我們為程序設計師這個角色鼓掌，是他們給了我們有意義的軟件和硬件。
最後更新：2017-06-26 13:32:12