信息论的变化论：比特即变化

文档摘要

信息论的变化论：比特即变化核心观点信息论研究信息的量化、存储和传输。变化论提出：信息不是"关于"东西的，信息是"变化的记录"。信息的本质信息不是被动的，信息是主动的变化传统观点：信息是"关于"某事的数据。变化论观点：信息是"变化的差异"。没有变化，就没有信息信息不是"静态的数据"，信息是"变化的事件" 一本你永远不打开的书，从信息论角度，它包含的信息是"潜在的"（变化尚未发生）香农信息 = 变化的惊奇传统观点：信息是惊喜的程度（概率的负对数）。变化论观点：信息是"变化带来的惊奇"。必然事件（概率=1）：无信息，因为无变化不可能事件（概率=0）：无限信息，因为无限变化小概率事件：高信息，因为大变化熵 = 变化的可能性传统观点：熵是无序度或信息缺失。