8.2 数据压缩与存储 8.2 数据压缩与存储:从熵减到物理比特的守望 在信息论的宏大版图中,如果说信道编码是穿越噪声迷雾的导航仪,那么数据压缩与存储则是对“空间”与“时间”这两大物理维度最极致的挑战。克劳德·香农(Claude Shannon)在1948年的开创性论文中,不仅界定了通信的极限,更通过源编码定理(Source Coding Theorem)和率失真理论(Rate-Distortion Theory),为现代数字文明的基石——数据压缩与高效存储,夯实了理论地基。 当我们谈论数据压缩与存储时,本质上是在讨论如何在一个有限的物理媒介中,容纳尽可能多的“不确定性”消除过程。