1951年，美国著名电气工程师克劳德.香农提出了一种声名鹊起的信息理论，即香农定理。香农定理是信息论的核心理论，以此为基础，研究者们已经在各种领域取得了重大突破，并应用于无线通信、高清影像、科学计算等方面。
香农定理指出，信息量的衡量与信息中的不确定性有关，且一个二进制信息的上限速率为信道带宽。简单来说，香农定理指出，一个信息在传递过程中所需的平均码长等于信息的熵。
而通过熵编码提高信息传输效率的方法，已经广泛应用于高清影像、语音通话等场景中。对于一张高清图片而言，因为图片中存在大量冗余信息，所以通过对图片进行压缩可以减小其数据量，从而在传输时提高传输效率。在语音传输中，基于熵编码原理的自适应差错保护技术也被广泛使用。
随着信息科技的发展，香农定理的应用越来越广泛。从高清影像、语音通话到物联网、云计算，香农定理的应用已经渗透到了很多行业之中。相信随着技术的发展，香农定理也将在更多领域发挥其重要作用。
