近80年来,信息论领域的研究重心主要集中在如何高效传输信息,而非考量人们能从信息中推断出什么。

然而,通信两端的人类本能地意识到,并非所有比特都具有同等价值。这种差异,就在于能从信息中推断出什么。将推理纳入通信模型拉斯特拉斯与合作者们提出了一个问题:如果通信系统明确地将逻辑推导纳入考量,会发生什么?团队得出的核心洞见是:当允许推理时,通信效率会显著提升。现代AI系统越来越依赖于不仅处理信息,还要对信息进行推理。它和香农信息熵有什么区别?与香农信息熵只关注信息的传输效率不同,逻辑语义熵还考虑了接收方能从所收到的信息中推导出多少额外知识。