挑战综合信息理论
我们如何知道人工智能是没有感觉的算法还是有意识的存在，能够体验感觉和情绪？这个问题的答案对我们应用于人工智能的伦理准则有重大影响。如果我们相信未来的人工智能能够感受痛苦和喜悦，我们对待它的方式将与我们对待诸如Excel公式这样的简单算法的方式不同。我们能否知道人工智能正在经历什么？意识理论旨在解释意识的产生，并且有助于确定人工智能、动物甚至树木是否具有意识。
其中一种主要理论，综合信息理论（Integrated Information Theory, IIT），的独特之处在于它提供了一个计算任何事物有多有意识的方程。人类的大脑得分非常高，而一堆石头得分为零。从你厨房里的灯光电路到ChatGPT，电子线路的得分范围很广。关于后者和其他人工智能，综合信息理论做出了一个有趣的预测：由复杂的循环结构构建的人工智能将具有至少一些意识，而由线性的前馈网络构建的人工智能（包括ChatGPT在内）将没有意识。
如果这个理论能够被证实为真实，对于未来的人工智能伦理以及理解人类意识来说将是极其有用的。目前，该理论已经被用于预测处于植物人状态的患者是否真正无意识，或者只是被困住无法移动却能感知周围环境。然而，综合信息理论的可证明性最近受到了质疑，其中一篇名为《展开的论证》（The Unfolding Argument）的2019年论文提出了疑问。这个论证并不是说综合信息理论必然是错误的，而是认为它永远不能被证明为真实。它依据的事实是综合信息理论预测在形状不同但行为相同的网络中具有不同意识水平。
为了充分理解这个论证以及它对我们对意识的理解意味着什么，让我们深入探讨意识、综合信息理论、循环网络与前馈网络以及展开的论证。
什么是意识
为了理解像综合信息理论这样的理论，我们需要明确我们所指的“意识”一词的含义。在这个背景下，意识是指你对…