AI系统有意识的可能性是当前热门话题。顶尖研究人员从与人类意识相关的大脑过程中获得灵感，以提升AI的能力。AI的进展惊人迅速。同时，开发能够准确模仿人类语音的AI系统可能会增加用户对有意识的AI系统的感知。他们在这项研究中主张，评估AI的意识最好的方法是参考神经科学对意识的理论。他们讨论了这类已知的理论，并研究了它们对AI的影响。
他们认为以下是他们在这份报告中的主要贡献：
1. 证明评估AI的意识在科学上是可行的，因为意识可以科学地进行研究，而且这项研究的结果适用于AI。
2. 他们提供了初步证据，表明许多指标性质可以使用当前技术在AI系统中实现，尽管目前没有系统被认为是意识的强有力候选者。
3. 以科学理论为基础，概述了评估AI中的意识的评分表。他们预期随着研究的进展，他们将包括的指标特征清单可能会发生变化，因此提供的评分表是初步的。
他们使用了三个基本原则来研究AI中的意识。作为工作假设，他们首先接受了计算功能主义的理论，该理论认为适当的计算既是理解的必要条件，也是充分条件。尽管有争议，但这一观点是现代哲学思考的支柱。出于实用原因，他们采纳了这一理论，因为与其他观点不同，它意味着AI的意识在理论上是可行的，研究AI系统的内部运作对于确定AI系统是否有可能有意识是重要的。这意味着思考计算功能主义对AI意识的影响是有用的。其次，他们认为基于神经科学的意识理论具有实证的有效性，并可用于评估人工智能中的意识。
计算功能主义暗示在AI中，类似的功能可能足以实现意识。这些理论试图找到在人类中既是必要条件又是充分条件的意识功能。第三，他们认为在AI中研究意识的最佳策略是理论为基础的策略。这意味着确定AI系统是否执行与科学理论中与意识相关的任务，并根据以下因素评估这些理论的可信度：
- 功能的相似性。
- 支持理论的证据的强度。
- 对计算功能主义的信念。
与此策略相比，评估行为意识的替代方法是进行行为测试。然而，由于AI系统可以被训练以模仿人类行为而在运作方式上有所不同，因此这种策略可能更可靠。
在这个背景下，他们不支持任何特定的理论，因为在意识科学中有几个假设是活跃的竞争者。相反，他们从对意识理论的研究中收集了一份指标清单。每个指标质量都是意识所必需的，并且一些子集是足够的，这是几个理论声称的。然而，他们认为，如果AI系统具有更多的指标特征，它们更有可能是有意识的。人们应该评估当前或计划中的AI系统是否具备或将具备这些特征，以确定它是否是意识的严肃竞争者。他们讨论了几个科学理论，如计算的高阶理论、全局工作空间理论和循环处理理论。由于集成信息理论与计算功能主义不兼容，他们不予考虑。
此外，他们还考虑了代理和具身化作为指标的概念。然而，重要的是要理解它们所暗示的计算方面。他们讨论了Perceiver架构和基于Transformer的大型语言模型，并根据全局工作空间的思想对其进行评估。他们还研究了一种通过管理虚拟鼠标身体来完成任务的系统（名为PaLM-E，即“具身化多模态语言模型”）和DeepMind的自适应代理（一种在3D虚拟环境中工作的强化学习代理）。他们使用这三个系统作为案例研究，以展示与代理和具身化相关的指标特征。
查看预印本论文。这项研究的所有荣誉归功于该项目的研究人员。此外，不要忘记加入我们的29k+ ML SubReddit、40k+ Facebook社区、Discord频道和电子邮件通讯，在那里我们分享最新的AI研究动态、有趣的AI项目等等。
Hostinger AI 网站构建器：用户友好的拖放式编辑器。立即试用（赞助）
1/8 非常兴奋地宣布我们的新预印版，从神经科学领域的领先理论的角度考虑了人工智能中的意识问题。这是一个大型的跨学科合作项目，涉及哲学、神经科学和人工智能的人员！https://t.co/rLm78YNfJk
— Eric Elmoznino (@EricElmoznino) 2023年8月21日
本文《评估人工智能中意识的潜力：基于神经科学理论的指标特性的科学探索》首发于 MarkTechPost。