生物学和人工智能领域中的先天性问题对于人工智能的未来发展至关重要。这篇分为两个部分的深入探讨将有助于澄清这一概念及其应用。
作者：Vincent J. Carchidi
引言
近年来，Twitter上鲜少有好事发生，但最近人工智能专家Gary Marcus在一条Twitter推文中提出了一个引人入胜的话题：生物有机体中的“先天性”概念及其对人工智能的相关性。下面是完整的推文：“蚂蚁中有明确的先天证据。当我们搞清楚这一切时，机器学习领域对先天性的敌意将显得愚蠢。”
其他专家和研究者的反应分别沿着人工智能研究中近年来已经绘制出的界限。Thomas Dietterich质疑：“将某物宣称为先天性如何帮助我们进行人工智能科学研究？”他补充说：“预训练的整个思想正是为了创建具有良好的先天表征的网络。” Judea Pearl回应道：“先天性是一个警告，即某些与数据无关，与任何预训练也无关的知识必须被编码到系统中以实现某种性能。” Rodney Brooks将端到端学习称为“迷恋”，而Dietterich在回应中则认为，大型语言模型（LLM）表明“自动化学习可以在互联网规模上工作，构建一个非常广泛和通用的系统。”
这并不是一个理想的关于先天性和智能的讨论。但是Dietterich最初的问题值得提问和回答：先天性的概念对于人工智能研究人员有帮助吗？
先天性问题对于未来旨在设计类似人类的人工智能系统的研究至关重要。尽管这一概念在该领域的引入常常混乱而有争议，但它是不可避免的——在可预见的未来，人工智能的目标是至少与人类的某些高级认知能力相似。但是，关于人类认知本质的问题通常都以过于简单化、过时的思想或者直接否认人类如何实现其成就对于机器智能而言并不重要的观点来进行探讨。
本文深入探讨了生物学和人工智能中的先天性问题，旨在澄清某些观点并为辩论提供信息。由于这个主题涉及到多学科的信息，本文分为两个部分。第一部分致力于建立人类先天性背景的基础，以避免领域内熟悉的分析框架。因此，我提供了一个关于人类道德认知内在基础的观点——这个主题与语言不同，最近并没有过度炒作。
因此，我们在第二部分进入人工智能中的先天性讨论。我聚焦于两个游戏智能研究的例子——下围棋的智能体AlphaGo Zero和玩外交的智能体Cicero——并将生物学中的先天性概念与这些智能体联系起来。本文提供了这些系统架构的高层和低层概述。虽然假定读者具备一些背景知识，但内容的写作方式使其对一般读者也易于理解。
最终，这两个部分将说明追求类似人类的人工智能，甚至是人工通用智能，与先天性直接相关。
目录
第一部分：
· 道德认知中的生物学先天性
- 如何对先天性产生兴趣
- 道德认知的内在基础
- 影响
第二部分：
· 人工智能中的先天性
- 游戏AI作为人工通用智能的窗口
- 影响
· 结论
道德认知中的生物先天性
关于先天性概念的稳健性以及人类是否具有先天认知天赋的辩论已经持续了2000多年。我不指望在这里解决这个辩论，也不提供一个终结对该术语的定义的对话。但是对此问题的个人观点对我们入门是有用的，然后可以用来探讨生物学和人工智能中的先天性。
如何对先天性产生兴趣
我本科和研究生阶段花费了相当多的智力精力来辩论支持这样一个观点：人类道德心理在思维中具有强大、特定领域和先天的基础，即在心智中具有为道德直觉产生而指定的专门认知系统，与其他系统（如视觉或听觉系统）独立存在，尽管在日常人类行为过程中不断需要与它们进行交互。这是不寻常的，因为我学的是政治学，这个学科往往不会以认知和神经科学的特征详细考虑这些问题。
我的动机源于一种挫折感：当我上国际组织课程时，谈到了联合国1948年《世界人权宣言》，这在很多方面作为国际人权活动和法律的基础，并在其通过后的几十年里出现了。国际关系学者（政治学的一个分支）以许多方式来构建这个文件的产生和后续使用——有些专注于二十世纪上半叶的反殖民主义运动和帝国的崩溃，有些专注于通过政治活动和宗教传统的数十年或数百年的意识影响，还有些专注于国家之间的权力分布。道德——意味着个体的道德判断、特定文化的道德规范以及群体和国家的道德传统——构成了其中很大一部分。
然而，有趣的是，这些学者几乎都做出了同样的、隐含的假设：道德可以纯粹从社会科学的角度理解。
对我来说，这似乎不可信。可以写上几千页关于道德规范和习俗的演变，这些规范和习俗纳入了国际宣言。但是人们首先如何培养出产生道德直觉的能力呢？回答这个问题似乎必然会影响我们回答有关国际人权规范和法律发展的问题。
道德认知的先天基础
虽然道德心理学在国际关系中已经盛行，但对先天性的辩论仍然不够充分。先天性可以有太多的含义，往往卷入关于生物决定论的争论中。
相反，为了理解人类道德，我们应该采用与理解身体任何其他物理或认知系统相同的方法论技术。因此，我们区分产生道德直觉和道德判断的能力以及如何使用这种能力——在认知科学中始终使用的能力和表现之间的区别。这样做可以剥离社会和政治生活的许多混乱，解释一种发育健康的人所拥有的道德能力——道德能力。在道德心理学中，我们正确构思的解释目标是道德能力，将表现留到另一天。
正如法学者和哲学家马蒂亚斯·马尔曼在最近一本关于道德认知和人权的重要著作中所写：“然而，这种能力的表现，即对行为的最终评估，可能会被评估者的利益所偏倚。因此，如果我们要正确研究相关的认知能力，这些影响需要从分析中剔除出去。这并不容易，特别是在实证研究中。”（第403页）可以想象为什么这在社会科学中如此难以做到，尤其是在行为的“最终评估”经常与实证无关的因素联系在一起的地方。我们也可以像下面讨论的那样，想象为什么这在人工智能中很困难，因为系统需要一定程度的人类输入来探索它们的能力。
因此，我们从人类能够直观地以道德术语构建社会世界的理解开始分析。正如哲学家Susan Dwyer所说：“如果我们没有将世界”看作是代理人、受害者和后果“，道德评价，如可容许性判断和责任归因，根本无法开始”（第248页）。但是，我们应该如何理解这种能力呢？是什么解释了我们能够以这些术语“看到”世界的能力呢？
下一步是问这些道德评价的基本属性是什么样的。但请记住：我们不能简单地选择我们最喜欢的善恶的例子并以此为起点。而且，我们也不能以自主伦理或社区伦理等已建立的伦理分类体系作为起点，因为这些体系简单地忽略了道德评价最基本的性质。
我是什么意思呢？
事实上，道德判断是具有欺骗性的 – 它是大多数人类个体在他们的生活中经历的一种亲密体验，面向情感激荡的社会情境和制度安排。但是，一旦我们将焦点缩小到道德能力并剥离了无关因素，道德判断具有“看似无害”的属性，正如法学学者John Mikhail所说的具有“深远影响的”属性。这些属性如下，取自Mikhail在这里的描述（第45-46页）：
(1) 新颖性：个体产生的道德判断与他们过去产生的任何判断或其他人产生的判断之间都没有“一一对应的关系”。详细说明：虽然道德判断在表面上可能看起来相似，但它们是由个体完全新颖的情境引发的。对于某人无缘无故地打击他人的判断听起来很熟悉，但涉及的人物、周围环境、他们采取的行动等都是独特的。因此，这样的判断是新颖的。
(2) 无限性：原则上，个体可以产生无限数量的道德判断。个体能够做出的道德判断数量或种类没有限制，除了非道德约束，如记忆、时间等。详细说明：个体不仅仅产生关于情境的言辞判断。相反，每个判断都预设了个体完全新颖的情境的心理表征。对于某人无缘无故地打击他人的判断不仅仅是“一个判断” – 它依赖于对特定配置的人物、行动和其他变量的心理表征。道德判断的无限性在于这些判断 – 以及它们所预设的心理表征 – 可以由个体无限地生成。
综上所述，这些“深远影响”变得明显起来。当我们试图理解在无限范围内产生新颖道德判断的能力时，我们意识到“大脑的有限存储能力”排除了大脑简单地招募预先排序的心理表征清单来产生它们的可能性。“相反，”Mikhail写道，“她的大脑在道德判断方面必须包含更复杂的东西：某种认知系统，也许可以用原则或规则来描述，能够构建或生成她行使道德判断所预设的无限数量和多样性的表征。”（Mikhail还使用了“某种配方或程序”的表述，这可能更符合人工智能研究人员的认可。）
影响
瞧，道德在人类思维中的固有基础的论点浮现出来。这个固有基础是特定领域的（专门用于评估道德价值），也是固有的 – 也就是说，基本的道德能力，即道德构建和评估世界的能力，是未经学习的。此外，人类以特定方式进行道德评价，也是未经学习的（这意味着我们的道德能力不会因为任何原因而被招募 – 例如，按照Mahlmann的例子，因为一个苹果掉到了一个饥饿的人的手里而给树赋予美德）。
虽然这种能力是可以学习的并不是一个逻辑不可能性，但将“学习”或“脑-环境相互作用”作为主要机制插入到道德能力的发展中，会让人难以置信。尽管对固有性的概念有着很大的差异，但并不罕见的是找到神经科学家这样说：“与现有的深度网络模型相比，人类认知学习和理解的优越性可能主要是由于人类认知系统中结构更为丰富和复杂的固有结构”（第693页）。
通过对上述道德判断的基本属性进行工作，我们应该期望在实验调查中找到潜在的复杂表示。实际上，人们可以在直觉上对新颖情况施加复杂的法律和哲学原则，而无需系统地和有意识地应用这些原则，甚至无需接受正式的培训。例如，Mikhail发现，在实验情境中回应发展心理学家提出的经典道德困境的儿童，会直觉反对有害电池的法律概念。他因此假设“对有意的有害电池的敏感性是人类心智的一个属性”（第780页）。这可以被描述为与经验预先规定的先天道德知识，在生物发展过程中可靠地出现。之后，Sydney Levine、Mikhail和Alan M. Leslie进行的研究初步支持了一个观点：人们评估新的行为时，通过对其他行动者施加“无罪推定”来推断他们的意图。
这种关于心智的图景是复杂的——正如这些作者在其他地方指出的那样，它假定“道德直觉可以被看作是对人类行为的结构化心智表示进行计算过程的输出”。使用“行为树”来探究参与者对道德困境的直觉的实验支持了认知科学某些领域一直以来的主题：假设预设道德直觉的心智表示并不“过于简单”，不能用“启发式和偏差”的术语来描述（第31页）。
（需要注意的是，经过实验调查，道德直觉的心智表示可能是相当简单的。如果这种情况发生，我们仍然可以假定道德具有先天基础，但可能没有专门的认知系统。）
所有这些都表明，生物学的先天性不仅仅是指在经验之前遗传系统心智的规定，以及它们在特定领域具有预先指定的知识的程度。事实上，它还表明这些能力之间以一种有成效且不需要个体有意识意识的方式进行接口。人类行动的因果表示、道德直觉、语言直觉和心智理论都在某种程度上在 seemingly simple matter of verbally deeming a novel action to be unjust or immoral 中发挥作用。
在处理先天性问题时，我们理解以下内容至关重要：
首先，假设像道德判断这样的人类能力的先天基础并不简单——道德判断的最基本属性具有欺骗性的复杂性，需要耐心和细致的注意才能识别。
其次，一旦识别出来，需要有有意识、刻意的努力来梳理这些基本属性的概念意义，以阐明道德在心智中的先天基础的广泛轮廓。在这种情况下，认知系统以一些道德知识编码的规则、原则或概念为特征。
第三，这个认知系统必须有效地与其他心智系统接口，包括人类行动的因果表示、心智理论、语言认知、视觉认知等。
最后，先天性对人类道德判断的启示在于它们基于原则的直觉，并依赖于结构化的心智表示。
麻烦的是如何概念化能力和表现。当我们研究道德能力时，我们将其与其他心智脱离开来研究。但我们理解，在日常生活中（包括现在），心智系统必须经常以有成效、动态的方式相互接口。这种方法论技术（将认知系统从具体的人类行为中抽象出来）在处理道德判断或语言认知等认知功能时最困难，尽管我们在其他地方经常使用它——例如，只有我们假设人类都拥有一个理想化的免疫系统，才能理解“免疫功能受损”的概念。
在这一背景下，我们转向创造人工智能的思考，并探讨生物学先天性的经验如何在第二部分中帮助研究计划。
参考文献
[1] J. Donnelly，《理论与实践中的普世人权》（2013），康奈尔大学出版社。
[2] S. Dwyer，《语言类比有多好？》（2006），《先天心智》：第2卷
[3] M. Finnemore，《干预的目的》（2003），康奈尔大学出版社
[4] A. Getachew，《帝国之后的世界创造》（2019），普林斯顿大学出版社
[5] J. Haidt和C. Joseph，《道德心智：五组先天直觉如何引导许多文化特定的美德的发展，甚至模块》（2008），《先天心智》：第3卷
[6] M. Keck和K. Sikkink, 《越界的行动者》（2014年），康奈尔大学出版社
[7] S. Levine, A.M. Leslie, J. Mikhail, 《人类行动的心理表征》（2018年），认知科学
[8] S. Levine, J. Mikhail和A.M. Leslie, 《假定无罪？无意识的结构假设如何塑造道德判断》（2018年），《实验心理学杂志：综述》
[9] M. Mahlmann, 《心灵与权利》（2023年），剑桥大学出版社
[10] J. Mikhail, 《无论何种动物？》（2014年），伦理学
[11] J. Mikhail, 《道德认知要素》（2011年），剑桥大学出版社
[12] C. Reus-Smit, 《个人权利与国际体系的形成》（2013年），剑桥大学出版社
[13] D. Traven, 《国际政治中的法律和情感》（2021年），剑桥大学出版社