Press "Enter" to skip to content

杰弗里·辛顿,人工智能教父,担忧人类命运

杰弗里·辛顿,人工智能教父,担忧人类命运 四海 第1张

最近,人工智能之父 Geoffrey Hinton 在接受《60分钟》采访时讨论了人工智能以及对人类未来的担忧。在周日的节目中,Hinton 分析了未来几年人工智能对人类的意义,包括正面和负面的方面。

Geoffrey Hinton 是一位计算机科学家和认知心理学家,以其神经网络领域的研究而闻名,并在过去的十年中与谷歌合作。然而,在今年五月份他离开谷歌部分是因为对人工智能风险的担忧。

在节目中,60分钟的采访者 Scott Pelley 直截了当地问 Geoffrey Hinton 是否认为人类知道「如何运用人工智能」。对此,Hinton 回答了两个部分。「不,…我认为我们正在进入一个时期,首次拥有比我们更智能的事物。」

Geoffrey 继续解释道,在他看来,大多数先进的人工智能系统都有一定的理解,并且根据它们自己的经验做出决策。这就是 Pelley 提出百万美元问题的时候,人工智能系统是否有意识。

在回答中,Hinton 表示在目前的阶段不太可能,但「在未来」将会实现。对此,Hinton 的关注点在于当这一时刻到来时,人类可能会成为地球上第二聪明的存在。

对此,采访者提出了一个问题,如果人工智能是由人类设计的,它怎么能更好地学习。对此,Hinton 纠正了他的误解。「不,它不是这样的。我们设计的是学习算法。这有点像设计进化的原则,…但当这个学习算法与数据互动时,它会产生一些复杂的神经网络,擅长处理各种事务。但我们并不完全了解它们是如何做到这些的。」

在节目中,Geoffrey Hinton 也提到人工智能带来的一些好处。特别是在处理结构化和非结构化信息方面,这在医学领域中用于早期诊断会非常有益。

当然,他也想提到其中的风险和不利因素。首先,人工智能的工作方式。由于神经网络的本质类似于人的大脑,我们无法完全理解它们的工作原理。

他说道:「对于它大致做了什么,我们有一个很好的想法,…但一旦变得复杂起来,我们就不知道发生了什么,就像我们不知道你的大脑在做什么一样。」

然后,存在逃逸约束并在其指导下运行的风险,或者简单地说,没有人类控制的进化风险。「这些系统逃脱控制的一种方式是通过修改自己的计算机代码。这是我们需要严肃担心的问题。」

这是一次广泛涉及的采访,如果你感兴趣,可以在下面观看:

Leave a Reply

Your email address will not be published. Required fields are marked *