Press "Enter" to skip to content

人工智能的黑暗面’ (Rén gōng zhì néng de hēi’àn miàn)

作为一名技术人员,无论这些东西有多么无用,只要它们在闪烁和发出蜂鸣声,我就会迅速被吸引。电子设备就像灯光吸引着我一样。最近,一种新一代的玩具开始面向大众——人工智能应用,更确切地说,是人工神经网络。这些免费的应用程序已经展现出了非凡的功能,而这只是未来可能的开始。许多人还没有意识到基于人工智能的应用的范围之广。这并不令人意外,因为人工智能领域正在发生的事情将永远改变我们的生活。我们可以说我们正生活在一个创造历史的时代。未来所带来的变化是好是坏,将取决于我们的决定。

多年前,当我选择人工智能作为我的专业时,当时的时代还被称为专家系统。这些基于规则的系统非常专业化,并专门面向相应的专家。这些系统旨在为专家的决策提供支持。与此同时,我们也拥有了创建更加通用系统所需的硬件。例如,像ChatGPT这样的应用程序是基于神经网络的,这使得它们在使用上非常灵活。然而,不利的是,作为开发人员,我们几乎无法理解神经网络对于任何给定输入产生的输出。这一点使我认识的大多数程序员对此持负面态度,因为他们不再是算法的主宰,只能根据试错的原则行事。

然而,神经网络的力量是令人震惊的。当今,我们已经不能再嘲笑那些笨拙、自动化、软件支持的翻译了。从我自己的经验来看,我还记得让谷歌翻译将一句合理的德语句子翻译成西班牙语时的麻烦。为了得到可用的结果,你可以选择英语-西班牙语选项。另外,如果你只会一些基本的英语用于度假,你仍然可以构造非常简单的德语句子,至少内容上是正确的。虽然你需要校对它们并在必要时调整一些措辞,但是自动翻译文本所节省的时间是相当可观的。

尽管我很欣赏能够使用如此强大的工具工作,但我们必须意识到也存在负面影响。我们越多地使用基于人工智能的工具来完成日常任务,将来我们就越会失去手动完成这些任务的能力。对于程序员来说,随着时间的推移,他们将失去通过基于人工智能的集成开发环境来表达自己的能力。当然,这不是一夜之间发生的过程,而是逐渐发展的。一旦形成了这种依赖性,问题就出现了,那就是这些优质工具是否会继续免费提供,或者是否会面临剧烈的价格上涨。毕竟,我们都清楚,显著提高生产力的商业工具通常不会以低价格出售。

我还认为,我们迄今为止所熟悉的互联网将在未来发生很大变化。许多由广告资助的免费服务将在VoAGI时代消失。以StackOverflow服务为例,它是开发人员圈子中非常受欢迎的知识平台。如果我们知道将来用于回答编程问题的ChatGPT或其他神经网络,那么StackOverflow的访问人数将不断下降。反过来,ChatGPT所使用的知识库是基于类似StackOverflow的公共论坛的数据。因此,可预见的未来,StackOverflow将试图使其服务对人工智能不可访问。当然,还可能存在一种补偿付款的协议,以弥补缺少的广告收入。作为技术人员,我们不需要被告知像StackOverflow这样的服务在运营和开发过程中产生了巨大的成本。那么剩下的问题就是用户将来如何接受这种服务。如果StackOverflow没有添加新的数据,那么AI系统的知识库也将变得不那么有趣。因此,我怀疑到2030年左右,互联网上将主要收费的是高质量的内容。

如果我们看一下VoAGI术语中对程序员需求趋势的预测,我们将面临一个问题,那就是未来是继续学习计算机科学还是选择成为一名程序员是否是一个好的建议。在这里,我实际上看到了一个积极的未来,并鼓励那些把教育视为职业而不是谋生手段的人。在我看来,我们将继续需要许多富有创新精神的人才。只有那些追求基础和概念的人,而不是迅速学习当前的框架以跟上市场的新兴热潮的人,将在未来取得有限的成功。然而,这些观察是在广泛使用人工智能系统之前就已经得出的。因此,我坚信质量将始终战胜一切。

我认为以尽可能批判和注意的态度对待各种话题是一种美德。然而,我必须说,对于人工智能的一些担忧是相当没有根据的。在本文中,您已经看到了我对未来的一些可能展望。我认为,关于人工智能将通过巧妙地影响未经培训的用户来激励他们采取行动来接管我们的世界的说法,纯粹是对2030年之前的幻想,并且从目前的知识状态来看,是没有依据的。更加现实的问题是,如果资源丰富的市场营销人员通过散布不良的未经修订的人工智能生成的文章来提高他们的SEO排名,而这又成为神经网络的新知识仓库,未来人工智能生成的文本质量将显著降低。

到目前为止,迄今为止可自由使用的人工智能系统与人类有一个决定性的区别。它们缺乏主动性。只有在用户的外部请求下,人工智能才开始处理问题。当一个人工智能自主选择问题并独立研究时,它变得有趣起来。在这种情况下,人工智能迅速发展出意识的概率非常高。如果这样的人工智能仍在高性能的量子计算机上运行,我们没有足够的时间反应来识别危险的发展并进行干预。因此,我们应该毫不怀疑地将杜伦马特创作的戏剧《物理学家们》保持在我们的意识中。因为一旦我召唤出来的魔鬼,可能就不会那么容易地摆脱它们。

基本上,我必须承认,人工智能的话题仍然让我着迷,我非常期待未来的发展。然而,我认为重要的是不要闭眼忽视人工智能的阴暗面,并开始进行客观的讨论,以尽可能无害地利用这项技术的潜力。

Leave a Reply

Your email address will not be published. Required fields are marked *