不到一年前，当OpenAI发布ChatGPT时，它似乎标志着人工智能的转折点。这款聊天机器人以其复杂而逼真的文本对话而引起了轰动，这得益于生成式人工智能的技术——即通过训练数据学习模式并产生具有类似特征的输出的算法。这项技术此前因其图像生成能力而引起轰动，根据人类提供的文本描述，能够产生逼真的视觉效果。
生成式人工智能引起了很多炒作。一些专家甚至猜测某些系统可能具有知觉能力，就像去年谷歌AI项目LaMDA上的一名工程师所说的那样。然而，其他人则认为其输出并没有看上去那么令人印象深刻。
今年九月，在德国海德堡举行的Heidelberg Laureate Forum（迈入独立，修改为中文名）上，生成式人工智能成为了一个热门话题。作为赢得ACM A.M.图灵奖的获奖者之一，他们因对计算机科学做出的重大贡献而被誉为“计算机界的诺贝尔奖”，讨论了该技术的潜在用途和前景。
今年海德堡洛林学会的获奖者 资料来源：海德堡洛林学会基金会
现在，生成式人工智能被用于写作文章和计算机代码、加速药物研发、创建新设计和个性化产品推荐等方面。然而，印度的印地语图灵奖得主，来自匹兹堡卡内基梅隆大学的计算机科学和机器人学教授 Raj Reddy 尤其关注该技术如何帮助减少社会的语言和识字差距。例如，在他的祖国印度，有22种官方语言，这意味着邻近社区的人经常无法相互交流。
与此同时，Reddy描述了如果更多人能够相互交流，经济活动将会增加。这符合去年ACM A.M.图灵奖的获奖者 Bob Metcalfe 首次提出的 Metcalfe 定律，该定律认为网络的价值与其用户人数的平方成正比。Reddy说：“我认为语音和语言将成为人类未来进步的核心。”
Reddy对生成式人工智能能够用于即时翻译系统感到兴奋。这一设想是，你的手机将能够自动将你的实时说话翻译为你希望与之交流的人的语言，无论是无线连接还是面对面交流。像Google翻译等系统已经在一定程度上提供帮助，但Reddy认为生成式人工智能技术在未来15至20年内将显著改进可能性。他说：“仍然不够流畅，也不适用于所有语言。这是我们仍然需要努力的工作。”
生成式人工智能系统并不总是准确的，这可能令人担忧。ChatGPT和其他聊天机器人有时会产生错误信息，并将其作为事实呈现，这经常被描述为幻觉。哈佛大学图灵奖得主、T. Jefferson Coolidge 计算机科学和应用数学教授 Leslie Valiant 认为，目前的生成式人工智能系统非常适合娱乐和在决策错误不会导致严重后果的应用。然而，他对于在需要信任结果的应用中使用这种系统持怀疑态度。他说：“如果你做出错误决策可能会导致某人死亡，使用人工智能要困难得多。”
生成AI通过学习大量的数据产生输出。它之所以比人类更擅长这样做，是因为它在信息处理方面推动了技术极限。然而，它没有涵盖智能的其他方面。Valiant表示：“我们的认知能力是由不同的要素组成的：一些是推理，一些是学习。”“[生成AI]只做一件事，但做得非常好。”
Valiant认为，通过赋予生成AI系统推理能力可以提高其性能。学习知识具有一定程度的不确定性，但目前的系统（如ChatGPT）无法反思它们生成的内容是否合理。Valiant表示：“传统逻辑与机器学习非常不同。”“我认为下一步是将推理置于AI系统的核心，并与学习结合起来。”
滥用生成AI系统也是一个问题。Reddy对于滥用深度伪造技术（生成AI产生的逼真图像、音频或视频）表示担忧，这些技术可以制造出看似真实的场景，例如将政治家说出从未说过的争议性言论。“政府正在努力应对生成AI技术的利弊，”Reddy表示。
与此同时，计算机科学家正在努力对抗AI冒充。其中许多方法涉及使用AI检测合成媒体中的微小异常，以识别其为深度伪造（例如，在早期的深度伪造视频中，人物的合成图像没有眨眼的特点）。“现在，除了对文本材料进行事实核查之外，您还需要能够对音频和视频材料进行事实核查，”Reddy说。“这是可以做到的，而且将越来越多地实现。”
人们还担心生成AI可能会成为对社会构成威胁，因为它可能变得超智能且难以被人类控制。Valiant提出的“ecorithm”理论认为算法与其环境相互作用并从中学习，这个过程既可以出现在计算系统中，也可以出现在生物系统中，如大脑。这一理论暗示，AI系统可能会在某些环境中开始表现出意外的行为，导致潜在的有害行为。
然而，Valiant对于生成AI出现这种情况并不担心，因为他认为我们对于向机器中注入的智能有足够的了解。“除非您将与我们的利益相违背的特征注入其中，否则他们不会发展出与我们的利益相违背的特征，”他说。“所以我不认为[生成AI失控]在可预见的未来是一个大问题。”
Sandrine Ceurstemont是一名位于英国伦敦的自由科学作家。