在人工智能工具不断升温的背景下，许多开发团队都在为如何决定最适合他们需求的工具、何时采用以及不采用的潜在风险而苦苦挣扎。随着人工智能提出更多问题而非答案，许多人担心会落后于竞争对手。
本周的《Dev Interrupted》节目旨在通过邀请CodiumAI创始人兼首席执行官Itamar Friedman来消除这些不确定性。在今年我们最具启发性的讨论之一中，Itamar揭示了人工智能工具的真正优势，如何辨别那些能真正增强开发团队的工具，并有效地识别和尝试新工具的策略。
除了人工智能的吸引力外，Itamar还勇于直面其缺陷和对抗性风险。他还探讨了在日益受人工智能驱动的背景下开发人员角色的未来，并回答了一个问题：“10年后还会有开发人员吗？”
“一个风险是，至少在生成模式下，人工智能的输出自然会采用一种常见的、熟知的解决方案。它会寻求一种更低、更常见的共同点，因为它是基于大量数据训练的。”
本集亮点
- (2:40) 创立CodiumAI
- (8:25) 10年后还会有开发人员吗？
- (11:20) 出现了哪些人工智能工具？
- (15:00) 人工智能的核心能力
- (19:30) 找到解决你不知道存在的问题的人工智能工具
- (23:00) 让你的团队能够使用人工智能
- (26:45) 落后于竞争对手
- (33:00) 人工智能的缺陷
- (38:30) 人工智能的对抗性风险
- (43:45) 尝试新工具
- (47:40) 衡量人工智能工具的成功
- (50:15) 人工智能会取代我们还是赋予我们力量？
本集摘录
Yishai Beeri: 人工智能中的对抗性风险怎么样？有些方式可以操纵或利用人工智能以有意地对我造成伤害。
Itamar Friedman: 好的。让我们给一个例子，为那些不太了解的听众解释一下什么是对抗性。
我的观点是，就像在软件开发中一样，这种情况现在相对较少。你需要意识到它的存在，但如果可能的话，尽量避免它。假设你正在开发自动驾驶软件，配备了摄像头等等。现在，你正在驾驶汽车，比如说四级自动驾驶。你在训练模型的过程中使用了世界上所有可用于该公司、该团队的数据。如果有人，例如某个行人，拿着一个巨大的屏幕，正在显示某个标志或其他内容。
那么，你甚至可能引起汽车的转向，即使实际上没有右转。会发生什么事？这就是一个对抗性的案例，很可能他们没有预料到这种情况。顺便说一句，我并不是说他们不知道这个问题，他们可能正在尝试对抗性事件进行训练，积极主动地在他们的数据集中加入对抗性模型或对抗性数据，以训练生成模型或分析型人工智能。
所以，话虽如此，仍然有可能发生对抗性事件。
阅读完整的本集剧本，请点击这里。