关于深度伪造、真实性和总统关于人工智能的行政命令
随着生成式人工智能的进步，有许多有趣的伦理问题，包括模型产生物品的检测。对于我们这些消费媒体的人来说，这也是个实际问题。我正在阅读或看的东西是一个人经过深思熟虑的作品，还是凭概率生成的词语或图像只是为了吸引我的注意力？这重要吗？如果重要的话，我们应该怎么做？
无法区分内容的意义
当我们谈到内容难以或不可能被检测出是人工智能生成时，我们进入了类似于图灵测试的领域。假设我给你一段文字或一张图片，然后问你：“这是由人类还是机器学习模型生成的？”，而你无法准确判断，那么我们需要考虑这些问题了。
在许多领域中，我们已经接近这个水平，特别是使用GPT-4，但即使是使用不太复杂的模型，取决于我们使用的提示和上下文的数量。如果我们使用GPT模型的长篇文档，很可能更容易检测出它不是人类生成的，因为每个新单词都是模型做出一个常人不会做出的动作的机会。对于视频或高分辨率图像也是如此，像素化或令人不安的谷底（uncanny valley）的机会越多，我们就越有机会发现假货。
我还认为，随着我们对模型生成的内容越来越熟悉，我们会越来越善于识别内容中人工智能参与的明显迹象。就像几周前我在解释生成对抗网络如何工作时描述的那样，我们与生成式人工智能处于一种GAN的关系。这些模型正在努力创造最接近人类的内容，而我们正不断提高辨别它不是人类生成的能力。这就像一场比赛，双方都在努力相互制胜。
随着我们对模型生成的内容越来越熟悉，我们会越来越善于识别内容中人工智能参与的明显迹象。
检测方法
然而，我们在这方面的检测能力可能存在一定的限制，而模型将会胜过普通人的眼睛和耳朵（如果它们尚未胜出）。我们没有巨型模型所具备的感知能力和模式识别的复杂性。幸运的是，我们也可以将模型视为我们这一方的工具，训练模型来审查内容并确定其是否由人类生成，这是我们的一项有利工具。
不过，在某一点上，也许对于某些内容来说，机器学习的起源真的没有可靠的可检测迹象，特别是在小量上。从哲学角度来看，随着模型的无限进步，也许存在着两种内容之间几乎没有实质区别的情况。此外，我们中的大多数人并不会使用模型来测试我们所消费的所有媒体，以确保它们是由人类生成而且是真实的。为了应对这一点，一些组织，如内容真实性计划，正在努力推广内容身份验证元数据的采用，这可能会起到一定帮助。然而，这些努力需要模型提供方的善意和付出努力。
在某一点上，也许对于某些内容来说，机器学习的起源真的没有可靠的可检测迹象。
也许你会问，那些故意以深度伪造或使用人工智能生成内容进行误导来造成伤害的人怎么办？他们不会自愿地确认他们的内容，对吗？这是个合理的问题。然而，至少在此刻，能够在规模上愚弄人们的复杂模型大多由大公司（OpenAI等）控制。这种情况将不会持续下去，但目前这至少可以在确保来源性问题上产生实质性的影响，如果向公众提供最复杂的LLMs的人们采取一些行动的话。
迄今为止，这不是一个很乐观的故事。生成式人工智能正在迅速向一个层次发展，那些非常强大的模型足够小，以至于恶意行为者可以运行自己的模型，并且这些模型轻松地创建出与有机人类内容在字面上无法区分的内容，即使对其他模型来说也是如此。
进行检测的原因
我有些事先为自己考虑得太多了。为什么对于我们能否确定内容首先来自模型如此重要呢？如果你无法区分，那有关系吗？
其中一个重要原因是，内容的提供者可能有恶意意图，如误导信息或深度伪造。最常见的情况是创建图像、音频和视频，使其看起来像是某人说过或做过某事。如果您一直在关注美国总统关于人工智能的行政命令，您可能听说总统拜登之所以对此感兴趣，是因为他听说人们可能会恶意使用他的肖像和声音来传播错误信息。这是一个非常严重的问题，因为在这个时候，我们往往相信我们用自己的眼睛在图像或视频中所见的，这可能对人们的生活和安全产生重大影响。
在这个时候，我们往往相信我们用自己的眼睛在图像或视频中所见的，这可能对人们的生活和安全产生重大影响。
另一个相关问题是，当模型被用于模仿特定人类的作品时，并不一定出于恶意的原因，而只是因为那项工作令人愉悦和受欢迎，有潜在的盈利能力。这是明显不道德的，但在大多数情况下，可能并不是为了积极伤害观众或被模仿的人。 （当然，这会伤害人们——剥夺了艺术家和作家的收入潜力和生计，内容的制作人应该对此负责。）当使用深度伪造来谎报人们的行为时，也会给声誉造成损害。（只需问乔·罗根，他一直在与使用他肖像的深度伪造广告作斗争。）
在卡西·纽顿在他的平台网站上讨论这个问题后，我开始考虑的第三个角度是，公众人物可能会颠倒这个问题，并声称他们的不良行为的真实、真实证据是人为生成的。当我们无法可靠地通过证据揭示不当行为时，因为“这是一个深度伪造”是一个不可驳斥的回应，我们该怎么办？虽然我们还没有完全达到那个阶段，但我可以看到这在不太遥远的将来可能成为一个真实的问题。
当我们无法可靠地通过证据揭示不当行为时，因为“这是一个深度伪造”是一个不可驳斥的回应，我们该怎么办？
不太紧迫的是，我还认为在消费媒体时，我希望它代表着与另一个人的互动，即使主要是单向的思想流动。我认为阅读或欣赏艺术作品是与他人思想的互动，而与一个模型串联的文字互动没有同样的感觉。所以就我个人而言，我希望知道我消费的内容是由人类制作的。
行政命令
面对所有这些真正的风险，我们面临着一些严重的挑战。追溯性的来源（即安全性、我上述提到的所有问题）和模型复杂性之间似乎存在着一种权衡，并且作为数据科学行业，我们正朝着模型复杂性的方向前进。谁来平衡这个问题呢？
总统的行政命令在这个话题上代表了一些重要进展。（它还讨论了许多其他重要问题，我可能会在另一个时间讨论。）上一周和半时间里，我对这个行政命令进行了思考，并阅读了行业内其他人对此的观点。尽管有些人认为它将会阻碍进步（并且它将使生成式人工智能的大公司进一步巩固地位，而小型竞争对手则会受到损失），但我对行政命令持乐观态度。
创建有竞争力的生成型人工智能模型非常昂贵和资源密集，这自然地限制了首先能进入该领域的竞争者人数。以牺牲更广泛社会安全的方式保护该领域中的虚拟新玩家对我来说是没有意义的。我也不认为行政命令对那些有资源进入这个领域的组织来说是繁琐的。
该命令并不具有明确性。它提出了一些需要创建的事物，但在如何实现这些事物方面给予了广泛的自由，希望能有见多识广的人参与其中。（从事该领域的数据科学家应该注意观察发生的事情，并在事情偏离正轨时发表意见。）特别是，它要求商业部门创建“检测AI生成内容和验证官方内容的标准和最佳实践”。在涉及模型的安全性和安全性方面还有一些重要的组成部分。
我对我们政府能够在不损害创新的同时很好地管理人工智能是否有极大的信任？ 实际上没有。 但是，我确信如果完全依赖产业自行操作，将不会像需要的那样关注出处和内容检测的问题 – 迄今为止他们没有证明这是一个优先考虑的问题。
我确信如果完全依赖产业自行操作，将不会像需要的那样关注出处和内容检测的问题。
与此同时，我不确定在所有或大多数情况下，是否实际上能够物理上检测到生成型人工智能生成的内容，特别是随着我们的进展。行政命令没有提到如果模型的内容越过无法检测的领域将如何阻止其开发，但这个风险确实让我担忧。那样将真正扼杀创新，我们需要非常谨慎地思考权衡的是什么或可能是什么。尽管如此，这匹马可能已经跑出了那个特定的马厩 – 太多开放源代码的生成型人工智能模型正在不断改进他们所做的事情。
结论
这个话题很难，而且采取正确的行动并不一定很明确。模型输出越精细和复杂，我们检测到其不是人工生成的的可能性就越高，但我们正在进行技术竞赛，这将使检测变得越来越困难。对这个话题进行政策参与可能会给我们一些保护措施，但我们现在无法知道它是否真的有帮助，或者它是否最终会变成一个糟糕的灾难。
这是那种没有办法完美结束讨论的时候之一。难以区分的生成型人工智能输出的潜在和实际风险是严重的，应该得到相应的对待。然而，我们处于一个科学/数学的地方，无法创造一个快速或简单的解决方案，我们需要重视更先进的生成型人工智能可能产生的好处。
无论如何，数据科学家应该花时间阅读行政命令，或者至少阅读事实说明，并明确声明陈述的内容和未包括的内容。正如常读者所知，我认为我们必须负责向我们生活中的非专业人士传播有关这些问题的准确和易懂的信息，而这是一个很好的机会，因为这个话题正处于新闻中。确保你积极为你周围的数据科学素养做出贡献。
在 www.stephaniekirmer.com 上查看更多我的作品。
参考资料
Casey Newton – Platformer 10月5日号
内容真实性倡议
为数字内容来源创造标准。
contentauthenticity.org