MIT博士后Ziv Epstein SM’19，PhD’23讨论了使用生成式人工智能制作艺术和其他媒体时出现的问题
人工智能的迅猛发展引起了很多关注，一些人预测它将带来理想的乌托邦，而另一些人则警告说它将带来人类的终结。但是，对AI技术的未来发展的猜测虽然很重要，但也可能会淹没关于我们应该如何处理当今可用的AI技术的重要对话。
其中一种技术是生成式AI，它可以创建包括文本、图像、音频和视频在内的内容。像聊天机器人ChatGPT这样的流行的生成式AI根据从互联网上获取的训练数据生成对话文本。
今天，包括麻省理工学院在内的多个组织的14名研究人员在《科学》杂志上发表了一篇评论文章，为关于生成式AI对创意工作和社会的直接影响的讨论做出了贡献。该论文的麻省理工学院附属共同作者包括媒体实验室的博士后Ziv Epstein SM’19、博士生Matt Groh SM’19、博士生Rob Mahari’17和Hope Schroeder。
麻省理工学院新闻与Epstein进行了交谈，他是该论文的第一作者。
问： 你为什么写这篇文章？
答：生成式AI工具正在做一些甚至在几年前我们认为不可能的事情。这引发了许多关于创意过程和人类在创意生产中的角色的基本问题。我们会被自动化取代吗？我们如何在所有这些新技术中保留创意的人类因素？
黑匣子AI系统的复杂性可能会使研究人员和广大公众难以理解引擎的内部运作方式，以及这些工具对社会的影响。关于人工智能的许多讨论都赋予了技术以人类的意图、机构或自我意识，这暗示了这些系统表现出类似于人类的行为。甚至术语“人工智能”也加强了这些信念：ChatGPT使用第一人称代词，我们说AIs“产生幻觉”。我们赋予AI的这些机构角色可能会削弱创作者对系统产出的信用，并在系统造成损害时转移开发人员和决策者的责任。
我们正在努力在学术界和其他领域建立联盟，以帮助思考应对这些工具部署带来的对人类的直接危害，如虚假信息、工作流失和法律结构和文化的变化等方面所需的跨学科连接和研究领域。
问： 你认为现在在生成式AI和艺术方面的研究存在哪些差距？
答：我们谈论AI的方式在许多方面都是错误的。我们需要了解生成过程的感知如何影响对输出和作者的态度，还要以一种真正透明的方式设计界面和系统，避免一些误导性的解释。我们如何谈论AI，这些叙述如何沿着权力线切割？正如我们在文章中所概述的那样，有关AI影响的这些主题是需要考虑的：美学和文化；所有权和信用的法律方面；劳动力；以及对媒体生态系统的影响。对于每个主题，我们都强调了一些重要的问题。
在美学和文化方面，我们正在考虑过去的艺术技术如何影响我们思考AI。例如，当摄影发明时，一些画家说它是“艺术的终结”。但是，它最终成为了自己的媒介，并最终解放了绘画的现实主义，催生了印象派和现代艺术运动。我们认为生成式AI是一种具有自己优势的媒介。艺术的性质将随之发展。艺术家和创作者如何通过这种新媒介表达他们的意图和风格？
所有权和信用的问题很棘手，因为我们需要一种有利于创作者、用户和整个社会的版权法。当这些系统的训练基于他们的风格时，今天的版权法可能不足以分配权利给艺术家。在涉及训练数据时，复制意味着什么？这是一个法律问题，但也是一个技术问题。我们正在努力了解这些系统是否在复制，以及何时复制。
在劳动力经济学和创意工作方面，生成式AI系统可以在许多方面加速创意过程，但它们也可能会消除从白纸开始的构思过程。有时候，从空白页开始实际上会带来好处。我们不知道它将如何影响创造力，并需要更好地了解AI将如何影响创意过程的不同阶段。我们需要仔细考虑如何使用这些工具来补充人们的工作，而不是取代。
关于生成式AI对媒体生态系统的影响，由于能够大规模生产合成媒体，因此必须考虑AI生成的虚假信息的风险。我们需要保护媒体生态系统，以防止大规模欺诈的可能性，并防止人们失去对真实媒体的信任。
问：你希望这篇论文被谁接受？
答：关于人工智能的讨论一直非常零散和令人沮丧。由于技术发展如此之快，很难深入思考这些想法。为了确保这些技术的有益使用，我们需要建立共享语言并开始了解我们应该关注的方向。我们希望这篇论文可以成为那个方向的一步。我们正在试图开始一场对话，以帮助我们建立一份理解这个快速发展态势的路线图。
艺术家往往处于新技术的前沿。在商业应用之前，他们就已经在玩弄这项技术了。他们正在探索它的工作原理，并且正在思考它的道德问题。AI艺术已经进行了十多年，而这些艺术家一直在解决我们现在作为一个社会所面临的问题。我认为，支持艺术家和其他创意劳动者的声音至关重要，因为他们的工作将受到这些工具的影响。艺术是我们表达人性的方式。它是生活中核心的人类情感部分。因此，我们认为它是关于人工智能对社会影响的更广泛问题的中心，并希望我们可以通过这个来找到讨论的基础。