即使在当前人工智能的繁荣之前，道德关注和考虑一直在数据科学家的脑海中。现在，随着生成式人工智能在公众想象中的增长，随着AI涉及的各种问题不断出现，这些关注只会更加具有爆炸性。虽然AI继续发展，但仍有许多问题尚未得到解答。考虑到这一点，以下是一些在AI向全球扩展的过程中需要考虑的道德问题。
数据来源 – 模型是在什么上训练的？
最容易看到这个问题的地方之一是艺术界。2022年夏天，艺术界涌入了源源不断的由AI生成的艺术作品。起初，许多人担心这可能会取代艺术家，但随着时间的推移，这些模型是如何进行训练的引起了艺术界的轰动。这是因为许多艺术家及其支持者开始反对生成艺术的AI，因为其中许多程序在未经艺术家许可或同意的情况下使用现有的人类艺术进行训练。
事实上，早在10月份，这一问题就曝光了，即Stable Diffusion使用了真实艺术家的作品来训练其生成式AI程序。这引起了许多道德关注，因为人们开始提出什么可以被认为是抄袭的问题。许多愤怒来自于艺术家未经通知或许可的情况。许多人感觉被排除在讨论之外，而他们独特的风格被用来训练一个只需要文本信息就能产生类似作品的程序，而这些作品他们花了多年时间才能掌握。
这不仅仅局限于艺术界本身，还必须提出隐私、数据治理等问题，因为越来越多的模型在没有被绘制信息的人的同意的情况下，训练了越来越多的数据。这甚至没有触及当数据集没有得到妥善处理时的偏见问题。只需要回想一下微软发布的臭名昭著的聊天机器人Tay就能明白。在线互动了几个小时后，AI变得如此敌对和种族主义，以至于这家科技巨头不得不迅速切断它的电源。
输出
ChatGPT已经因其生成的内容而陷入麻烦，声称某些个人与某些严重犯罪有关。在一个案例中，被生成的人对OpenAI提起了诉讼。对于那些可能没有完全理解的人来说，很简单。只需在网上发表一个简单的指责，任何涉及您信息的谷歌搜索都会得出一些虚假信息。这可能会破坏生活和声誉。这就是为什么在过去几个月中有人呼吁放慢AI的发展，直到像AI幻觉这样的问题得到解决。
在另一个案例中，一名律师使用ChatGPT引用和建立了一个他正在处理的诉讼案件的案卷。唯一的问题是，ChatGPT引用了从未发生过的案例，并杜撰了这些案例。可以想象，法官对此并不满意，因为这可能会毁掉某人的职业生涯。最后，还有可能使用输出，而AI却无法告诉用户这不是设计的方式。一个月前，德克萨斯州的一名教授错误地指控学生使用AI，将他们的论文输入到ChatGPT中，并要求聊天机器人确定它们是否由AI撰写。
如果你想知道，不，ChatGPT不能做到这一点。这就是为什么输出对于生成式AI来说是一个关键问题，因为如此多的人已经涌向这项技术，并且现在在很大程度上依赖它所产生的信息。
意外后果
由坏输出引起的其他后果超出了刚才提到的范围。想象一下一个世界领导人的新闻发布会，宣称他们与另一个世界的外星人取得了联系。或者更危险的是，宣布他们的国家将与一个邻国或一组邻国开战。随着Deepfake技术的迅速发展，越来越难以确定什么是真实的，什么是虚假的，但这并不一定涉及到一个世界领导人。已经有关于Deepfake语音聊天骗局的报道。
AI助力的罪犯使用Deepfake技术基本上复制他们目标的声音，然后与他们的家人联系，以获取金钱或其他资源。这不是科幻小说，它已经存在。
知识产权
如果有一件公司不想发生的事情，那就是他们的知识产权被处理不当。情况已经严重到连亚马逊的律师都不得不提醒软件工程师不要使用ChatGPT来回答可能会损害他们的财产权益的编码问题，因为每个对聊天机器人的输入都会教它更多。因此，从潜在竞争对手的工作人员使用他们的AI来回答与工作相关的问题，OpenAI在理论上可以获得竞争优势。
数据隐私违规
一个对生成式人工智能抱有极大希望的行业是医疗保健。这项技术有助于降低管理成本，消除信息瓶颈以改善护理，并为医生提供对病历的更深入了解。生成式人工智能还处于开发新药和具有良好潜力的机器的前沿。
但是有个问题。与大多数行业不同，医疗保健领域在保护医疗记录方面有非常严格的法律，无论是美国境内的州法还是联邦法。这就是为什么在该领域使用人工智能时，数据管理和企业平台至关重要。否则，数千万人的私人医疗记录可能会公之于众。但这只是一个行业而已。直到最近，大多数生成式语言模型通常使用网络抓取来训练它们的模型。
因此，可以说训练模型所使用的信息涉及到极大的隐私问题。这本身就是为什么对负责任的人工智能的呼声在全球范围内迅速增长的原因。
结论
尽管生成式人工智能已成为数据科学领域的新超级力量，许多人都争相增强和未来化自己的职业生涯，但仍然存在许多道德问题必须解决，如果数据科学界希望看到该技术继续造福全球社会。
ODSC将于7月20日举办免费的生成式人工智能峰会。立即获取您的通行证，并获得新的见解和增强的生成式人工智能技能。那么，您还在等什么呢？立即获取您的虚拟生成式人工智能峰会通行证！