我试验了破坏LLM的安全性。GPT4向我解释了如何伤害他人。
近年来，大型语言模型（LLMs）已经在各个行业引起了革命，从自然语言处理到创造性写作和客户服务。这些强大的人工智能模型，如GPT-3.5、GPT-4、克劳德和巴德，能够根据它们所接受的大量数据生成类似人类的文本。LLMs确实具有极大的潜力来提升人类的生活和生产力，但它们的部署必须伴随着对安全的警惕关注。存在许多安全问题。以下列表并非详尽无遗，但它应该能给你一个关于我们认为的“问题”的概念。
LLMs的负责任使用：有意的虚假信息/滥用
随着LLMs在我们日常生活中越来越普遍，负责任地使用它们至关重要。这些模型可以生成逼真和具有说服力的文本，可以被用于生成虚假信息、假新闻甚至恶意内容等有害目的。确保LLMs的安全性需要建立防止这些强大工具被滥用的保障措施。
这意味着在新闻媒体和社交网络的快速循环中，很容易在采取纠正措施之前产生虚假、恶意或欺骗性的内容。对人民群体心理的侮辱可能会破坏对民主基本原则的信任。速度和反复的攻击组合可能会造成重大伤害。
错误信息的滥用已被用作网络钓鱼攻击和胁迫的目标。社交工程和网络钓鱼可以利用LLMs在前所未有的规模上加速进行。重要的是，LLM的生产者对他们所生产的工具的使用也要负责（至少部分负责）。
伦理考虑：无意的偏见/伤害
LLMs是中立的工具，反映了它们所接受的数据，这意味着它们有可能放大人类的偏见和偏见。不是LLM的错，它的存在是建立在数据基础上的。人类是核心问题，而…