白宫与包括亚马逊、谷歌、Meta、微软和OpenAI在内的主要人工智能开发商达成协议，承诺采取行动，防止有害的人工智能模型发布到世界上。
根据这份被白宫称为“自愿承诺”的协议，这些公司承诺在公开发布之前进行内部测试，并允许外部测试新的人工智能模型。测试将寻找包括有偏见或歧视性输出、网络安全漏洞以及对社会造成更广泛危害的风险等问题。Anthropic和Inflection两家初创公司，都是OpenAI的ChatGPT的重要竞争对手，也参与了这项协议。
“在将他们的产品引入公众之前，企业有责任确保其产品的安全性，通过测试其人工智能系统的安全性和能力，”白宫人工智能特别顾问本·布坎南在昨天的新闻发布会上告诉记者。企业被要求注意的风险包括隐私侵犯，甚至对生物威胁的潜在贡献。这些公司还承诺公开报告其系统的局限性以及可能带来的安全和社会风险。
来自Wired的完整文章