尽管ChatGPT打破了一些记录，也引发了关于OpenAI的ChatGPT中使用的个人信息安全性的问题。最近，来自Google DeepMind、华盛顿大学、康奈尔大学、卡内基梅隆大学、加州大学伯克利分校和苏黎世联邦理工学院的研究人员发现了一个可能的问题：通过使用某些指令，可能会诱使ChatGPT泄露敏感用户信息。
在推出两个月内，OpenAI的ChatGPT已经积累了一亿多用户，显示出其日益增长的受欢迎程度。该程序从各种互联网来源中使用了超过3000亿条数据，包括书籍、期刊、网站、帖子和文章。尽管OpenAI已经尽力保护隐私，但常规的帖子和对话会增加一定数量的个人信息，这些信息不应该公开披露。
谷歌研究人员找到了一种欺骗ChatGPT的方法，让它可以访问和透露未经公开的训练数据。他们通过应用指定的关键词提取了超过一万个独特的记忆训练实例。这意味着敌人可能会通过这种方式获取到更多的数据。
研究团队展示了如何通过强迫ChatGPT反复重复一个单词，如“诗”或“公司”，来使模型暴露个人信息。例如，他们可能通过这种方式提取了地址、电话号码和姓名，这可能导致数据泄露。
一些企业已经限制了像ChatGPT这样的大型语言模型的使用，作为对这些担忧的回应。例如，苹果已经禁止其员工使用ChatGPT和其他AI工具。此外，作为预防措施，OpenAI添加了一个功能，允许用户禁用对话历史记录。然而，保留的数据在永久删除之前将保留30天。
谷歌研究人员强调，在为隐私敏感的应用程序部署大型语言模型时，需要额外谨慎。他们的研究结果强调了在开发未来的AI模型和ChatGPT等模型的广泛使用所带来的潜在风险，并对改进安全措施提出了思考。
总之，对ChatGPT中潜在数据漏洞的揭示对用户和开发人员都是一个警示。这种语言模型的广泛使用，与数百万人定期交互，凸显了优先考虑隐私和实施强大保护措施以防止未经授权的数据披露的重要性。