斯坦福提出了一个衡量LLM透明度的指标，结果并不令人鼓舞
斯坦福对企业的大型语言模型（LLMs）和其他基础模型的透明度进行了测量。
对未知的恐惧
“人类最古老且最强烈的情感就是恐惧，而最古老且最强烈的恐惧就是对未知的恐惧。”― H.P. Lovecraft
今年五月，被许多人誉为人工智能之父的Geoffry Hinton说：“我突然改变了关于这些东西是否会比我们更聪明的观点。” Hinton表示他对GPT-4的能力感到惊讶，并希望提高公众对人工智能的严重风险的意识。
虽然人工智能可能不会导致人类灭绝，但许多专家认为它存在风险。通常，这些风险甚至不是在技术开发过程中所想象的。例如，社交网络和暗黑模式为缅甸的罗兴亚种族灭绝事件做出了贡献。
此外，剑桥分析丑闻和其他与内容管控和数据管理相关的丑闻表明技术的不透明性会导致伤害。这就是为什么呼吁对人工智能模型的透明度不断增加的原因：
“使透明度、公正性和问责制成为人工智能治理的核心……考虑采纳一项旨在确保透明度的数据权利宣言。” — 联合国秘书长安东尼奥·古特雷斯，来源
在大型语言模型（LLMs）在医学、法律等敏感应用中的应用日益增多的当下，我们需要能够对其进行系统地测试错误、偏见和潜在风险。几项研究表明，LLMs也可能泄露个人数据，因此我们只需要了解它们的局限性和所训练的数据即可。