为了保护人们免受人工智能的潜在危害，美国和欧洲联盟的一些监管机构越来越倡导对开源人工智能模型的权力进行控制和平衡。这在一定程度上是由于主要公司希望控制人工智能的发展，并以有利于他们的方式塑造人工智能的发展所驱动的。监管机构还担心人工智能的发展速度，他们担心人工智能发展得太快，没有足够的时间来制定防止其被用于恶意目的的安全措施。
美国的人工智能权利法案和NIST人工智能风险管理框架，以及欧盟的人工智能法案，支持各种原则，如准确性、安全性、非歧视性、安全性、透明度、责任制、可解释性、可解释性和数据隐私。此外，欧盟和美国都预计，无论是政府还是国际组织，标准化组织都将在制定人工智能指南方面发挥关键作用。
鉴于这种情况，我们必须努力追求一个拥抱透明度并能够检查和监控人工智能系统的未来。这将使全球开发人员能够彻底检查、分析和改进人工智能，特别是关注训练数据和过程。
要成功实现人工智能的透明度，我们必须了解支撑其的决策算法，从而揭示人工智能的“黑盒”方法。开放源代码和可检验的模型在实现这一目标中起着重要作用，因为它们提供了检查和审计的基础代码、系统架构和训练数据的访问权限。这种开放性促进了合作，推动创新，并防止垄断。
为了见证这一愿景的实现，有必要促进政策变革、基层倡议，并鼓励所有利益相关者的积极参与，包括开发人员、公司、政府和公众。
人工智能的现状：集中和控制
目前，人工智能的发展，特别是大型语言模型（LLMs），主要是由大公司集中和控制的。这种权力集中引发了有关潜在滥用的担忧，并引发了有关公平获得和公平分配人工智能进展的问题。
特别是，像LLMs这样的流行模型在训练过程中缺乏开源替代方案，因为通常只有大公司才能获得所需的大量计算资源。然而，即使情况保持不变，确保对训练数据和过程的透明性仍然至关重要，以便进行审查和问责。
OpenAI最近引入了一种针对某些人工智能类型的许可制度，引发了对监管捕获的担忧，因为它可能影响人工智能的轨迹，以及更广泛的社会、经济和政治方面。
透明人工智能的需求
想象一下依赖一种在人类/个人生活中做出重大决策的技术，却没有任何踪迹，对这些结论的基本原理一无所知。这就是透明度变得不可或缺的地方。
首先，透明度至关重要，可以建立信任。当人工智能模型变得可观察时，它们会给人们带来可靠性和准确性的信心。此外，这种透明度会使开发人员和组织对其算法的结果更加负责。
透明度的另一个关键方面是识别和减轻算法偏见。偏见可以通过多种方式注入到人工智能模型中。
- 人为因素：数据科学家容易将自己的偏见融入模型中。
- 机器学习：即使科学家们创造出完全客观的人工智能，模型仍然极易受到偏见的影响。机器学习以一个定义好的数据集开始，但随后会自由吸收新数据，并创建新的学习路径和新的结论。这些结果可能是无意的、有偏见的或不准确的，因为模型试图在自己所谓的“数据漂移”中自我进化。
重要的是要意识到这些潜在的偏见来源，以便能够识别和减轻它们。识别偏见的一种方法是审计用于训练模型的数据。这包括寻找可能表明歧视或不公平的模式。减轻偏见的另一种方法是使用去偏技术。这些技术可以帮助从模型中去除或减少偏见。通过对潜在偏见的透明，并采取措施减轻偏见，我们可以确保人工智能以公平和负责任的方式使用。
透明的人工智能模型使研究人员和用户能够检查训练数据、识别偏见并采取纠正措施。通过使决策过程可见，透明度有助于我们追求公平，并防止歧视性实践的传播。此外，正如上述所解释的，透明度在模型的整个生命周期中是必需的，以防止数据漂移、偏见和产生虚假信息的人工智能幻觉。这些幻觉在大型语言模型中尤其普遍，但在所有形式的人工智能产品中都存在。人工智能的可观察性在确保模型性能和准确性方面也起着重要作用，从而创建更安全、更可靠的人工智能，减少错误或意外后果的可能性。
然而，要实现人工智能的透明度并非没有挑战。要解决数据隐私、安全性和知识产权等问题，需要在平衡上下功夫。这意味着实施隐私保护技术，对敏感数据进行匿名处理，并制定促进负责任透明实践的行业标准和规定。
实现透明人工智能的现实
开发能够使人工智能可审查的工具和技术对于促进透明和问责的人工智能模型至关重要。
除了开发能够使人工智能可审查的工具和技术，技术的发展还可以通过在人工智能周围创造透明文化来促进透明。鼓励企业和组织对其使用人工智能的透明度也有助于建立信任和自信。通过使审查人工智能模型变得更加容易，并在人工智能周围创造透明文化，技术的发展可以帮助确保人工智能的公正和负责任的使用。
然而，技术的发展也可能产生相反的效果。例如，如果技术公司开发的专有算法不对公众进行审查，那么人们就更难理解这些算法的工作方式并识别任何潜在的偏见或风险。确保人工智能造福于整个社会而不仅仅是少数人需要高水平的合作。
研究人员、政策制定者和数据科学家可以制定规章和标准，在开放性、隐私和安全性之间找到正确的平衡，同时不会扼杀创新。这些规章可以创建框架，鼓励知识的共享，同时解决潜在的风险，并为关键系统的透明度和可解释性定义期望。
所有与人工智能开发和部署相关的各方都应将透明度作为核心原则，通过记录决策过程、提供源代码并将透明度纳入人工智能系统开发的核心原则，优先考虑透明度。这使得每个人都有机会在探索使人工智能算法更易于解释的方法和开发促进对复杂模型的理解和解释的技术方面扮演重要角色。
最后，公众参与在这个过程中至关重要。通过提高人们对人工智能透明度的认识，并促进公众围绕人工智能透明度展开讨论，我们可以确保社会价值在这一变革性技术的开发和部署中得到体现。
结论
随着人工智能越来越多地融入我们生活的各个方面，人工智能的透明度和使用开源模型变得至关重要。通过优先考虑透明度、使人工智能模型可审查和促进合作，我们可以共同塑造一个使每个人受益的人工智能未来，同时解决与这一变革性技术相关的伦理、社会和技术挑战。
Note: This translation keeps the HTML code unchanged.