17 search results for "ML系统"

在我们关于机器学习风险管理的系列文章中，我们已经踏上了一段旅程，揭示了确保机器学习系统可信度的关键要素在我们的第一篇文章中…

机器学习中的偏见无处不在，而且机器学习中的偏见非常复杂；事实上，没有单一的技术干预可以有效地解决它所带来的问题。作为社会技术系统，机器学习模型放大了可能加剧不平等和有害偏见的社会趋势，这取决于它们的部署环境并不断演变。 这意味着谨慎地开发机器学习系统需要保持警惕，并对来自部署环境的反馈作出回应，而我们可以通过在不同环境中分享经验教训和开发工具来促进这一过程，以分析每个机器学习开发阶段的偏见迹象。 这篇来自伦理和社会团队的博客文章分享了我们学到的一些教训，以及我们开发的工具，以支持我们和社区中其他人更好地解决机器学习中的偏见问题。第一部分是关于偏见及其背景的广泛反思。如果您已经阅读过它，并且特别关注工具部分，请随意跳转到数据集或模型部分！ 🤗 团队成员开发的一些用于解决机器学习中偏见问题的工具 目录： 关于机器偏见 机器偏见：从机器学习系统到风险 将偏见置于背景中 工具和建议 在机器学习开发中解决偏见问题 任务定义 数据集策划 模型训练 🤗 偏见工具概述 机器偏见：从机器学习系统到个人和社会风险 机器学习系统使我们能够在以前从未见过的规模上自动化复杂任务，因为它们在更多的领域和用例中得到应用。当技术发挥最佳作用时，它可以帮助人们与技术系统之间的互动更加顺畅，消除高度重复性的工作需求，或者开辟处理信息的新方式以支持研究。 这些系统同样有可能复制训练数据中所代表的歧视性和滥用行为，特别是当数据编码了人类行为时。这时，技术有可能使这些问题变得更加严重。自动化和大规模部署确实可以： 固化某一时期的行为，阻碍社会进步在技术中得到反映， 扩大有害行为超越原始训练数据的上下文， 通过过度关注刻板印象的关联来放大不平等， 通过将偏见隐藏在“黑盒”系统中，剥夺追索的可能性。 为了更好地理解和解决这些风险，机器学习研究人员和开发人员已经开始研究机器偏见或算法偏见，即可能导致系统在其部署环境中对不同人群产生负面刻板印象或不同绩效的机制。 这些问题对于我们…

使命：开放和良好的机器学习 在我们追求民主化良好的机器学习（ML）的使命中，我们研究如何支持ML社区工作，同时也赋予人们审查和预防可能的危害的能力。开放的发展和科学使权力分散，使许多人能够共同从事反映他们需求和价值的人工智能工作。尽管开放性使广泛的观点能够为研究和整体人工智能做出贡献，但也面临着较少风险控制的紧张局势。 由于这些系统的动态和迅速发展的特性，对ML构件的调节提出了独特的挑战。事实上，随着ML模型变得越来越先进并能够生成越来越多样化的内容，有害或意外输出的潜力增加，需要制定强大的调节和评估策略。此外，ML模型的复杂性和它们处理的大量数据加剧了识别和解决潜在偏见和道德问题的挑战。 作为主办方，我们意识到我们可能会加剧对用户和整个世界的伤害的责任。通常情况下，这些伤害对少数群体的影响是不平等的，具体取决于上下文。我们采取的方法是分析每个上下文中存在的紧张局势，并对公司和Hugging Face社区展开讨论。虽然许多模型可能会加剧伤害，尤其是歧视性内容，但我们正在采取一系列措施来识别风险最高的模型以及采取何种行动。重要的是，来自不同背景的积极观点对于理解、衡量和减轻影响不同人群的潜在危害至关重要。 我们正在开发工具和安全措施，除了改善我们的文档实践，以确保开源科学能够赋予个人力量，同时继续将潜在危害降至最低。 伦理类别 我们推动良好开放ML工作的第一个主要方面是推广那些优先考虑价值观和利益相关方的ML开发工具和积极实例。这有助于用户采取具体步骤解决未解决的问题，并提出可行的替代方案，以摒弃ML开发中的有害实践。 为了帮助用户发现和参与与伦理相关的ML工作，我们编制了一组标签。这6个高级类别是基于社区成员贡献的空间的分析而确定的。它们旨在为您提供一种无专业术语的思考伦理技术的方式： 严谨的工作特别关注以最佳实践为导向的开发。在ML中，这可能意味着研究失败案例（包括进行偏见和公平性审计），通过安全措施保护隐私，并确保潜在用户（技术和非技术人员）了解项目的限制。 同意的工作支持使用和受这些技术影响的人的自主权。 有社会意识的工作向我们展示了技术如何支持社会、环境和科学努力。 可持续的工作强调并探索使机器学习在生态上可持续的技术。 包容性的工作扩大了机器学习世界中谁进行构建和受益的范围。 好奇的工作揭示了挑战社区对技术与其关系的重新思考的不平等和权力结构。 了解更多信息，请访问https://huggingface.co/ethics 请留意这些术语，因为我们将在Hub上的一些新项目中使用这些标签，并根据社区贡献进行更新！ 保障措施 将开放发布视为“全有或全无”的观点忽视了决定ML构件正面或负面影响的广泛背景。对ML系统共享和重复使用具有更多控制杠杆支持协作开发和分析，减少了促进有害使用或滥用的风险；为了实现更多的开放和创新参与，以共享利益为目的。 我们直接与贡献者互动，并解决紧迫的问题。为了将其提升到下一个层次，我们正在建立基于社区的流程。这种方法赋予Hugging Face贡献者和受贡献者影响的人权力，以确定限制、共享和额外机制，以确保在我们的平台上提供的模型和数据。我们将关注的三个主要方面是：构件的起源、构件的处理方式以及构件的使用情况。在这方面，我们： 为我们的社区推出了标记功能，以确定ML构件或社区内容（模型、数据集、空间或讨论）是否违反我们的内容准则， 监控我们的社区讨论板，以确保Hub用户遵守行为守则， 以详细介绍社会影响、偏见和预期使用案例以及超出范围使用案例的模型卡的方式充实我们下载量最多的模型的文档， 创建面向受众的标签，例如“不适合所有受众”的标签，可添加到存储库的卡片元数据中，以避免未经请求的暴力和性内容，…