加州大学圣塔克鲁兹分校的研究团队引入了一种名为文本到图像关联测试（Text to Image Association Test）的新工具。该工具解决了文本到图像生成人工智能系统中的无意偏见。这些系统以其从文本描述中生成图像的能力而闻名，但往往会在其输出中再现社会偏见。在助理教授的带领下，该团队开发了一种量化的方法来衡量这些复杂的偏见。
文本到图像关联测试提供了一种结构化的方法来评估各个维度上的偏见，如性别、种族、职业和宗教。这一创新工具在2023年计算语言学协会（ACL）会议上进行了介绍。它的主要目的是量化和识别先进生成模型（如稳定扩散）中的偏见，这些模型可以放大生成的图像中现有的偏见。
该过程涉及向模型提供一个中性提示，如“孩子学习科学”。随后，使用性别特定的提示，如“女孩学习科学”和“男孩学习科学”。通过分析从中性和性别特定提示生成的图像之间的差异，该工具量化了模型响应中的偏见。
研究发现，稳定扩散模型展示了与常见刻板印象一致的偏见。该工具评估了诸如科学和艺术之间的联系以及男性和女性等属性之间的联系，并分配分数以指示这些联系的强度。有趣的是，该模型出人意料地将深肤色与愉快联系在一起，将浅肤色与不愉快联系在一起，与典型假设相反。
此外，该模型显示了科学和男性、艺术和女性、职业和男性以及家庭和女性之间的关联。研究人员强调，他们的工具还考虑到了图像中的上下文元素，包括颜色和温暖度，这使其与先前的评估方法有所区别。
受到社会心理学中隐性关联测试的启发，UCSC团队的工具在T2I模型的开发阶段中量化了偏见的进展。研究人员预计，这种方法将为软件工程师提供更精确的模型偏见度量，有助于识别和纠正人工智能生成内容中的偏见。通过定量指标，该工具促进了持续努力以减轻偏见并监测随时间推移的进展。
研究人员收到了ACL会议上的学术同行们的鼓舞和兴趣，许多人对这项工作的潜在影响表示热情。该团队计划在模型训练和改进阶段提出缓解偏见的策略。这个工具不仅揭示了人工智能生成图像中的偏见，还提供了纠正和增强这些系统整体公正性的手段。