性别识别软件的危险、不足的医学模型和跨性别内容的增长
人工智能的风险讨论往往会围绕着人工通用智能（AGI）的假设性危险和世界末日的情景。机器人不会接管世界。但是，目前的人工智能水平确实存在实际风险。特别是对于那些已经受到这项技术影响的跨性别和性别非符合社区。
我们将重点概述以下三个方面对这个社区的危险：
- 自动性别识别
- 医学模型的限制
- 社交媒体上跨性别内容的加剧
虽然跨性别社区感受到了立即的影响，但这些危险影响着我们所有人。它们传播仇恨，限制了多样性的丰富性，约束了我们集体表达自己的能力。我们必须理解我们作为技术专业人员的角色如何支持跨性别人群，创造一个更强大的社会。
我们之所以能够大规模地部署人工智能，是因为我们有大量的数据和计算能力。担心的是，人工智能没有应对伦理挑战。
——Alex Hanna
脸部滤镜
我们将通过一个表面上看起来可能不太严重的例子来缓解危险。如果你在社交媒体上，你就知道什么是脸部滤镜。它们使用机器学习来扭曲你的脸，让你看起来老态龙钟，甚至把你的狗变成迪士尼角色。大多数人都认为这些是无害的乐趣。但是，涉及到性别问题，事情可能会更加复杂。然而，不应夸大其负面后果。
我只是一个支持者，不能代表跨性别人群发言。似乎即使在跨性别社区中，性别交换滤镜的后果也是有争议的。它们可以让你探索你的性别认同和表达。然而，它们也可以强化性别刻板印象，排除非二元人群。有些人甚至将这些滤镜用作嘲笑过渡过程的工具。
探索性别和不同于你被指定的性别是一件好事，我鼓励这样做。你可能会发现一些令你惊讶的新事物，而且你可能会更加友善地对待跨性别人士。
——Charlie Knight
在讨论这种类型的技术时，应区分允许你选择性别的应用程序和试图预测性别的应用程序之间的区别。例如，看一下 Pixar 滤镜编译中的第一个视频。当用户没有传统的男性或女性特征时，算法会遇到困难。
这揭示了这些类型应用程序的问题——其基础技术是建立在预测某人的性别认同的假设上的。这是伪科学。将这种假设应用到其他应用程序中可能会产生重大影响。
自动性别识别（AGR）
AGR 或性别识别软件是一种机器学习的分支，旨在预测一个人的性别。这是通过分析面部特征、身体形状、服装、语音模式或行为特征来完成的。然而，性别是复杂的，不能完全通过这些方面来捕捉。特别是涉及到跨性别人群时。
在 4 个 AGR 系统的研究中，如图1所示，它们平均误判跨性别女性的比例为 12.7%，跨性别男性的比例为 29.5%。而对于生理男性和女性，这个比例分别为 1.7% 和 2.4% [1]。这些系统还完全忽略了其他性别群体。
对跨性别人士进行性别错误的称呼是不尊重的，这也可能对心理健康产生严重影响。被持续地称呼为你不认同的性别可能会令人感到疲惫和沮丧。现在想象一下，如果这种情况自动化并融入我们日常的系统中。
你不必想得太复杂。这些系统已经被部署：
- 一家公司自动化了广告牌，为男性推广披萨，为女性推广沙拉
- 柏林公共交通运营商为女性旅客提供了21%的折扣
- Giggle是一个“仅限女性”的社交网络应用，拒绝接受跨性别女性
- 跨性别Uber司机的帐户已被面部识别安全系统暂停
这些类型的系统造成的伤害是众所周知的，以至于欧盟已被敦促禁止它们。
依赖性别的医疗模型
AGR涉及机器学习，其中性别是目标变量。当我们将性别作为模型特征时，问题也会出现。更具体地说，在我们不区分性别（出生时分配的性别）和性别（社会构建的角色）时，这个问题在医疗模型中很普遍。
在医疗保健中，性别和性别常常被混淆。以至于已经提出了称为性别-基础医学的术语[2]。事实上，很少有数据考虑跨性别和其他性别群体作为一类。结果是使用单个二进制特征（男/女）进行训练的模型，将出生时分配的性别作为两性别和性别的代理[3]。
假设性别和性别是二进制、静态和一致的，这是深深植根于医疗系统中的错误假设。
——肯德拉·阿尔伯特（Kendra Albert），玛吉·德拉诺（Maggie Delano）
问题在于，有许多诊断和治疗需要考虑性别和性别之间的互动[4]。这适用于HIV预防、生殖健康、激素替代疗法和心理健康。通过将性别和性别合并成一个变量，我们忽视了医疗系统中的跨性别人士。结果是与他们的同性恋对手相比，医疗保健质量较差。
社交媒体上跨性别内容的放大
到目前为止，我们已经关注了更直接的影响。通过巩固性别期望和模型性能较差，人工智能可能会对跨性别人士产生负面体验。人工智能也可能会产生较不直接的影响。那就是影响他人对跨性别人士的看法。
社交媒体推荐算法的工作就是让你停留在平台上。不幸的是，愤怒，尤其是针对你不属于的一组人的愤怒，可以有效地推动参与度[5]。还有担忧算法可能会强制执行先前的信仰[6]。即只推荐与您过去参与过的内容相似的内容。
性别是现代社会规范和期望的核心。跨性别人士的存在可能会挑战这些。对于一些人来说，这是恐惧、愤怒和不愿接受科学事实的反应。这些条件是增加参与度和创建反跨性别的回声室的成熟条件。
我们在Facebook上见过这种情况。在这里，用户对影响跨性别人士的问题有一个有偏见和不真实的理解。如图2所示，右翼页面上有关跨性别问题的帖子获得了近两倍的互动。其中大部分是来自反跨性别网站的帖子。
Facebook并不是唯一存在问题的平台。在与反跨性别内容互动后，TikTok会将您引向极端主义、仇恨和暴力的兔子洞。我在YouTube短片上被推荐反跨性别内容的经历正是激发我撰写本文的动机，也是其他人共有的经历。
这些平台上的内容试图推动错误的叙述，即跨性别是一种意识形态或精神疾病。它不是。它还试图将辩论从基本人权转移到体育、厕所和代词上的琐事。最阴险的是试图将平等追求重新定义为对儿童的攻击。
跨性别社群对儿童没有任何危害，然而这些内容对他们构成了重大风险。2023年，美国通过了79个反跨性别法案。社交媒体被认为是导致这些政策变化的原因之一。反跨性别内容还导致了负面的社会变化。
82%的跨性别个体考虑过自杀，40%曾试图自杀。导致这一数字的最主要因素是日常侮辱或轻视[7]。这种行为正是反跨性别内容所正常化和推广的。
人际微攻击对终身自杀企图的影响是独特的，具有统计学意义。
—— Ashley Austin等人。
基于这些后果，社交媒体平台有道德责任限制这些内容。至少应将其标记为虚假和不科学的。我们应该拒绝跨性别恐惧症。作为科技工作者，我们也应该利用我们独特的影响力地位。我们有能力反击这些趋势，塑造伤害跨性别人群的系统。
我们可以从了解成为跨性别意味着什么开始。我们可以推动包容性培训数据和更加多元化的团队。我们还应该倡导针对增加透明度、可解释性和人类监督AI系统的监管。在这样做的过程中，我们不应该被假想的末日情景所分心，而应该关注AI的即时风险。
此文中所有小猪AI合作伙伴基金将被捐赠给TGEU。如果您想了解成为跨性别人士的含义或如何成为更好的盟友，请参阅以下视频。 愉快的骄傲月！
什么是跨性别？
成为跨性别盟友的神经科学
跨性别101 – 成为跨性别盟友
您可以在Mastodon | Twitter | YouTube | Newsletter上找到我 – 免费访问Python SHAP课程
使用我的推荐链接加入小猪AI – Conor O’Sullivan
作为小猪AI会员，您的会员费中的一部分将捐赠给您阅读的作家，您将获得所有故事的完全访问权…
conorosullyds.medium.com
参考文献
[1] Scheuerman, M.K., Paul, J.M. and Brubaker, J.R., 2019. How computers see gender: 商业面部分析服务中性别分类的评估。 Proceedings of the ACM on Human-Computer Interaction , 3 (CSCW), pp.1–33 https://docs.wixstatic.com/ugd/eb2cd9_963fbde2284f4a72b33ea2ad295fa6d3.pdf
[2] Campesi, I., Montella, A., Seghieri, G. and Franconi, F., 2021. 个人护理需要性别的关注。 Journal of Clinical Medicine , 10 (20), p.4770. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC8541070/
[3] Chen, I.Y., Pierson, E., Rose, S., Joshi, S., Ferryman, K. and Ghassemi, M., 2021. 医疗保健中的道德机器学习。 Annual review of biomedical data science , 4 , pp.123–144. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC8362902/
[4] Albert, K. and Delano, M., 2022. 性别问题：机器学习中的性别/性别混淆、性别困惑和使用电子健康记录的性别痴迷。 Patterns , 3 (8), p.100534. https://www.sciencedirect.com/science/article/pii/S2666389922001313
[5] Rathje, S., Van Bavel, J.J. and Van Der Linden, S., 2021. 外团体敌意推动社交媒体的参与。 Proceedings of the National Academy of Sciences , 118 (26), p.e2024292118. https://www.pnas.org/doi/abs/10.1073/pnas.2024292118
[6] Jiang, R., Chiappa, S., Lattimore, T., György, A. 和 Kohli, P., 2019年1月。 推荐系统中的退化反馈循环。 《2019 AAAI/ACM人工智能、伦理和社会会议论文集》（第383–390页）。 https://arxiv.org/pdf/1902.10730.pdf
[7] Austin, A., Craig, S.L., D’Souza, S. 和 McInroy, L.B., 2022年。 跨性别青少年自杀倾向：澄清人际风险因素的作用。 《人际暴力杂志》，37（5-6），pp.NP2696-NP2718。 https://pubmed.ncbi.nlm.nih.gov/32345113/