AI的多元化危机:研究报告吐槽人工智能领域过于“白人直男癌”

来源:智汇工业

点击:208

A+ A-

所属频道:新闻中心

关键词:AI 多元化危机

    AI Now 研究所在今日发布的一份报告中称,人工智能行业面临着“多样化危机”,并且直指该领域方向的“关键问题”。 报告发现,女性和有色人种在 AI 领域的比例严重不足,约 80% 人工智能教授性别为男性。即便是 Facebook 和 Google 这样的大公司,也只有大约 10% 的女性 AI 研究人员,更别提有色人种只占其中的一小部分了。

    AI的多元化危机:研究报告吐槽人工智能领域过于“白人直男癌”

    报告截图(来自:AI Now | PDF ,via TheVerge )

    AI Now Institute 联席主管 Meredith Whittaker 一针见血地指出,在打造影响其他人群的工具上,AI 领域缺乏多样性、过于“白人直男癌”了。

    更糟糕的是,通过修复潜在求职者“渠道”来改善问题的方案,很大程度上也都失败了。 研究人员写到:“经过数十年的管道研究、评估了从学校到行业的各类求职者流动,AI 领域在多样性上并未取得实质性进展”。

    为此,AI Now Institute 提出了一些改善问题的建议,比如企业能够发布更多按照种族和性别划分的补偿数据,以及通过公布骚扰/歧视报告,来提升透明度。

    有观点指出, 尽管多样性是科技行业难以逾越的鸿沟,但其在 AI 领域埋下的风险却要大得多, 尤其是某些潜在含有偏见的技术(比如面部识别),可能会不成比例地影响历史上被边缘化的那部分群体。

    其实早在 2017 年,就有面部扫描识别程序存在不公正现象的批评。但除了更加严格的测试,AI 工具的制造商们,也必须切实最好风险规避,将这些系统打造得既安全又公平。

    早前亚马逊因 Rekognition 面部识别技术存在偏见而遭到炮轰,谷歌也在各界压力传导下成立了人工智能审查委员会。

    研究人员指出,“ 人工智能中领域的多样性危机,已有详细记录且造成了广泛的影响, 涉及行业 / 学术领域的不平等、招聘 / 晋升差异、反映和扩大有偏见的观念、以及自动化系统中的生物识别等方面”。


    (审核编辑: 林静)