【烽巢网】
人工智能现在研究所(AI Now Institute)的研究人员在今天发布的一份报告中表示，人工智能行业正面临“多样性危机”，这对该领域的发展方向提出了关键问题。
报告发现，女性和有色人种被严重低估。报告指出，研究发现，约80%的人工智能教授是男性，而Facebook和谷歌的人工智能研究人员中，只有15%和10%是女性。有色人种也被边缘化，只占大型科技公司员工的一小部分。其结果是，劳动力往往由白人和男性视角驱动，构建的工具往往会影响其他群体。人工智能研究所副所长梅雷迪思•惠特克(Meredith Whittaker)表示:“受这些系统影响的并不是人的多样性。”
更糟糕的是，通过修复潜在求职者的“管道”来改善这一问题的计划基本上已经失败。研究人员写道:“尽管有几十年的‘管道研究’评估了从学校到行业的不同求职者的流动情况，但人工智能行业在多样性方面没有取得实质性进展。”
研究人员提出了一些改进这个问题的建议。他们表示，公司可以通过发布更多的薪酬数据(按种族和性别分类)，以及发布性骚扰和歧视透明度报告，来提高透明度。
多样性虽然是科技行业的一个障碍，但在人工智能领域却存在着特定的危险。在人工智能领域，面部识别等可能存在偏见的技术，可能会不成比例地影响历史上被边缘化的群体。研究人员写道，像2017年推出的扫描人脸以确定性别的程序这样的工具，反映了过去的不公平。需要进行严格的测试。但更重要的是，人工智能工具制造商必须愿意不建造风险最高的项目。“我们需要知道这些系统是安全的，也是公平的，”AI Now研究所副所长凯特•克劳福德(Kate Crawford)表示。
科技行业的员工在一些重大人工智能问题上表明了自己的立场，敦促他们的公司放弃或审查可能伤害弱势群体的敏感工具的使用。亚马逊员工就该公司的面部识别产品向高管提问。最近，谷歌的员工对一个包括传统基金会(Heritage Foundation)总统在内的人工智能审查委员会发起了反击，指出该组织曾游说反对LGBTQ的权利问题。公司很快就完全解散了董事会。
“人工智能的多样性危机是有案可查的，影响广泛的，”研究人员总结道。“在整个行业和学术界的不平等工作场所，在招聘和晋升方面的不平等，在反映和放大偏见成见的人工智能技术，以及在自动化系统中生物决定论的重现，都可以看到这一点。”
