学习+ 分享
掌握科技改变生活

研究发现:一些面部识别系统仅对白色男性准确

该研究发现在黑皮肤女性受试者中发现非常错误率(Credit:MIT / Joy Buolamwini)

来自麻省理工学院和斯坦福大学研究人员在一项新研究发现,三种商业面部分析程序在确定任何非白人和男性受试者的性别方面都表现出显着的错误率。这项研究强调了机器学习领域的一个持续存在的问题,这表明这些算法训练的数据集由不成比例的大量白人男性比其他性别和种族类型组成。

研究的起源几年前,当时MIT媒体实验室的研究生Joy Buolamwini正在使用商业面部分析系统进行多媒体安装,并发现它始终无法正确识别深色皮肤的脸部。为了测试这些系统,Buolamwini和研究合作伙伴Timnit Gebru生成了一套包含男性,女性和不同肤色的1200张面部图像。

该研究使用性别鉴定来测试所有三个系统,因为这是一个二元决策,可以进行简单的统计评估,并且结果非常显着。在所有三种测试的面部识别系统中,识别白人男性性别的错误率均小于1%。但对于颜色较深的女性受试者,错误率会高达20%到35%之间。对于最黑皮肤的女性面孔,当试图识别性别时,两个测试系统产生了大约46%的非常错误率。

“在商业系统中,三分之一失败的问题已经减少为二元分类任务,你必须问,如果这些失败率在不同的子组中,是否允许这样做?” Buolamwini说。“另外一个重要的教训是,我们的基准,我们衡量成功的标准本身可以给我们一种虚假的进步感。”

尽管该研究对性别鉴定的关注有限,但研究人员认为,这些相同的种族和性别偏见可能会反映在其他任务的面部识别系统结果中。考虑到这些面部识别系统被执法机构和卫生保健部门使用,本研究提出的问题很重要。

“这里真正重要的是该方法以及该方法如何应用于其他应用,”Buolamwini说。“当你正在寻找犯罪嫌疑人或解锁你的手机时,也可以使用相同的以数据为中心的技术来确定某人的性别。”

深入了解下面视频中的研究。

内容引用:麻省理工新闻

转载请注明来源:前沿网 » 研究发现:一些面部识别系统仅对白色男性准确

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
'); })();