“很多计算机科学家只是对他们正在做的事情有所了解,并没有真正联系到可能会受到这些行为伤害的社区,”纪录片《编码偏见》(Coded Bias)的导演沙里尼·坎塔亚(Shalini Kantayya)说。这部纪录片探讨了人脸识别软件、算法和人工智能中的种族偏见。

Kantayya加入了编辑Meredith WoernerBOB体育平台官网《博士梦》(Doc Dreams)由国家地理(National Geographic)主办,讨论了这部开创性纪录片的制作过程,以及在制作过程中揭示出的一些启示。

“编码偏见”,其中在五个国家拍摄,并在25次采访中拍摄,从麻省理工学院的计算机科学家和数字活动家的探索开始。

通过她的工作,Buolamwini透露,一个常用的计算机视觉软件系统不会跟踪她的面部特征,直到她戴上一个白色的面具。Buolamwini在影片中说:“就是从那时起,我开始研究科技中存在的偏见问题。”坎塔亚利用这一发现,深入到编码我们全球“数字命运”的许多有问题的层面。

Kantayya指出,虽然我们认为算法是“展望未来”的技术,但它们是基于过去的数据,而这些数据往往带有偏见和系统性的不平等。当这些数据被用来预测未来的行为时,它可以“机械化”种族主义。

“我甚至没有知道什么算法是什么时候我开始这部电影时,”肯塔亚亚说。“我认为我知道关于人工智能的一切来自史蒂文斯皮尔伯格或斯坦利库布里克或雷德利斯科特的想象力。我肯定是一个人看待“刀片跑步者”的方式太多了。我不认为我的背景是一个科幻狂热的狂热为我准备了什么,它是什么,它可以做什么,也不能做到,它是如何被用作我们世界上机会的这个隐形的门卫。“

这部电影展示了人工智能是如何产生有害影响的,当帮助决定某人的工作或住房申请结果、医疗保健质量甚至刑期的系统没有考虑种族或性别偏见时。

Kantayya说:“这就像买了一种没有反适应症的药品,标签上也没有用法。”“这就像狂野的西部。”

在积极的方面,电影与观众和大技术市场的谐振。“几乎每个主要的科技公司都举办了一个筛选对我来说的”编码偏见“,我从未预料到”导演揭示“。然而,从托管首映式的公司列表中缺失是亚马逊,Doc在镜头下置于过去和目前的交易。

“我的口头禅是我们不能独自离开科技兄弟,”康奈塔说。“他们需要听到并感受到公众的地面膨胀。自从该电影在日光首映之后,世界上三家最大的技术公司在销售面部识别时改变了他们的政策。IBM离开了游戏,中断了他们的整个商业模式,关闭了他们用面部识别完成的商店。微软停止向警方销售,亚马逊表示,他们会暂停一年的暂停,其中两个月内我们很好。“

Kantayya在她的Doc中的勇敢科学家的肩膀上表现出来,由企业兴趣不受控制。

然而,Kantayya并不认为大型科技公司是敌人,相反,她希望改变人们的对话,帮助提高人们对这些极其重要的算法的认识。“我真的认为算法正义是民权运动未完成的工作,当我们的声音被听到时,它将以同样的方式发生。我认为这是推动这项运动向前发展的原因,并激励这些公司做正确的事情。”

《编码偏见》目前可以在Netflix上观看。