算法替代人类做决策越来越多,谁来监督它是否公平

随着机器学习渗透到社会,科学家们正试图帮助防范不公正。

2020年,一位忧心忡忡的父亲问了一个至今仍在Rhema Vaithianathan心头盘桓的问题。那天几个人聚集在匹兹堡的一间地下室,听Vaithianathan解释软件可以如何解决儿童虐待问题。

每天,这片区域的热线都会接到数十通怀疑儿童处于危险中的电话;之后,部分电话会被中心工作人员标记出来,进行调查。但这一系统并不能发现所有虐童事件。那时,Vaithianathan和同事刚拿下50万美元的合同,合同内容是搭建一套算法来解决这个问题。

Mario Wagner

Vaithianathan是一名卫生经济学家,也是奥克兰理工大学社会数据分析中心的联合主管。她对几位听众解释了算法该如何运作。比方说,在接到电话的时候,一套经过大量数据训练的工具可以进行风险评分,帮助工作人员标记需要调查的家庭。

在Vaithianathan邀请听众提问时,这位父亲站起来开口了。他说自己曾经有毒瘾,一个孩子已经被社工从家里带走,但在那之后他已经不再碰毒品,如果让计算机来评估他的记录,那么他的改过自新是否只是白费?换句话说,算法能对他做出公正的判断吗?

Vaithianathan向他保证,永远会有人工参与其中,这样他所付出的努力就不会被忽视。但现在自动工具已经部署后,她还是想到了这位父亲的问题。计算机运算越来越多地用于指导可能改变生活的决定,包括哪些人被指控犯罪后应该被拘留;哪些家庭可能存在虐童情况而需要调查,以及在所谓的 预测性警务 中,警察应当关注哪些社区。

这些工具能让决策更统一、精确、严谨。但对于它们的监管是有限的,谁都不知道有多少工具在使用中。比方说2020年,美国记者称有一套被用来评估未来犯罪活动风险的系统歧视黑人被告。

纽约大学研究中心——AI Now研究所的联合创办人Kate Crawford说: 最让我担心的是,我们用来改善问题的系统,却反过来使问题加剧了。 该中心主要研究人工智能对社会的影响。

Crawford和其他人的警告,促使政府开始着手让软件承担起更多责任。去年12月,纽约市议会通过了一项法案,成立一个工作组,专门就如何公开分享有关算法的信息以及进行偏见调查出谋划策。

今年,法国总统马克龙表示,法国政府将公开所有使用的算法。在本月发布的指导意见中,英国政府要求公共行业和数据打交道的部门都要做到透明、负责。5月底开始生效的GDPR也有望促进算法问责制。

Rhema Vaithianathan开发相关算法来标记潜在的虐童案件。

在这些活动中,科学家们面临着许多复杂的问题,总结来说就是,何为算法公平。像Vaithianathan这样的研究人员,在公共机构工作,他们在开发负责、高效的软件时,必须努力解决自动化工具可能带来的偏见或加剧现有不公平现象的问题——尤其是这些工具用在本就存在歧视的社会系统中时。

(责任编辑:天下棋牌)

本文地址:/xingye/20200629/8087.html

上一篇:美科技巨头面临监管 审判 强监管汉游天下棋牌来临

下一篇:又一新的组合投资管理模式MOM出现 投天下棋牌资者如何选择

留下评论

(必填)

(必填)