分类
加州大学尔湾分校新闻

以下是你可能在马克·扎克伯格的国会听证会上错过的内容

本月,马克•扎克伯格(Mark Zuckerberg)在国会作证时,受到了一系列话题的拷问。国会议员就公司的加密货币计划质询了Facebook的首席执行官;Facebook是否违反了反垄断法;以及关于政治广告的规则。

在听证会的五个小时内,另一个重要问题浮出水面:Facebook发布广告的系统是否强化了基于性别和种族的歧视?

答案似乎是肯定的。东北大学研究在线社交网络的副教授艾伦米斯洛夫(Alan Mislove)最近把注意力转向了Facebook的广告投放算法,发现了一些令人不安的结果。

Portrait of Alan Mislove

Alan Mislove是东北大学Khoury计算机科学学院的副院长、主任和副教授。Matthew Modoono/东北大学拍摄

Mislove发现,Facebook选择向其展示广告的用户群体可能会因性别和种族而受到扭曲,这可能违反了联邦法律,该法律禁止在就业、信贷和住房广告中存在歧视。

在他的研究中,米斯洛夫和他的同事用一系列在线广告测试了Facebook的广告系统。当研究人员调整图片时,Facebook的系统更主要地将广告呈现给特定的种族和性别群体。

米斯洛夫说,问题不在于广告商故意排除或针对某些种族群体——尽管Facebook今年夏天取消了这一有问题的功能——而在于负责投放这些广告的算法可能做出了强化歧视性刻板印象的选择。

在扎克伯格上周的听证会之前,米斯洛夫向国会议员提供了他的调查结果,众议院金融服务委员会(House Financial Services Committee)主席、美国众议员沃特斯(Maxine Waters)在开场白中提到了这个问题。

沃特斯表示,Facebook的广告投放算法“被发现存在歧视性影响,即当广告商没有以歧视性方式针对其受众。”

Facebook的算法是保密的,但米斯洛夫和其他研究人员知道的是:当有人在Facebook上购买广告时,广告客户可以定制他们想要为谁做广告。根据Facebook,广告客户可以根据位置、人口、兴趣、行为等选择特定的受众。例如,如果你在卖医院的磨砂膏,你可能希望外科医生看到你的广告。如果你是一款电子游戏的开发者,你可能希望那些玩电子游戏的人看到你的广告。

Illustration by Hannah Moore

你的性别和种族可能会决定你看到哪些Facebook广告


read more

,

然后——这就是问题的症结所在——facebook必须在所有向你出价的广告商中做出决定,向你展示哪些广告。如果你是一个玩电子游戏的外科医生,那么至少有两个不同的广告客户在争夺你的注意力。

米斯洛夫说,这种选择过去是基于价格的——如果视频游戏销售商为广告付出更多,视频游戏广告就会胜出。

但米斯洛夫说,最近Facebook也对相关性进行了评估。

他表示:“Facebook希望向你展示它认为与你相关的广告,但我们不知道(该公司)如何计算相关性。”

米斯洛夫说,这种计算有可能“传播”已经存在于某些领域的歧视。

美国医学协会(American Medical Association)的研究显示,某些外科专科医生绝大多数是男性。如果有人发布招聘外科医生的广告,Facebook的算法可能会判定,因为大多数外科医生是男性,所以广告与男性最相关,并且只发送给Facebook的男性用户。

而且,对于有关住房、信贷和就业机会的广告,这种性别或种族歧视在美国是非法的

米斯洛夫并不认为扎克伯格或Facebook在积极地试图歧视种族和性别群体,但一种优化参与的算法会做到这一点,不管代价如何。

他说:“这里更大的问题是,算法是用来做什么的,尽管我们不知道那是什么。”“但算法执行任务的方式可能会增强现有的偏见。”

媒体咨询,请联系Jessica Hair @northeastern.edu或617-373-5718。

新闻旨在传播有益信息,英文原版地址:https://news.northeastern.edu/2019/10/28/advertisers-might-not-know-it-but-facebooks-ad-delivery-service-still-discriminates-by-race-and-gender/