这项研究令人不安。研究显示，Facebook选择向其展示广告的用户群体可能存在性别和种族偏见，这可能违反了联邦法律，而联邦法律禁止在就业、住房和信贷广告中存在歧视。
东北大学的一个团队用一系列在线广告测试了Facebook的广告系统。随着研究人员对图片进行微调，Facebook的系统将广告更多地呈现给特定的种族和性别群体。
艾伦·米斯洛夫，计算机科学副教授。照片由Matthew Modoono/东北大学拍摄
其他著名的在线平台，包括谷歌和Twitter，也使用类似的算法来针对特定的受众。东北大学库瑞计算机科学学院副院长、主任兼副教授艾伦·米斯洛夫(Alan Mislove)是这项研究的主要负责人，他说，这种扭曲的原因之一是对效率的追求。
米斯洛夫说:“我对研究结果的强度感到惊讶，因为在特定情况下，你会发现这种偏差有多么严重。”他说:“我没有想到我们能打出完全一样的广告，除了图片。这取决于我们选择的图像，一个是90%给男性，一个是90%给女性，你会看到强烈的倾斜。在科学领域，你几乎看不到这么明显的东西，对吧?”
他们与南加州大学(University of Southern California)和非盈利科技公司Upturn的研究人员合作，进行了为期6个月的调查，调查对象并非怀有恶意的广告商。相反，米斯洛夫和东北大学的计算机科学家默罕默德·阿里(Muhammad Ali)和彼得·萨皮琴斯基(Piotr Sapiezynski)专注于Facebook的广告发布平台。
其神秘的算法基于从数十亿用户在线体验中收集的多年数据，旨在将广告导向那些认为广告最“相关”的Facebook用户。
Mislove说:“我们的生活越来越多地被基于算法的大型在线平台所调节。”“这些公司在试图优化某些东西上有经济利益。在很多领域，这可能是可以的:你为女性做鞋的广告，我们可能对广告针对女性没有问题。
剑桥分析公司，Facebook数据收集是“违反信任”而非安全
read more
“但在其他领域，对信息流动的控制可能会给整个社会带来严重的负面后果。其中最明显的是信贷、住房和就业，这些领域除了是非常重要的领域外，还受到特殊的法律保护。”
默罕默德和萨皮琴斯基制作了一系列无害的、精心控制的广告，这些广告与真实的工作和住房服务有关。当他们不确切知道为什么算法决定为特定用户提供广告,研究人员能够看到总统计信息的性别和位置的用户看到他们的广告,通过广告在北卡罗莱纳,为选民提供公共访问记录,可以使用统计推断的种族分布。
“这个平台会导致歧视性广告投放吗?””梅丝洛夫说。“这很有趣，因为这可能不是广告商的本意。”
结果很明显。通过改变图片，研究人员可以看到Facebook针对实验中特定广告的特定目标受众:75%的出租车司机是黑人，85%的超市收银员是女性，72%的白人和90%的伐木工人是男性。
他们的待售房屋广告的结果是，75%的观众是白人，而出租房屋的广告则更加平衡。Mislove谨慎地指出，其他住房广告的结果可能不同，但研究人员在一小组广告中发现了显著差异，这一事实表明，许多其他住房和就业广告也受到了影响。
研究人员挑战联邦法律，试图阻止“大数据”歧视
read more
米斯洛夫说，他和他的研究人员发现，他们正在经历一种竞争紧迫感，而这种紧迫感通常被归因于那些即将为公众利益揭露新闻的记者。
“我们担心会被抢先，”米斯洛夫说。“我的想法是，这太明显了，别人会发现的。所以，我们需要努力工作，尽早把问题解决掉。”
3月28日，美国住房和城市发展部(Department of Housing and Urban Development)指控Facebook违反了《公平住房法》(Fair Housing Act)。《经济学人》上周率先报道了这一消息。
即使Facebook停止在信贷、住房和就业等受保护的领域寻求最优的广告投放，这种倾斜仍可能基于市场的需求而存在。
米斯洛夫说:“所有的广告都是基于网络上的拍卖，我不知道你是如何解决这个问题的，而不只是说我们没有那种广告。”“所以这是一个悬而未决的问题。”
如需媒体咨询，请通过[email protected]或617-373-5718与Mike Woeste联系。