在一次解决五个不同的诉讼中，Facebook今年早些时候承诺改变其管理其平台上的住房、就业和信贷广告的方式。广告商将不再能够根据性别、种族或年龄来锁定受众，以防止受到法律保护的群体受到歧视。
但是，包括东北大学教授艾伦·米斯洛夫(Alan Mislove)在内的一组计算机科学家的最新研究表明，尽管Facebook做了一些改变，但它用来投放广告的算法仍然会偏向特定的用户群。
Alan Mislove是Khoury计算机科学学院的计算机科学教授。Matthew Modoono/东北大学拍摄
“需要澄清的是，我们并不是在指责Facebook违反了和解协议，”东北大学计算机科学教授米斯洛夫说。“相反，我们的研究表明，这是一个复杂的算法在起作用。”
米斯洛夫说，这是因为算法在实践中的表现与理论中的表现大不相同。
从理论上讲，取消了广告商以种族、性别和年龄为目标受众的能力，广告受众应该包括各种各样的人。米斯洛夫说，在实践中，Facebook的算法依赖于其用户的无数其他特征，这些特征最终成为种族、性别和年龄的代理。
今年夏天，Facebook推出了其特殊的广告受众功能，这是一种营销工具，帮助人们推广提供信贷、就业或住房机会的广告。虽然服装公司可能想直接向男性或女性做广告，但在美国，信贷、就业和住房领域有特殊的法律保护，以防止歧视。
米斯洛夫与一组研究人员合作，其中还包括东北大学的博士生Piotr Sapiezynski和Avijit Ghosh，本科生Levi Kaplan，以及来自非营利技术组织Upturn的一名研究人员，他们被称为“相似的观众”来测试这个新功能。
Facebook已经决定了你将如何投票
read more
研究人员利用可公开获得的选民数据，创建了有意受种族、性别、年龄和政治观点影响的受众，并让他们同时接触新的和现有的广告工具，以测试相应的算法是否会再现每种偏见。
结果是惊人的:相似的人和特殊的广告受众都复制了人口统计学上的倾斜。
Facebook发言人乔·奥斯本(Joe Osborne)在给ProPublica的一份声明中说，“我们已经超越他人，通过限制目标和增加透明度来帮助防止广告中的歧视。”今天，一个决心歧视他人的广告客户可以在任何在线或离线媒体上这样做，这就是为什么法律存在的原因。60315我们是唯一一个在广告上做出如此有意义的改变的数字媒体平台，我们为我们的进步感到自豪。”
米斯洛夫说，这些结果说明了确保算法公平的艰巨任务。
米斯洛夫说:“实际上，一个算法有数百万个输入，每一个输入都以其他方式与这些受保护的特征相关联。”
信息,比如你去上大学,你住在哪里,哪些页面你在Facebook的“喜欢”,更无意中可以作为指标对你的种族,性别和年龄的算法构建优化结果可能依靠这些信息来决定谁是最有可能点击广告。
“算法不在乎，”米斯洛夫说。“他们有一个特定的目标，他们会结合使用各种功能来完成这个目标;对他们来说，这是否意味着他们只向18至24岁的白人男性发送技术职位广告并不重要。”
Mislove说，这是一个复杂但紧迫的问题，因为算法支撑着我们越来越多的日常活动。算法被用来帮助做出关于医疗保健、信用价值、就业、刑事判决、旅行指南、你听什么音乐，以及其他一系列令人眼花缭乱的日常交互的决策。
这些领域的所有参与者“都想要算法的效率，但不是每个人都在考虑他们可能出错的方式，”Mislove说。
当事情出错时，解决方案通常非常复杂。
米斯洛夫说:“现在非常困难，因为受保护的身份(歧视可能会发生)真的渗透到了我们的社会。”“这将比一开始就简单地删除某些功能困难得多，也微妙得多。”
如需媒体咨询，请联系Mike Woeste: [email protected]或617-373-5718。
新闻旨在传播有益信息，英文原版地址：https://news.northeastern.edu/2019/12/18/facebooks-ad-delivery-system-still-discriminates-by-race-gender-age-y/