鲁哈·本杰明(Ruha Benjamin)在她的最新著作《技术的竞争:新吉姆法典的废奴主义工具》(Race After Technology: Abolitionist Tools for the New Jim Code)中，对偏见如何注入技术提出了详细、批判性和发人深省的看法。
因为这本书的发布由译林出版社2019年6月,本杰明,非裔美国人研究的副教授在普林斯顿,俘获了一个广泛的公众利益的分析如何今天的技术——从手机应用到复杂的预测算法进行在这偏见可以有不利影响在某些社区或团体,即使其使用的目标是崇高或利他。
Ruha Benjamin
普林斯顿大学(Princeton University)非裔美国人研究副教授鲁哈·本杰明(Ruha Benjamin)讨论了她的著作《技术后的种族》(Race After Technology)，该书解释了技术发展过程中的偏见和社会背景，并提供了分析和改变的工具。
她列举的例子包括:
•一个帮派数据库，87%为black和Latinx，其中许多名字属于1岁以下的婴儿，其中一些据说是“自称帮派成员”。
•一场由通过深度学习编程的机器人进行的选美比赛，所有获胜者都是白人，只有一名决赛选手有明显的深色皮肤。
•一个再犯风险算法错误地预测了被捕的人会再次犯罪，该公式更有可能将黑人被告标记为未来的罪犯，而不太可能将白人被告标记为未来的罪犯。
•谷歌地图的一个小故障，将“马尔科姆·艾克斯大道”(Malcolm X Boulevard)读作“马尔科姆·10大道”(Malcolm Ten Boulevard)。
《技术后的竞赛》展示了一系列歧视性设计的例子，并提供了一个工具包，帮助人们理解技术是如何强化和加深社会不平等的。
这本书已经被企业高管、医疗专业人士、高中生、科技创造者和女性权益倡导人士等广泛使用。发现这本书的读者如此广泛，以至于本杰明决定在这本书出版几个月后为自己盘点一下。
本杰明说:“我对与歧视设计问题产生共鸣的各种学科和从业人员感到惊讶——远远超过我的想象。”“从护理、商业、专业学校，到不同的STEM项目，再到人文学科。”
通过公开演讲和对教室和图书馆的虚拟访问，本杰明在休假期间与她的许多读者进行了互动。(这些事件中有许多发生在冠状病毒全球传播之前，这种病毒减少了公众集会。本杰明继续通过视频会议和在线广播与各小组见面，包括与普林斯顿迷宫图书公司(Labyrinth Books)合作，为K-5年级的学生朗读《世界各地的故事》(Stories from Around the World)。)
去年秋天，有超过45个班级或项目使用了她的书，她还向几个州的K-12教育工作者和管理人员介绍过这本书。最近几个月，本杰明还在联合国消除种族歧视委员会(United Nations Committee on the Elimination of Racial Discrimination)、全国有色人种协进会(NAACP)法律辩护和教育基金(Legal Defense and Education Fund)以及在肯尼亚、埃塞俄比亚、荷兰和英国举行的国际技术会议上发表了演讲。
她说:“我没有静悄悄地休假，坐下来开始一个新项目，而是一直在学习人们如何投入工作，如何应用工作，这些对话真的很有成效。”“这就是我对这本书的期望，希望它能成为一个煽动者，引发新的对话。”
这样做的一个结果是重新思考和重新安排数据的使用，以实现正义。
她最近宣布了一个与COVID-19相关的项目，该项目在历史和社会学框架内跟踪、综合和定位关于大流行种族层面的数据。本杰明获得了资助，雇佣了一组学生研究人员，在她在普林斯顿创建的JUST数据实验室创建了一个“流行病门户”。该门户网站将阐明贫困、种族主义和殖民主义等现有社会条件如何决定2019冠状病毒病的结果。
今年早些时候，本杰明在普林斯顿地区多次露面，在普林斯顿艺术委员会(Princeton Arts Council)的年度马丁·路德·金纪念日(Martin Luther King Jr. Day celebration)上发表了主题演讲，并在普林斯顿等离子体物理实验室(Princeton Plasma Physics ‘ s Laboratory ‘ s Science on Saturday)的节目上发表了演讲。
公共政策和公共宣传办公室主任、新泽西州第16区议会代表安德鲁·兹威克说，本杰明的演讲受到了热烈欢迎。
兹威克说:“本杰明教授的研究表明，这个问题的根源比大多数人一开始想的要深得多。”“这更微妙，也更关键。不仅仅是这些明显的偏见。”
兹威克邀请本杰明在州议会的科学、创新和技术委员会上作证，他是该委员会的主席。该委员会最近举行了首次面部识别听证会，同时也在调查个人数据的使用和货币化。
“我们有责任不断地质疑我们如何使用自动化及其对人们的影响，”兹威克说。
洛杉矶中南部协同量子学院高中(Synergy Quantum Academy High School)的课程协调员肯尼斯·罗杰斯(Kenneth Rodgers)邀请本杰明在他的大学先修课程比较政治学(Advanced Placement Comparative Politics)课上给高年级学生做演讲。当这一天到来的时候，学校的大约100名学生和工作人员挤满了学校的图书馆，听她的视频通话。
Rodgers说，这所学校的许多学生都对从事工程和计算机方面的工作感兴趣。他说:“她的演讲和工作深入挖掘了所有潜在的偏见，这些偏见让他们在做之前从未考虑过的事情时停下来。”“我认为这为他们的职业选择和未来职业可能带来的责任增加了一定的严肃性。”
其他对人文学科感兴趣的学生学习了一些课程，这些课程可能会应用到最终的法律和政治职业中，所有这些都带走了一些令人大开眼界的事实，即科技偏见如何影响他们的日常生活。Rodgers说:“无论是跟踪移动数据、存储数据还是出售社交媒体网站上可能收集到的数据，他们都对此非常感兴趣。”
本杰明通过个人和网络联系了她的国内和国际读者。图:2019年10月，洛杉矶中南部的Synergy Quantum学院高中的学生和工作人员挤满了学校的图书馆，与本杰明一起参加一个视频会议，了解她关于技术偏见的发现可能会如何影响他们的日常生活。
诺贝斯·弗林特(Nourbese Flint)是洛杉矶黑人女性健康组织(Black Women for Wellness)生殖公正项目的政策总监和经理。在寻找能够对生殖公正的未来提供深刻见解的专家时，他第一次接触了本杰明的工作。自那以后，本杰明已经多次对该组织发表讲话。
弗林特说:“考虑到种族、阶级、性别以及其他各种主义目前和未来的影响，我们的工作对于解决影响黑人妇女和女孩的系统性和制度性压迫至关重要。”“Ruha的工作需要一个关键看如何使用技术作为一种工具都扩大压迫以及缓解历史性的障碍,和这样做的方式不离开技术作为一个良性的乐器,只留给用户的兴致,但积极的东西需要研究和探索。”
对此，本杰明表示，“科技后的赛跑”实现了她的期望。
“这本书不是结论性的，因为它不是思考创新与不平等之间关系的唯一方式，”她说。“我的目标是提出问题，提供概念、工具包和镜头来思考各种技术和领域。”
今年秋天，本杰明将在她的普林斯顿大学课堂上分享其中的许多概念，标题为“黑镜:种族、技术和正义”(Black Mirror: Race, Technology and Justice)。该课程利用电视节目《黑镜》(Black Mirror)作为讨论的起点，对技术的发展趋势进行了推测。
本杰明说，作为课程的一部分，她将让学生完成实际操作的项目，设计出不会加剧现状或不平等的技术。
她还希望借助这本书的势头来吸引新的读者，特别是通过与那些可以通过其他方式提高知名度的艺术家合作。她说:“我们还可以利用其他媒体来创造性地利用这些创意。”
本杰明说，她将继续与所有愿意倾听的团体进行交流。“我把这看作是我的教学在课堂之外的延伸，与人、观众和社区进行接触。这是非常值得的。”
新闻旨在传播有益信息，英文原版地址：https://www.princeton.edu/news/2020/05/15/benjamins-race-after-technology-speaks-growing-concern-among-many-tech-bias