Q&A：拒绝如何成为一种设计行为

本月在 ACM Journal on Responsible Computing，麻省理工学院研究生Jonathan Zong SM ’20和康奈尔公民与技术实验室的合著者J. Nathan Matias SM ’13，PhD ’17研究了拒绝的概念如何在数据伦理领域开辟新的途径。在他们的开放获取报告《自下而上的数据拒绝：理解、评估和设想拒绝作为设计的框架》中，两人提出了一个四维框架，以描绘个人如何对技术滥用说“不”。与此同时，研究人员认为，就像设计一样，拒绝是生成性的，并有可能创造替代的未来。

2022-23 年麻省理工学院晨兴设计学院电气工程和计算机科学博士候选人、麻省理工学院可视化小组成员 Zong 在本次问答中描述了他的最新工作。

问： 您如何定义“拒绝”的概念，它从何而来？

一个： 拒绝是在女权主义和土著研究中发展起来的。就是这种说“不”的想法，而没有被允许说“不”。像鲁哈·本杰明（Ruha Benjamin）这样的学者在监视、种族和生物伦理学的背景下写了关于拒绝的文章，并将其作为同意的必要对应物进行讨论。其他人，比如“女权主义数据清单-否”的作者，认为拒绝可以帮助我们致力于建设更美好的未来。

本杰明举例说明了并非每个人都能平等地选择拒绝的案例，并引用了涉及英国遗传数据和难民筛查的例子。在这些情况下，权力的不平衡突出了更广泛的拒绝概念，它超越了拒绝具体选择，延伸到对所提出的整套选择提出质疑。

问： 是什么激发了你把拒绝作为一种设计行为来研究？

一个： 在我关于数据伦理的工作中，我一直在思考如何将流程纳入研究数据收集中，特别是围绕同意和选择退出，重点是个人自主权和让人们选择使用数据的方式。但是，当涉及到数据隐私时，仅仅提供选择是不够的。选择可能不平等，或者造成所有选项都不好的双赢局面。这让我想到了拒绝的概念：质疑数据收集者的权威并挑战他们的合法性。

我作品的核心思想是，拒绝是一种设计行为。我认为拒绝是通过施加某种影响来重新设计我们的社会技术景观的蓄意行动。像设计一样，拒绝是生成性的。与设计一样，它以创造替代可能性和替代未来为导向。设计是一个探索或穿越可能性空间的过程。将设计框架应用于来自学术和新闻来源的拒绝案例，使我能够建立一种共同的语言来谈论拒绝，并想象尚未探索的拒绝。

问： 数据隐私和数据收集的利害关系是什么？

一个： 在美国使用数据进行面部识别监控是我们在论文中使用的一个大例子。当人们做日常事情时，比如在社交媒体上发帖或在公共场所走过摄像头，他们可能会将他们的数据贡献给训练面部识别系统。例如，一家科技公司可能会从社交媒体网站上拍摄照片并建立面部识别功能，然后将其出售给政府。在美国，警察不成比例地使用这些系统来监视有色人种社区。很难应用同意和选择退出这些过程等概念，因为它们会随着时间的推移而发生，并涉及多种机构。目前还不清楚个人选择退出是否会改变整体情况。因此，在个人和社区层面，拒绝成为更广泛地思考受影响的人如何仍然发挥某种声音或代理权的重要途径，而不一定有官方渠道这样做。

问： 为什么你认为这些问题对被剥夺权力的社区的影响更大？

一个： 受技术影响的人并不总是被包括在这些技术的设计过程中。然后，对于那些没有参与早期设计对话的人来说，拒绝成为价值观和优先事项的有意义的表达。针对面部监控等技术采取的行动——无论是与公司的法律斗争、倡导更严格的法规，甚至是禁用安全摄像头等直接行动——可能不符合参与设计过程的传统概念。然而，这些是可能被排除在其他形式参与之外的拒绝者可以采取的行动。

围绕原住民数据主权的运动特别启发了我。原住民信息治理中心（First Nations Information Governance Centre）等组织致力于在数据收集中优先考虑原住民社区的观点，并拒绝加拿大政府在官方健康数据中的代表性不足。我认为这是一场体现拒绝潜力的运动，不仅是拒绝所提供的东西的一种方式，而且也是提出建设性替代方案的一种手段，非常像设计。拒绝不仅仅是一种否定，而是一条通往不同未来的途径。

问： 您能详细说明一下您提出的设计框架吗？

一个： 不同情况和规模的拒绝差异很大。制定拒绝框架是为了帮助人们将看似截然不同的行为视为同一更广泛想法的实例。我们的框架由四个方面组成：自主性、时间、功率和成本。

考虑 IBM 在未经同意的情况下使用人们的照片创建面部识别数据集的情况。我们看到出现了多种形式的拒绝作为回应。IBM 允许个人通过撤回他们的照片来选择退出。人们通过对IBM提起集体诉讼来集体拒绝。大约在同一时间，许多美国城市开始通过地方立法，禁止政府使用面部识别。通过该框架评估这些案例突出了共同点和不同点。该框架强调了自治的各种方法，例如个人选择退出和集体行动。关于时间，选择退出和诉讼是对过去的伤害做出反应，而立法可能会主动防止未来的伤害。功率动态不同;撤回单张照片对IBM的影响微乎其微，而立法可能会带来更长期的变化。至于成本，个人选择退出似乎要求不高，而其他方法需要更多的时间和精力，与潜在的收益相平衡。

该框架有助于在这些维度上进行案例描述和比较。我认为它的生成性也鼓励了对新形式的拒绝的探索。通过确定我们希望在未来的拒绝策略中看到的特征——集体的、主动的、强大的、低成本的……——我们可以渴望塑造未来的方法并改变数据收集者的行为。我们可能并不总是能够将所有这些标准结合起来，但该框架提供了一种在这种情况下阐明我们的理想目标的方法。

问： 你希望这项研究会产生什么影响？

一个： 我希望扩大谁可以参与设计的概念，以及谁的行为被视为设计输入的合法表达。我认为，到目前为止，在围绕数据伦理的对话中，很多工作都优先考虑了试图设计更好系统的计算机科学家的观点，而牺牲了系统目前无法工作的人的观点。因此，我希望设计师和计算机科学家能够将拒绝的概念视为一种合法的设计形式，并成为一种灵感的源泉。一场至关重要的对话正在发生，这场对话应该会影响未来系统的设计，即使通过非常规方式表达。

我想在论文中强调的一件事是，设计超越了软件。从社会技术的角度来看，设计行为包括围绕数据使用的软件、机构、关系和治理结构。我希望那些不是软件工程师的人，比如政策制定者或活动家，将自己视为技术设计过程中不可或缺的一部分。