学生项目使用计算机来确保技术服务于社会

埃琳娜·卢切里尼(Elena Lucherini)在意大利的计算机科学硕士课程中取得了很高的成绩，但她不禁感到有些关键的东西被遗漏了。她说:“你整天都在写代码，不必关心其他任何事情。”“它只是一些书呆子的东西，基本上不关注伦理或政策。”

对卢切里尼来说，为了技术而技术是不够的。她当时正考虑彻底退出这个领域，但一次偶然的机会，她与普林斯顿大学信息技术政策中心(CITP)的计算机科学副教授阿尔温德纳拉亚南(Arvind Narayanan)相遇，彻底改变了她的人生轨迹。卢切里尼说:“阿尔温德告诉我，CITP的重点不仅在于编程和技术，还在于技术对整个社会的影响，以及它对你日常生活的影响。”“这正是我感兴趣的。”

卢切里尼现在是CITP计算机科学的博士研究生，他正在建造一个模拟器，模拟YouTube、亚马逊等网站使用的算法推荐系统。在社交媒体网站上，这类系统被认为会将观众推向极端的政治观点，但它们的技术运作和社会影响却鲜为人知。卢切里尼希望利用她的模拟器更好地了解这些系统对用户的影响，并产生结果，为现实世界的决策提供信息。“我们在CITP所做的一切都是为了产生政策影响或对社会产生影响，”卢切里尼说。“这真的很独特，对我来说，比玩计算机科学有趣多了。”

卢切里尼的研究概括了CITP的使命:深入研究技术和计算如何对社会产生积极和消极影响的复杂问题。“这不是为了让电脑更快、更好、更小，”Narayanan说。相反，他继续说，这个项目的“面包和黄油”主题包括隐私、网络欺骗、言论和表达自由、修改设备的自由以及人工智能政策。CITP的教授和研究员不仅包括计算机科学家，还包括哲学家、社会学家、政治学家、经济学家和心理学家。

普林斯顿大学社会学教授、CITP临时主任马修·萨尔甘尼克(Matthew Salganik)说，CITP的学科混合准确地反映了现实世界的复杂性。

CITP的计算机科学博士候选人本·凯泽(Ben Kaiser)说:“我认为，我们这个领域现在有一个更广泛的认识，那就是仅仅关注技术是不够的。”“现代计算机科学中最具挑战性的问题不能仅靠技术来解决。”

例如，凯撒的研究集中在虚假信息研究的新兴学科:虚假信息如何在网络上传播，人们如何与之互动，以及它如何影响投票、选举参与等。虽然计算机科学家已经取得了长足进步设计干预措施,阻止人们点击疑似恶意电子邮件或垃圾邮件过滤器,例如,网站或网页弹出警告,可能不安全,他们还没有决定如何最好地提醒用户,他们可能会遇到假情报。“我们需要一整套应对虚假信息的方法，而警告将是这套工具的关键部分，”凯撒说。“我的研究是第一次尝试，看看用于其他类型的安全警告的技术是否也适用于虚假信息，以及如何改进它们以使其更有效。”

为了探索这个问题，Kaiser和CITP的硕士研究生Jerry Wei基于内置在谷歌Chrome中的现有警告设计了各种警告。他招募了普林斯顿大学的学生参与一项在线信息检索任务，其中一些学生遇到了警告，另一些则没有。他分析了那些遇到警告的人是否改变了他们的行为，哪些警告效果最好，它们有什么样的影响。“我们从这项研究中认识到的一件事是，单凭点击量并不能充分衡量一个警告是否有效，”Kaiser说。“与直接警告你的银行账户可能被黑的安全警告不同，人们点击虚假信息警告的原因有很多。”

Kaiser现在正在进行一项更大规模的在线研究，使用一种模仿谷歌搜索的网络工具，但为他提供了对内容的完全控制。通过将参与者置于一个模拟的、受控的环境中，他可以更好地研究人们在现实环境中对警告的细微反应。他利用社会科学的一个原理——多臂抢劫犯问题——来测试当警告被巧妙地改变时，人们的反应是如何变化的，比如把停车标志换成三角形，或者把“假新闻”换成“假信息”。该方法衡量的是，当有多种选择可供选择时，比如当一个赌徒试图在老虎机上最大化赢钱时，在有限的资源下做出决策的效率。

Kaiser的工作可能有一天会成为整个网络部署的警告的基础，这反映了该中心的目标，即识别和处理“人们明天将谈论的事情”，正如Salganik所说，并将其发现转化为现实世界的变化。

2014年,例如,Narayanan和他以前的博士生,史蒂文Englehardt,她现在的身份是Mozilla Firefox隐私工程师,和他以前的博士后研究员,枪Acar, OpenWPM发布的一个开源项目,发送一个机器人每个月大约100万个网站,假装是一个真正的用户。该机器人收集有关cookie、指纹脚本和其他人类用户看不到但会影响其隐私的幕后技巧的数据。Narayanan、Englehardt、Acar和他们的同事已经发表了大量关于他们的发现的高引用论文，其他研究人员也发表了50多篇基于OpenWPM的论文。《纽约时报》(The New York Times)和《华盛顿邮报》(The Washington Post)都用这个工具写过调查报道。

“这是CITP不同寻常的工作模式的一个例子，我们把公众利益放在首位，把对学术的评价放在第二位，”Narayanan谈到他在发表关于OpenWPM的研究论文之前发布OpenWPM的决定时说。

影响政策是影响变革的另一种方式。CITP受益于几位曾在政府部门工作过的教员，以及许多在联邦和州一级追求事业的毕业生。Narayanan称:”我们已经了解政府如何运作，以及有哪些手段可以产生政策影响。”

为了更有效地做到这一点，CITP在2019年开设了一个技术政策诊所——这可能是法学院以外的第一个此类项目。“其他地方真的没有这样的地方，”诊所的负责人米希尔?克希萨加尔(Mihir Kshirsagar)说。“我的目标是帮助技术人员理解政策是如何运作的，并为现实世界的政策辩论做出贡献，同时让这些辩论为研究议程提供信息。”

Play video:

Play Video: CITP consumers, society and tech

计算机科学和CITP专业的研究生阿鲁内什•马图尔(Arunesh Mathur)描述了最近的一些发现，即从被审查的产品中赚钱的审查缺乏透明度。

Video by

Aaron Nathans, Office of Engineering Communications

CITP计算机科学专业的研究生阿鲁内什·马图尔(Arunesh Mathur)正在利用政策诊所的资源，更彻底地调查世界各地的组织是如何从事操纵、有时甚至是非法行为的。在一项研究中，他和合作者使用机器学习技术来分析YouTube上那些靠推销产品赚钱的有影响力的人。研究人员发现，实际上只有10%的人披露他们在为一种产品做广告，违反了几项法律。在另一项研究中，Mathur和他的合作者发现了近1200个暗模式实例，即在Facebook、谷歌等大型平台上的接口，这些接口旨在诱使用户做他们通常不会做的事情，比如交出私人信息或购买东西。

普林斯顿大学(Princeton university)的本科生迈克尔·斯瓦特(Michael Swart)于2019年毕业，之后他与研究人员一起开发了一个名为ad的扩展，用于Chrome和火狐(Firefox)网络浏览器，它可以提醒用户注意未识别的广告。

“CITP是一个研究与世界有关的问题的中心，”Mathur说。“我们研究的都是技术性很强的东西，还有社会科学、心理学、政治学和其他学科，这些都能帮助我们理解技术是如何在更广的层面上影响社会的。”