马克斯•韦斯(Max Weiss)的《20》从未打算黑掉政府。他在自己撰写的一篇新论文中概述了这一发现的过程。
韦斯是辛辛那提的一名政府工作人员,去年夏天,他一直在为州的扩张和医疗补助计划辩护,这是一个结合了他对公共政策和医疗保健的兴趣的项目。在研究各种倡导团体对即将通过的立法施加影响的方式时,他了解到这些团体认为联邦政府的评论期是多么宝贵。在评论期,公众成员被邀请通过在线表格对新的或即将通过的立法发表意见。他意识到,使用自动回复的电脑程序——机器人来操纵结果是多么容易,它们会在网站上充斥着支持或反对任何提议的虚假回复。
21岁的他在最近的一篇科技文章中详细介绍了他的发现,“向联邦公共评论网站提交的Deepfake机器人与人类提交的机器人无法区分。”
“我们花了很多时间和精力从选民那里得到高质量的评论,”Weiss说。“我想确保这些联邦机构了解他们政策的潜在后果,于是我想到,我可以使用一个机器人,提交大量虚假评论。”
他停顿了一下,意识到腐败的过程是令人担忧的:“这将不利于民主。”
但莱弗里特屋的居民无法动摇这个想法,他开始研究这样一个方案的可行性。原来提交是很容易自动化的。联邦机构有一定的余地对明显重复或不相关的评论予以折扣。但是典型的针对攻击的技术防御,包括验证码、异常检测和外部验证——所有这些都集成到从银行到电子邮件登录的在线活动中——几乎没有。
他说:“大多数网站都有一个文本框,供公众评论,然后有一个提交按钮。”
在撰写《科技科学》(Tech Science)论文的过程中,韦斯意识到,网络安全专家多年来一直在联邦网站的漏洞上拉响警报,但之前的违规行为使用的是相对简单的替代方法。“在2017年,有2200万条关于FCC废除网络中立性提案的评论,”他回忆道。“调查发现,其中96%是重复宣传活动的一部分。”
Weiss使用人工智能方法生成了大量关于医疗补助豁免的独特的深度假评论。然后,他写了一个程序,自动化了提交过程,并在宿舍的笔记本电脑上运行了几天。他提交了超过1000条虚假评论,占提交总数的55%,被调查对象发现这些评论与人类评论没有区别。之后,他通知联邦医疗保险和医疗补助服务中心,哪些评论是他的演示的一部分,以防止他们干扰真实的公众评论评估。
更可怕的是,韦斯承认,他既不是专业的程序员,也没有特殊的设备,但他还是成功了。“在过去的四年里,我通过一系列的个人项目和暑期工作,以及一节课的学习,已经学会了编程,”韦斯说。“我认为这项研究的一个非常重要的发现是,像我这样的编程新手能够通过破解政府来破解谷歌。
相关的
当美国人投票时,黑客会突袭吗?
“我们知道”俄罗斯黑客入侵选举
“我一直对公共政策很感兴趣,”韦斯说,他也喜欢写作和表演喜剧。“我的大多数政府在卫生政策研究或技术政策或公共利益的技术,这是一种合成的很多不同的事情,我学会了在政府部门和一些个人科技项目,我在过去所做的那样。”
“马克斯做了开创性的工作,到底什么样的real-world-impact工作我们鼓励我们的学生做“技术科学类、Latanya Sweeney说,政府和技术在住宅教授和数据隐私实验室主任量化社会科学研究所担任主编的技术科学。
她补充说:“多亏了马克斯的工作,联邦政府内部的几个组织现在正在积极做出改变,以应对这类漏洞。”
新闻旨在传播有益信息,英文原版地址:https://news.harvard.edu/gazette/story/2020/02/why-an-undergrad-flooded-government-websites-with-bot-comments/