分类
康奈尔大学新闻

Autopen揭示了通信自动化的危险

早在人们担心 ChatGPT 对个人交流和社会规范的影响之前,就有 autopen 及其前身——自动签名机——一些人担心它们会被滥用于伪造签名和签署战争宣言和其他法案。

在一项新的分析中,康奈尔大学的研究人员研究了三个自动开放的争议,看看它们揭示了什么时候可以 – 和不可以 – 自动化通信。他们发现,虽然自动开放使沟通更快,但它的使用灌输了不信任并降低了签名项目的感知价值。他们与当前对ChatGPT的焦虑相提并论,ChatGPT的使用可能导致类似的结果。

“这些工具在提高某些类型的通信效率方面非常有用和有效,”但上下文很重要,信息科学领域的博士生、这项新研究的第一作者Pegah Moradi说。“当你发现这些东西是由自动笔签名时,感觉就像你被欺骗了一样。”

她的研究论文《’A Fountain Pen Come to Life’: The Anxieties of the Autopen》于1月1日发表在《国际传播杂志》(International Journal of Communication)上。康奈尔大学安·鲍尔斯计算与信息科学学院信息科学副教授、法学院副教授凯伦·利维(Karen Levy)是该研究的资深作者。

虽然美国政府经常使用自动签名来签署合同、信件和备忘录,但当名人偷偷使用它来签名时,可能会爆发争议。

例如,在 2022 年,鲍勃·迪伦 (Bob Dylan) 以 599 美元的价格出版了一本签名散文集,并附有一封信,上面写着“你手里拿着的书是鲍勃·迪伦亲笔签名的”。它实际上是在迪伦患有眩晕症时由一名自闭症患者签名的。当眼尖的粉丝发现复制的签名并抱怨时,迪伦道歉,出版商提出全额退款。

粉丝们认为,这里使用autopen是一种违规行为,因为签名对象的价值来自Dylan将其短暂握在手中。“它赋予了文物本身的稀有性——当它是复制品签名时,你不会得到这个价值,”莫拉迪说。

在另一起丑闻中,许多人愤怒地得知,2004年,国防部长唐纳德·拉姆斯菲尔德(Donald Rumsfeld)通过自动开放签署了1000多封哀悼信,这些信是有亲人在伊拉克战争中丧生的家庭。 拉姆斯菲尔德的辩护是,这台机器使他能够更迅速地邮寄信件。然而,正如莫拉迪和利维所指出的那样,签署每封信所需的努力恰恰赋予了它们意义。

“在这种情况下,你真正花时间把笔写在纸上是很重要的,”莫拉迪说。“当你用技术规避它时,你就会降低这种价值。

莫拉迪说,这类似于去年密歇根州立大学发生大规模枪击事件后,范德比尔特大学员工使用 ChatGPT 创建一封发给学生的哀悼信时的愤怒。许多学生很生气,因为他们甚至没有花时间写样板信息。

在第三起案件中,名厨戈登·拉姆齐(Gordon Ramsay)试图逃避支付伦敦酒吧租金的责任,声称租赁合同无效,因为他的岳父(也是他的经纪人)用自动笔签了字。然而,他的辩护失败了,因为电子签名是合法的——它们“象征着批准过程”,莫拉迪和利维写道。甚至美国司法部也认为,如果总统的签名是通过自动笔添加的,那么法案就是合法的。

莫拉迪说,对autopen的更多使用和认识导致了对名人签名真实性的更大不信任。在一种被称为“骗子红利”的类似现象中,使用生成式人工智能(AI)传播错误信息和虚假图像导致人们对假货和真品持怀疑态度。

虽然专家们无法预测生成式人工智能将如何改变未来的社会期望,但研究人员建议用户从自动笔中吸取教训,并谨慎选择牺牲真实性来换取效率。

“显然,这些新技术可以做一些我们100年前可能不会想到的事情并释放潜力,”她说。“但是发生的许多变化与整个人类历史上发生的变化非常相似。我们可以从旧技术中收集到很多新的见解。

帕特里夏·沃尔德伦(Patricia Waldron)是康奈尔大学安·鲍尔斯(Cornell Ann S. Bowers)计算与信息科学学院的作家。

新闻旨在传播有益信息,英文版原文来自https://news.cornell.edu/stories/2024/02/autopen-shows-perils-automation-communications