分类
斯坦福大学新闻

在Drell的演讲中,演讲者呼吁道德和人道主义作为军队扩大自主武器

随着世界各地的军队竞相建造自动化程度越来越高的机器人系统,有关人类如何应对这些强大技术的难题也随之而来。

美国陆军前突击队员、五角大楼(Pentagon)官员保罗•沙雷(Paul Scharre)周二在斯坦福大学(Stanford)表示,随着军队将军械库扩大到包括自主武器系统和人工智能武装机器人,人类必须应对一些棘手的问题,这些强大的技术对未来战争意味着什么。

Paul Scharre on the Cemex stage

前陆军突击队员、五角大楼官员保罗·沙雷(Paul Scharre)在周二的Drell年度演讲上讨论了自主武器的伦理和战争的未来。(图片来源:洛杉矶·西塞罗)

”作为我们推进这项技术,挑战不仅对美国,对他人是要找出如何使用它在更精确的和人道的方式而不是失去我们人类在这个过程中,“说Scharre度瑞尔在一年一度的讲座,一个事件由斯坦福大学国际安全与合作中心(CISAC)解决当前和重要国家或国际安全问题。

“我们看到战争发展的方法之一是人们被从战场的边缘——不仅身体而且认知——随着越来越多的决定是由这些系统操作机器速度,“Scharre说,世卫组织目前正在高级研究员和技术和国家安全项目主任新美国安全中心,一个无党派国防和国家安全总部设在华盛顿的智库,“对于机器为我们做出生死抉择,我们感觉有多舒服?””他问道。

战争的规则

沙雷回忆了他作为美国陆军第三突击营特种作战侦察队队长的经历。他在伊拉克和阿富汗完成了多次访问。

他讲述了一次被派往阿富汗和巴基斯坦边境寻找塔利班武装分子的任务。在那里,他的团队发现了一个小女孩——可能只有五六岁——和一群山羊在他们的位置上盘旋。他们很快意识到这些动物是一个诡计,而这个孩子实际上是在通过无线电向塔利班官员报告他们的位置。战争规则会把她列为敌方战斗人员,这样沙雷的团队就可以开枪了。

但是对于沙雷和他的团队来说,射杀孩子并不是一个选择;他说,这样做是错误的。但如果一个人工智能机器人取代了沙雷的位置,他相信结果会有所不同。他说,如果机器人的程序符合战争规则,这个小女孩就会遭到枪击。

沙雷说,这就提出了一个问题:“你如何设计一个机器人,让它知道什么是合法的,什么是正确的?你怎么开始提前写下这些规则呢?如果你没有一个人在那里,来解释这些,把一整套的人类价值观带到这些决定中去,那会怎么样?”

“自动武器和M16步枪一样,都不是法律代理人。”

保罗Scharre

新美国安全中心高级研究员

在沙雷发表上述言论之后,Facebook产品政策研究主管拉达•普拉姆布(Radha Plumb)和斯坦福大学政治学家、弗里曼•斯普利国际问题研究所(FSI)高级研究员杰里米•温斯坦(Jeremy Weinstein)继续就自主武器的伦理和战争的未来进行了讨论。

他们的讨论对制定有关部署这些新武器的政策提出了一些法律挑战。

”是一个重要的人类和机器之间的不对称战争的规则,即人类是合法的代理和机器并不是“Scharre说,曾在办公室从2008年到2013年的国防部长,他领导工作小组,起草了指令建立国防部在武器系统的自治政策。“自动武器和M16步枪一样,都不是法律代理人。人类必须遵守战争的规则,人类必须遵守这些规则。”

但是对于人类应该在多大程度上参与这些决定,以确保他们的行为具有法律约束力,尚没有明确的共识,Scharre说。虽然Scharre承认有一个“共识”分解,人类在某种程度上应参与这些决定当部署这些技术——一些国家说必须有“有意义的人类控制”和国防部要求“适当的人类的判断”——没有工作在实践中对这些术语的定义。

“但在某种程度上,这确实意味着人类应该参与这些决策,”沙雷说。“这是我们所有人都需要做出的一个重要决定,不仅是在这个领域工作的军事专家或技术专家,还有法律和伦理专家,他们试图理解人类的参与是什么,以及未来应该是什么样子。”

一个跨学科的谈话

沙雷说,不仅是军事空间需要考虑人类应该如何使用技术来取代或增强人类的决策能力。他强调这是一场跨学科的对话:“我们不仅需要技术专家,还需要律师、伦理学家和社会科学家、社会学家参与其中。”

CISAC联合主任、Steven C. Hazy高级研究员科林·卡尔(Colin Kahl)发表了结论性讲话。他指出,大学的首要任务之一是确保学生具备必要的分析和伦理工具,以全面考虑当前和未来技术的影响。他说,在这一努力中,CISAC与斯坦福大学(Stanford)以人为中心的人工智能研究所(Institute for human center Artificial Intelligence)建立了一项新的合作关系,重点是“确保随着这些工具的发展,与人工智能相关的社会、经济和伦理问题成为首要和中心”。

德雷尔讲座以已故理论物理学家、军备控制专家西德尼·德雷尔(Sidney Drell)的名字命名。德雷尔是CISAC的联合创始人之一,曾任SLAC国家加速器实验室(SLAC National Accelerator Laboratory)副主任。

新闻旨在传播有益信息,英文原版地址:https://news.stanford.edu/2019/05/01/ethics-autonomous-weapons/