东北专家表示，拜登关于人工智能的行政命令提高了人们对新兴技术的认识，但缺乏产生重大影响的“牙齿”

美国总统乔·拜登（Joe Biden）周一发布了一项全面的行政命令，旨在指导人工智能技术的发展。这是联邦政府首次发出与监管新兴技术直接相关的此类命令。

新指令为许多重点领域提供了标准和指导，包括安全和安保、隐私、公平和公民权利、消费者和工人保护、研究、竞争和创新、海外工作和政府对人工智能的使用。

作为新命令的一部分，根据《国防生产法》，人工智能公司将被要求在发布新人工智能模型之前与联邦政府分享安全测试结果。

此外，美国国家标准与技术研究院（National Institute of Standards and Technology）将创建新的“标准、工具和测试”，供公司使用，同时对其人工智能系统进行漏洞和其他安全问题的压力测试，作为“红队”实践的一部分。

这些标准将由国土安全部执行，作为该命令的一部分，该部正在建立一个人工智能安全和安保委员会。根据该命令，国土安全部还将与能源部合作，“解决人工智能系统对关键基础设施的威胁，以及放射性、核和网络安全风险”。

此外，该命令还建立了一个新的安全计划，由美国卫生与公众服务部运行，旨在“接收涉及人工智能的伤害或不安全医疗保健实践的报告并采取行动进行补救”。

这些只是新指令的几个亮点，拜登政府表示，该指令建立在与15家领先的人工智能公司的对话之上，这些公司自愿承诺“推动人工智能的安全、可靠和值得信赖的发展”。谷歌、Microsoft 和 Open AI 等公司都做出了这一承诺。

东北大学体验式人工智能研究所执行主任乌萨马·法耶兹（Usama Fayyad）在接受《东北全球新闻》采访时谈到了新秩序的利弊。为简洁明了起见，对本次采访进行了编辑：

该顺序涵盖了 AI 开发和部署的许多不同方面。令您印象深刻的订单中有哪些具体操作？

最突出的行动基本上是说，“让我们为人工智能安全和安保提出新的标准。这不是一件坏事。我们不会在第一次尝试时就把它做对，但至少甚至考虑一下，提高人们对它的认识，并挑战这些机构基本上要遵守某种标准和问责制。这是一件非常好的事情。

关于保护美国隐私的部分也非常好，因为它实际上带来了我们何时违法、什么是可以的、什么是不可以的问题。它提出了一个有效的讨论话题，即政府不能不考虑后果就去做。

推进公平和公民权利勾选了这个框，让每个人都意识到这些算法可以用于他们自己的目的。

与促进研究、促进理解和促进可访问性有关的部分也可能是积极的。

您认为该指令的不足之处是什么？

它在实际拼出实际数字方面做得不够。没有什么能阻止白宫说，“我们希望看到至少，我不知道，一些数字——5%、10%、20%——一些专门用于这一领域的资源。这变得非常有意义。例如，你可以很容易地发布一些东西，上面写着“我希望看到这个政府机构或每个政府机构至少花费的 5% 的资源归入这一类别”。

另一个不足的领域是更详细地阐明了每个机构应该如何表明它对指令的反应。至少要有一份清单，上面写着：“以下是我们将衡量你的一些关键绩效指标。

最后一部分是预算。应该有一个部分说，“这里有一些关于应该有多少预算用于这些领域的指导。因为，归根结底，如果你不为此投入预算，你就没有真正做太多事情。我认为这个指令虽然在政治方面是好的，在公众意识方面也是好的，但没有那些真正执行行动的牙齿。它们更像是指导方针。

这项行政命令的执行力如何？

这是一个很好的问题，因为它不清楚。从某种意义上说，政府机构向行政部门报告，行政部门的负责人在白宫。当白宫表示这些是他们希望各机构关注的领域时，他们应该注意这一点。然而，这如何转化为预算，将优先事项重新定向到决策中，这就是橡胶上路的地方。这就是这组指令保持沉默的地方。

我们都知道细节决定成败。你总是可以说你想做这个好事（行为）或那个好事（行为），但如果你不把它转化为预算和计划，并真正为其他领域做出牺牲，那么就很难猜测结果是什么。

这是否追溯适用于已经在野外出现的人工智能技术？

所述范围影响到已经实施、正在开发和将要开发的任何内容。现在，我们能否更多地关注该机构应该做什么，以及他们应该从其他领域投入或放弃多少资源？这就是这里严重缺失的东西。

仅仅说“这个领域非常重要”是不够的。我们不能落后，我们关心的是它以正确的方式发展。同样重要的是，“这是我们实际重新分配预算的方式，或者我们正在创建新项目，我们正在资助新项目。

拜登通过行政命令而不是通过国会制定了所有这些新的人工智能规则，您对此有何看法？

行政命令不会受到伤害。这可能是准备并引起国会注意的必要步骤。当你向联邦机构提出这些问题时，你基本上是在告诉他们，“白宫正在研究这些问题。我们正在关注。我们关心这些方面。我担心的一个问题是，各机构在关心这个问题或不关心这个问题方面存在巨大差异。

这将有助于立法吗？我认为当然是因为当这些机构开始考虑这些事情并强调这些问题时，国会基本上会说，“好吧，现在是时候让我们关注并尝试澄清必须做什么，限制在哪里，应该管理什么，应该监管什么。

切萨雷奥·孔特雷拉斯（Cesareo Contreras）是东北全球新闻记者。给他发电子邮件 [email protected]。在 X/Twitter @cesareo_r 和 Threads @cesareor 上关注他。