罗伯特·布鲁纳(Robert Brunner)是伊利诺伊大学厄巴纳-香槟分校吉斯商学院(Gies College of Business)负责创新的副院长兼首席颠覆官。布鲁纳与 新闻局商业和法律编辑菲尔·西西奥拉(Phil Ciciora )就拜登政府关于人工智能系统的行政命令进行了交谈。
行政命令将对美国的人工智能发展产生什么影响?
你可能会争辩说,像行政命令这样的东西可能不是解决问题的最佳方法,但它肯定是一种快速做一些事情以引起更多关注的方法。因此,从这个角度来看,这可能是一个净积极因素。
行政命令的问题在于它们不是永久性的。如果新总统在2025年1月就职,那么这项行政命令及其所有政策影响都可能被推翻。更大的问题是,国会是否会采取行动,真正通过一些有意义的立法来规范人工智能。这最终将比任何行政命令更有意义和影响力。
但就政策而言,我认为这是一个不错的开端。行政命令中有一些非常好的东西,特别是防止人工智能伤害边缘化社区的想法。一个很好的例子是,当囚犯获得假释时,司法系统经常使用软件来帮助确定被告将来可能再次犯罪的可能性。事实证明,其中一个突出的累犯算法是对黑人被告有偏见。这只是人工智能可能造成您想要避免的伤害的一个例子。
我也喜欢由 AI 创建的数字水印内容的想法。我不知道这在实践中的效果如何,但我喜欢这样的想法,即我们至少要尝试一下,因为我们需要保护人们免受深度伪造的侵害,尤其是在进入总统选举年。不幸的是,这种错误信息将是一个真正的问题。
与此同时,你不得不怀疑行政命令是否会那么重要,因为人工智能是一种全球现象。如果美国对人工智能实施了过多的监管,那么所有这些发展将不可避免地流向其他地方。美国能监管一家可能开源的外国公司吗?不,它不能。拜登总统必须做点什么。行政命令是正确的吗?我们必须看看它是如何实际实施的,以及其他国家如何监管人工智能。
我们需要联邦层面的人工智能监管机构吗?
这在理论上是个好主意,但我不确定它在实践中如何运作。
人工智能监管机构将拥有哪些权力?好吧,这就是你开始深入了解它的政治的地方。例如,埃隆·马斯克(Elon Musk)宣布,X平台(前身为Twitter)拥有自己的生成式AI系统,称为“Grok”,参考了道格拉斯·亚当斯(Douglas Adams)的《银河系漫游指南》(The Hitchhiker’s Guide to the Galaxy)。Grok 是在 Twitter 数据上训练的,与常规生成式 AI 相比,它的响应速度更快,护栏更少。它还试图变得有趣和讽刺。
但是,如果你在民主党政府的领导下有一个人工智能监管机构,它会试图监管人工智能产生的更保守的言论吗?如果是这样,你刚刚打开了一大堆言论自由问题。目前尚不清楚监管机构的任何挑战是否会在法庭审查中幸存下来。
所以,简而言之,这是一个非常滑的斜坡。
我认为部分问题在于生成式人工智能本身。对于很多人来说,生成式人工智能只是突然出现在现场并进入公众意识。它是如此新颖,如此易于使用——但你使用它的次数越多,你就越意识到它并不像我们最初想象的那样神奇或有创意。这并不是许多人担心的超级智能迫在眉睫。
这就是为什么我认为很多研究人员一直在反对这些规定,并警告说政府可能会越权,弊大于利。
拜登政府似乎在他们的人工智能政策中采取了“上述所有”的方法。这是在人工智能仍处于起步阶段时塑造它的尝试吗?
有很多非常直言不讳的人看着我们在社交媒体上的经历,认为政府在 2000 年代初期没有采取足够的措施来围绕它设置足够的护栏。即使在今天,你也看到了一些针对 Meta 的诉讼,声称它引诱儿童使用 Facebook 和 Instagram。
对于人工智能行政命令,我认为在某些方面,它最好被看作是一个试验气球。拜登政府不只是做一两件基本的事情,而是在尝试许多不同的事情,并试图辨别其中哪一件会奏效。他们中的一些人可能行不通,但至少他们正在了解潜在的保障措施,并希望不会减少创新或在经济上伤害我们。
我希望行政命令能在联邦层面澄清不同组织应该如何围绕这个话题合作,最终我们可以有一些更清晰和全面的东西。
新闻旨在传播有益信息,英文版原文来自https://news.illinois.edu/view/6367/66230072