人工智能（AI）不是政府的未来。在许多方面，它现在正在发生。
政府官员越来越多地使用人工智能和数据驱动的算法来影响关键选择，从确定食品援助和假释决定的分配到选择税务审计目标和规划警察巡逻路线。
“随着人工智能算法变得越来越强大和有影响力，我们也意识到我们正面临着一个重大变化，它触及了使我们成为民主国家的核心，即我们做出公共决策的方式，”哥伦比亚大学博士后研究员、耶鲁大学社会与政策研究所民主创新项目的非常驻研究员Shir Raviv说。“它提出了一些紧迫而及时的问题，即如何释放使用人工智能改善政府决策和处理的潜在价值，同时维护民主价值观和人权。”
Raviv上周在ISPS组织了一次为期一天的会议，探讨政府如何使用技术来指导决策的最新研究，以及可以采取哪些措施来确保负责任地使用技术。
“我觉得我们应该谨慎对待我们所走的道路，并尝试在人工智能统治我们之前管理它，”拉维夫说。“这次会议试图打破围绕人工智能的炒作——极端或两极分化的叙述。并更仔细地了解当地实际发生的事情。
会议包括加州大学伯克利分校的柯克·班萨克（Kirk Bansak）关于难民融合的演讲;纽约州立大学奥尔巴尼分校的弗吉尼亚·尤班克斯（Virginia Eubanks）关于自动化护理;普渡大学的凯琳·杰克逊·希夫（Kaylyn Jackson Schiff）探讨了公民对警务中人工智能的看法。
进一步的讨论集中在刑事司法系统中的人工智能，引入了评估人工智能风险和收益的新框架，包括哈佛大学的Melody Huang关于人工智能是否有助于人类做出更好决策的演讲;哈佛大学的达莎·普鲁斯（Dasha Pruss）就累犯风险评估工具的司法抵制;加州大学圣地亚哥分校（University of California， San Diego）的Eddie Yang就中国人工智能辅助刑事判决中的种族歧视发表演讲。
其他演讲讨论了在政府中使用人工智能所涉及的政治。雪城大学的张宝宝分享了机器学习和人工智能研究人员关于人工智能伦理和治理的调查证据。普渡大学的丹尼尔·希夫（Daniel Schiff）专注于政策制定者和立法者的观点。拉维夫研究了公众对人工智能的反应。
ISPS主任、Sterling政治学教授Alan Gerber主持了一场跨学科圆桌讨论会，讨论确保政府中负责任的人工智能的前景和挑战，ISPS教员和民主创新联合协调员HélèneLandemore是一位专门研究非选举形式的政府代表的政治学家，他正在共同领导一个为期三年的人工智能伦理项目;耶鲁大学政治学博士候选人伊丽莎·奥克（Eliza Oak），研究技术和民主方面的创新;哥伦比亚大学的 Savannah Thais，一位开发负责任和值得信赖的机器学习的物理学家;布朗大学（Brown University）的计算机科学和数据科学教授苏雷什·文卡塔苏布拉马尼安（Suresh Venkatasubramanian）是《人工智能权利法案蓝图》的合著者，这是拜登-哈里斯政府为监管人工智能而采取的首批重大行动之一。
“我们很高兴 Shir 成为我们 ISPS 社区的活跃成员，”Gerber 说。“她的前瞻性研究和成功聚集了如此令人印象深刻的学者群体来探索新技术的政治影响，证明了我们民主创新计划的指导原则。
民主创新旨在识别和测试提高民主代表和治理质量的新想法。
尤班克斯讨论了她的著作《自动化不平等：高科技工具如何描述、监管和惩罚穷人》中强调的主题，包括国家如何因为技术错误或算法评估他们符合不正确的统计资料而拒绝向人们提供社会福利。
“尽管这些系统承诺降低项目的行政障碍，使人们能够从手机或舒适的家中获得福利，但实际上，这些系统往往对那些 最 不脆弱的人最有效。
尤班克斯说，由于新的自动化决策减少了对一线个案工作者的需求，因此获得他们所寻求的支持的人越来越少。
“这些系统最终对那些特别脆弱的人来说非常糟糕，”她说。“动手帮助较少。这些人正是公共福利计划应该帮助的人。
伯克曼·克莱因互联网与社会中心（Berkman Klein Center for Internet & Society）研究员、哈佛大学嵌入式EthiCS博士后研究员普鲁斯（Pruss）介绍了她的研究，显示宾夕法尼亚州的刑事法官忽视了一种旨在通过循证风险评估帮助量刑决定的新工具。她认为，政策制定者在面对一种标榜为基于证据的新工具时应该保持警惕。
“在基于证据的量刑中，’基于证据’一词具有很大的政治权威性，但这个标签被以一种相当误导的方式使用，因为量刑决定是基于过去的逮捕或定罪数据，这些数据本质上是有偏见的，”普鲁斯说。“这被称为基于证据，但没有证据表明当这些工具在实地实施时，未来会发生什么。
但普鲁斯并没有否定人工智能或算法在帮助建立一个更公正的世界方面的效用。她说，政策制定者应该根据他们寻求维护的人类价值观来制定刑事司法技术工具的意图。
“哪些结果被认为是重要的预测？”她说。“有人有重新定罪的风险吗？或者，预测哪些法官将做出最具歧视性的决定更重要？我们应该使用数据来监禁更多犯罪风险较高的人，还是使用证据将额外资源分配给真正需要它的人？
在结束她的演讲时，尤班克斯回应了会议的其他与会者，她认为这是一个迅速转向自动化的社会所面临的核心问题。
“我们需要以人类尊严为中心，”她说。“我们需要让爱的劳动可见。”
接收ISPS通讯或有关ISPS活动的其他公告
在这里订阅
新闻旨在传播有益信息，英文版原文来自https://isps.yale.edu/news/blog/2024/04/from-tech-tools-to-human-values-isps-conference-explores-the-impact-of-ai-in