人工智能与民主：耶鲁会议激发协作与创新

如果说人工智能（AI）的前景和风险涉及通过超人获取知识和处理能力来取代平凡而困难的人类任务，那么耶鲁大学关于如何利用这种不断发展的技术进行监管和治理的会议则采用了低技术含量的人类互动。

在为期两天的活动中，参与者有时会围成一圈椅子聊天，在画架上张贴便利贴，并沿着一条线站成一排，代表他们对有关人工智能重塑我们世界的潜力的各种声明的相对支持。

例如，同意或不同意：“民主人工智能与资本主义不相容。“人工智能应该平等地代表所有世界社会。”“不可能有一套通用的价值观来管理人工智能系统。“人工智能将取代政客。”

没有一个声明得到一致支持，大多数煽动参与者分散在房间的长度上，那些处于极端和中间的人分享了他们相互矛盾的观点。激烈的辩论、对话和合作在休息和用餐时不停地继续进行。

“这是一次非常鼓舞人心和有用的会议，”ChatGPT 创建者 OpenAI 的产品经理 Teddy Lee 说，该团队开发流程和平台，使民主输入能够引导 AI。“在这样一个建设性的环境中，技术人员和致力于改善民主的人们共处一室，这还不够。

由社会与政策研究所（ISPS）主办的“治理（与）人工智能”会议与治理公民大会的会议重叠，后者是ISPS教员HélèneLandemore新推出的“治理X”系列的一部分。兰德莫尔是政治学教授，他帮助领导ISPS的民主创新计划，该计划旨在识别和测试提高民主代表和治理质量的新想法。“治理（与）人工智能”会议由施密特科学的AI-2050计划资助。

“Hélène的工作和这次会议展示了促进来自不同背景的有关和知识渊博的个人之间互动的价值，”ISPS主任兼Sterling政治学教授Alan Gerber说。“人工智能将塑造我们的未来，包括我们如何管理自己，这一点每天都变得越来越清晰。ISP，当然还有Hélène，都致力于帮助促进对人工智能及其应用的理解，以便它能够安全、周到地融入我们的社会和机构。

艾伦·冈恩（Allen Gunn）是总部位于加利福尼亚的非营利组织Aspiration的主持人，他领导了会议的活动。Gunn 以友好、乐观的态度鼓励尊重、倾听、自我意识，让每个人都有机会参与对话，并为具有不同背景和专业领域的人使用无障碍语言。为了促进合作，名牌只显示名字，没有头衔或隶属关系。

“我们今天不会解决任何问题，但我们可以进行设计 – 我们可以制定计划计划，”冈恩在介绍第二天上午的会议时说。“我们可以明确我们可以共同完成的工作。

兰德莫尔鼓励与会者在未来六到八个月内重新召开会议，并可能在 2025 年春季再次召开后续会议。在回顾本周的互动时，她对每个人都如何接受这种形式以最好地分享想法和建立合作表示非常满意。

“希望如果我们赋予人们权力，他们会提出自己的想法并找到彼此，”兰德莫尔说。“如果我试着把它微观管理到生活中，我认为我们不会接近。

除了 OpenAI 的代表外，与会者还包括来自谷歌、人工智能公司 Anthropic 和 Facebook 母公司 Meta 的领导人。学术与会者包括政治学、社会学、经济学、通信学、工程学、计算机科学、数据科学、法律和伦理学方面的专家。主题包括使用人工智能来综合集体意志的潜力、人工智能在民主中的对抗性使用、人工智能在公民大会中的用例映射、全球人工智能监管的不足，以及围绕谁拥有和控制人工智能数据的问题。

与会者对会议的谦逊和建设性的好奇心、开放性和共同的诚意，以及该小组的多样性如何培养创造力和对孤立思维的挑战表示赞赏。

“我最初不确定为会议提出的互动方法，”道德和法律哲学家约翰·塔西乌拉斯（John Tasioulas）说，他是牛津大学人工智能伦理研究所的首任主任，与兰德莫尔合作开展了一个为期三年的项目，探索由施密特科学奖资助的人工智能伦理。“但这完全符合项目的基本理念，看到这种真正富有成效的讨论真是太了不起了。你如何让这么多人建设性地参与进来？我认为这是实现这一目标的大师班。

Tasioulas 表示，他对 OpenAI 和 Anthropic 代表的接受程度感到特别满意。

“他们愿意考虑如何使他们的决策过程更符合民主价值观和人权的想法，”他说。“愿意质疑他们可能不加批判地做出的一些假设。所以，对我来说，这真是让我大开眼界。太棒了。

马哈茂德·法鲁克（Mahmud Farooque）是科学、政策和成果联盟的副主任，也是亚利桑那州立大学社会创新未来学院的临床教授，他也表示，他喜欢会议的互动结构，他认为这比典型的一系列学术演讲和小组讨论更快地促进了更深入的对话。

法鲁克说：“像这样的集会可以就我们在民主、安全和人类生存方面面临的这些问题找到一些艰难的答案。“你知道，当你谈论这些话题时，你可以随心所欲地夸张。

耶鲁大学97届毕业生、谷歌隐私、安全和安保工程副总裁罗亚尔·汉森（Royal Hansen）主持了一场关于在民主进程中使用人工智能的隐私和安全问题的会议讨论。

“我喜欢看看任何有机会使用双重用途的地方，”汉森谈到任何新技术工具时说。“我认为，对于将要发生的每一件好事，都有一个相等和相反的坏事。”

Hansen称赞这次会议加强了学术研究与科技公司之间的联系，以从广阔的角度参与细致入微的解决方案，增强了他对克服人工智能所代表的挑战的乐观态度。

“我认为我喜欢这个团体的关键是，我们不认为这是一个不人道的问题，”汉森说。“但事实上，这是人类需要解决的另一种形式的人类问题。只要我们以这种方式对待它——而不是从外部发生在我们身上的事情——我们就应该充满希望。

行为洞察团队的高级顾问米歇尔·迪马蒂诺 （Michelle DiMartino） 表示，她希望她能将会议的想法应用到她与 Meta 社区论坛上的公司治理工作中。

她说：“我想找出方法，在我们一直在试验的过程的不同部分更有效地使用人工智能，并使其更具可扩展性和适应性。“我希望回到我的公司，了解人工智能的现状。我听说过人工智能有哪些不同的社会目的创新，以及我们应该考虑的一些风险，以使沟通更有效和更具可操作性？

华盛顿大学以人为本的设计与工程系三年级博士生凯文·冯（Kevin Feng）发现，与技术背景以外的人打交道令人耳目一新，尤其是那些参与政府工作的人。

“我们不会定期与这些人交谈，”他说。“能够跨越这些界限进行沟通，看看我们有什么共同的目标，以及如何结合我们的专业知识和他们的专业知识来解决这些集体目标，这真的很有见地。”

冯还发现，这些对话作为一种沟通练习很有成效。

“我认为这真的挑战了我，以一种更容易理解的方式解释我的工作，我认为这将非常重要，因为我将要构建和部署的技术可能会用于民主和审议环境，”他说。

哈佛大学Lewis P. and Linda L. Geyser大学教授奥利弗·哈特（Oliver Hart）分享了2016年瑞典央行经济科学奖，以纪念阿尔弗雷德·诺贝尔（Alfred Nobel）。他参加这次会议更多的是因为它与之前的公民大会会议有重叠，他想知道这种审议结构如何适用于促进公司的股东民主。

但他在讨论人工智能时发现了一些意想不到的见解。

“我通常与经济学家和律师交谈，”哈特说。“我发现在我感兴趣的问题上获得其他观点很有价值。事实证明，人工智能可能有助于向人们提供各种信息，也可以进行汇总和总结。

OpenAI 产品经理泰迪·李 （Teddy Lee） 旨在利用他在耶鲁大学建立的人脉，在公司内部充当与民主实践和理论相关的问题的渠道。

“我认为最有价值的收获可能是我在这里建立的联系，”他说。“随着我们继续探索民主治理，很高兴知道我们有这个由民主专家和从业者组成的网络，可以与之合作并听取他们的意见。”

马克·戈顿（Mark Gorton）是Tower Research Capital的创始人，也是更安全街道倡议的主要倡导者，他支持民主创新计划，并在会议中发挥了积极作用。

“我离开这里时，对世界和民主的未来更加乐观，”他说。“这是一个难题。这项技术发展如此之快。但令人欣慰和兴奋的是，有这么多伟大的人正在认真地努力让世界变得更美好。

兰德莫尔对她邀请到纽黑文的人们有着远大的抱负。她希望为更加民主和合法的全球机构铺平道路。

“总得有人去做，”她说。“这还不如从本周来的才华横溢、真诚的人开始。我认为他们会回到家乡，开始播下种子，随着时间的推移，这些种子会长大。

至于一个时代或超人计算机的自治的未来？兰德莫尔押注于人类的聪明才智和价值观。

“我相信思想的力量胜过利益的力量，”她说。

阅读有关公民大会管理会议的信息

接收ISPS通讯或有关ISPS活动的其他公告

在这里订阅