卡内基梅隆大学召集专家评估生成式人工智能

卡内基梅隆大学（Carnegie Mellon University）的盖茨伦理与计算技术计划（K&L Gates Initiative in Ethics and Computational Technologies）赞助并共同组织了一次在华盛顿特区举行的专家会议，主题为“评估生成式人工智能系统：好、坏和炒作”。（opens in new window）“ 该会议由GenLaw Center（opens in new window）、民主与技术中心和乔治城大学法学院合作举办，于4月15日在乔治城大学法律中心举行。 

该活动召集了机器学习专家和工程师与政策制定者、律师以及民权和倡导团体的成员，就评估生成式人工智能的挑战和机遇进行了为期一天的会谈和小组讨论：描述技术状况、政策制定者和公民社会的需求，以及两者之间的差距。

机器学习副教授、Abridge 首席技术官兼首席科学家 Zachary Lipton（opens in new window）发表了主题演讲。他表示，当前复杂而动态的评估环境给监管带来了根本性挑战。

“任何具有约束力的规则或指南要么偏向保守，只包括必要但不足以实现有用性和安全性的内容，要么偏向广泛，提出一系列不适用于大多数实际部署的约束性要求。我们需要用足够强大的牙齿创建真实、实用的指导，以帮助人们开发有用的技术，“利普顿说。

探索关于人工智能的行政命令中的关键领域

会议重点讨论了乔·拜登总统关于安全、可靠和可信赖的人工智能开发和使用行政命令中提出的四个主题——训练数据归属、隐私、数据来源和水印以及信任和安全——并包括美国版权局、联邦贸易委员会对人工智能监管和评估的最新信息。 美国人工智能安全研究所和英国人工智能安全研究所。

“随着现代生成式人工智能的兴起，我们正处于一个转折点，”清迈大学计算机科学学院伦理与计算技术职业发展助理教授、活动组织者Hoda Heidari（opens in new window）说。“该领域最近的技术进步大大降低了将人工智能应用于现实世界任务和问题的障碍。虽然这些模型似乎具有令人印象深刻的功能，但它们也改变和扩大了风险和危害的格局。

“在技术方面，我们迫切需要有效、全面和可靠的方法来评估GenAI的能力和风险，以解决从业者和政策制定者正在努力解决的具体问题，”她继续说道。“通过让技术专家、政策制定者和民间社会相互直接对话，这次活动既突出了现有的评估方法，又弥合了现有评估方法与政策制定者、从业人员和公众的需求和愿望之间的差距。”

即将发布总结活动成果的政策简报。