探索人工智能政策中的新兴话题

上个月，公共部门、私营部门和学术界的成员召开了第二届人工智能政策论坛研讨会，探讨人工智能在我们的经济和社会中提出的关键方向和问题。

由AI政策论坛(AIPF)主办的虚拟活动——由麻省理工学院施瓦茨曼计算学院承担，旨在将AI政策的高层原则与治理的实践和权衡联系起来——汇集了一系列杰出的小组成员，深入研究了四个交叉主题:法律、审计、医疗保健和流动性。

去年，几个国家的人工智能监管和政策格局发生了重大变化——最显著的是欧洲的《欧盟人工智能法案》的制定，这是主要监管机构首次尝试提出有关人工智能的法律。在美国，《2020年国家人工智能倡议法案》于2021年1月成为法律，为联邦政府提供了一个协调计划，以加速人工智能研究和应用，促进经济繁荣和安全收益。最后，中国最近推出了几项自己的新规定。

每一项发展都代表了一种不同的人工智能立法方法，但如何制定一项好的人工智能法律?人工智能立法何时应该基于带有惩罚的约束性规则，而不是建立自愿准则?

哈佛大学法学院国际法教授、伯克曼·克莱因互联网与社会中心主任乔纳森·齐特林(Jonathan Zittrain)表示，互联网扩张期间采取的自我监管方法有其局限性，因为公司难以平衡自身利益与行业利益和公众利益。

他说:“一个教训可能是，真正让代议制政府尽早发挥积极作用是个好主意。”“他们只是受到了这样一个事实的挑战，即在这种监管环境中似乎有两个阶段。第一，现在说还太早，第二，现在做什么都太晚了。在人工智能领域，我认为很多人会说我们仍处于‘言之过早’的阶段，但鉴于在为时已晚之前没有中间地带，可能仍需要一些监管。”

由麻省理工学院施瓦茨曼计算学院院长、人工智能政策论坛主席丹·胡滕洛赫尔主持的关于人工智能法律的第一个小组讨论中，一个反复出现的主题是信任的概念。“如果你始终如一地对我说实话，我会说你是个诚实的人。如果人工智能能提供类似的东西，我可以说它是一致的，是相同的，那么我会说它是可信的人工智能，”内罗毕大学创业学教授、肯尼亚信息和通信部前常任秘书比坦格·恩德莫说。

欧洲议会副主席伊娃·凯里(Eva Kaili)补充说:“在欧洲，每当你使用某种东西，比如任何药物，你都知道它已经被检查过了。你知道你可以信任它。你知道控制在那里。我们必须在人工智能领域实现同样的目标。”Kalli进一步强调，建立对人工智能系统的信任不仅会让人们以安全的方式使用更多的应用程序，而且人工智能本身也会受益，因为它将产生更多的数据。

人工智能在各个领域迅速增加的适用性，促使人们需要解决新兴技术带来的机遇和挑战，以及它们对隐私、公平、偏见、透明度和问责制等社会和伦理问题的影响。例如，在医疗保健领域，机器学习的新技术在提高质量和效率方面显示出了巨大的希望，但公平性、数据获取和隐私、安全和可靠性、免疫学和全球卫生监测等问题仍然存在。

麻省理工学院电子工程与计算机科学系和医学工程与科学研究所的助理教授Marzyeh Ghassemi和电子工程与计算机科学副教授David Sontag与加州大学伯克利公共卫生学院卫生政策与管理副教授Ziad Obermeyer合作，组织了AIPF健康广泛覆盖，一系列讨论临床AI中的数据共享和隐私问题的会议。主办方召集了来自世界各地致力于人工智能、政策和卫生领域的专家，目的是了解如何减少获取高质量卫生数据的障碍，在尊重患者隐私的同时推进更创新、更强大和更包容的研究结果。

在这个系列的过程中，小组成员提出了一个专门的话题，并被要求提出具体的政策方法来应对所讨论的挑战。通过这些广泛的对话，与会者在研讨会上公布了他们的发现，包括非营利组织和政府的成功案例和有限的准入模式;上行示威;法律框架、法规和资金;隐私的技术途径;基础设施和数据共享。该小组随后讨论了他们的一些建议，这些建议总结在一份即将发布的报告中。

其中一项发现呼吁有必要为研究提供更多的数据。根据这一发现提出的建议包括:更新法规，促进数据共享，使人们更容易获得安全港，如《健康保险携带与责任法案》(HIPAA)用于去识别，以及扩大对私人卫生机构的资金，以管理数据集，等等。另一项为研究人员消除数据障碍的发现支持了一项建议，即减少对联邦创建的健康数据进行研发的障碍。Ghassemi说:“如果这些数据应该是可访问的，因为它是由一些联邦实体资助的，我们应该轻松地建立步骤，成为获得这些数据的一部分，从而为所有人提供更包容、更公平的研究机会。”该组织还建议仔细研究管理数据共享的道德原则。虽然已经有很多关于这方面的原则提出，但Ghassemi说:“显然你不能一次性满足所有杠杆或按钮，但我们认为这是一个非常重要的权衡，需要明智地思考。”

除了法律和医疗保健，会议还探讨了人工智能政策的其他方面，包括大规模审计和监控人工智能系统，以及人工智能在机动方面所扮演的角色，特别是自动驾驶汽车的技术、业务和政策挑战范围。

人工智能政策论坛研讨会旨在将实践社区聚集在一起，以设计人工智能的下一个篇章为共同目标。麻省理工学院Cadence Designs Systems教授、人工智能政策论坛的共同负责人Aleksander Madry在他的闭幕致辞中强调了协作的重要性，以及不同社区之间相互沟通的必要性，以便在人工智能政策领域真正产生影响。

马德里说:“我们的梦想是，我们所有人——研究人员、产业界、决策者和其他利益相关者——都能聚在一起，真正地相互交谈，理解彼此的关切，并一起思考解决方案。”“这是人工智能政策论坛的使命，也是我们希望实现的。”