随着人工智能的快速发展，以及在每一起引人注目的丑闻之后，人们对数据使用和安全的担忧不断加剧，研究人员、政策制定者和消费者之间的讨论集中在如何确保在我们采用这些系统时保护隐私和自主权等人类价值观。这些讨论推动了以监督委员会的形式为我们日益自动化的世界制定道德准则的努力。
现在，东北大学教授约翰·巴斯尔(John Basl)和罗恩·桑德勒(Ron Sandler)正在为各组织提供指导，指导他们如何基于生物医学研究中使用的类似模型，创建一个设计良好、有效的委员会。
维护一个伦理委员会充分的资源和深思熟虑的设计可以发挥重要作用在降低数字风险和维护一个组织和公众之间的信任,这样一个系统的研究人员提供了一个框架的一份新报告与埃森哲全球专业服务公司合作生产。
“我们不仅认为这是一件好事，”桑德勒说，他是东北大学伦理研究所的哲学教授。“这是摆在公司桌面上的选项之一，政策制定者和监管机构正在考虑如何做到这一点，但问题是，有关如何有效建立委员会的指导少得可怜。”该报告旨在为各组织如何开始设立这些委员会提供一些指导。”
埃森哲实验室(Accenture Labs)负责创新的史蒂文•蒂尔(Steven Tiell)表示:“在与各行各业客户的交谈中，我们始终认为，随着企业实施新技术，这个问题已成为头等大事。”“我们的目标之一，除了提高人们对这一过程中考虑因素的广泛多样性的认识，是为企业如何进行道德监督制定一个深思熟虑的框架，以便在内部和早期提出相关问题和担忧。”
人工智能是否应该得到与动物同样的伦理保护?
read more
在撰写这份报告时，教授们借鉴了医学研究中建立的基于委员会的监督先例，特别是在动物和人类实验和测试领域。现有的委员会模式的范围从法律授权到法律外授权，再到咨询和咨询。其中一些受到高度具体的指导方针和协议的指导，而另一些则存在于不那么严格的法律环境中。
桑德勒说:“我们对这些问题进行研究已经有一段时间了。大约一年前，我们就清楚地认识到，在数据和信息伦理方面，需要某种基于委员会的监督。”“很明显，这方面没有任何好的指导，所以我们想，为什么不把我们从其他环境中学到的东西应用到这个环境中，而不是试图从头开始。”
例如，教授们考虑设立机构审查委员会，该委员会负责监督受联邦政府监管或接受联邦资金的人体研究。教授们说，这些委员会的出现是道德不端的结果，比如塔斯基吉梅毒研究和威洛布鲁克儿童研究。
教授们还考虑了监督胚胎干细胞研究的委员会。与机构审查委员会不同，这些委员会不是联邦授权的;相反，制定干细胞研究指南的责任落在了由美国国家科学院、工程院和医学院选出的专家和利益相关者身上。
这份新报告强调了由不同领域的专家组成的小组的重要性，这些专家负责从伦理的角度分析研究项目，包括个人数据、使用大数据的项目、机器学习和人工智能，以及使用这些技术的产品和服务。
报告鼓励正在建立道德委员会的组织问自己几个基本问题:我们关心的基本价值观是什么?这个委员会在组织里的位置是什么?它将如何运作?它的权限和权力是什么?
桑德勒说:“如果你想建立一个有效运作的委员会，如果你真的想在一个组织内建立道德能力，这是一项重要的任务，你不能只是把几个具有道德专业知识的人聚集在一起。”
Basl补充说:“我们列出了一个组织将需要的专家类型——了解当地法律的人，了解道德规范的人，各种各样的技术专家，以及受影响社区的成员。这些人是谁，或者他们的专长是什么，取决于正在开发和部署的技术类型。”
这些合作者说，一个监督委员会只是一系列干预措施和治理机制中的一个组成部分，应该考虑提高组织内部和他们创造的产品中的道德标准。
埃森哲的Tiell在此基础上说:“在很多情况下，道德转化为文化变革。集成健壮的道德规范通常需要对公司范围内的价值有一个强有力的定义，从这些价值构建特定于上下文的原则，在内部和外部沟通这些价值和原则，并最终将这些价值构建到产品和服务中。至关重要的是，要建立一个强有力的治理和风险管理基础，在降低生存风险的同时，支持道德实践和文化的可伸缩和可再生增长。”
桑德勒说:“这篇论文就是要开始这个过程。“这并不意味着结束。我们不认为我们已经解决了所有的问题。我们试图做的是帮助组织开始提出问题。”
传媒查询，请联络[email protected]。
新闻旨在传播有益信息，英文原版地址：https://news.northeastern.edu/2019/08/29/northeastern-researchers-team-with-accenture-to-offer-a-road-map-for-ethics-oversight-for-artificial-intelligence/