这个系列共分四部分，利用哈佛社区的专业知识，探讨人工智能和机器学习时代的前景和潜在隐患，以及如何使之人性化。
二十年来，数字时代的繁荣一直伴随着蓝天般的乐观主义，其定义是一种坚定不移的信念，即每一次新的技术进步，无论是更强大的个人电脑、更快的互联网、更智能的手机，还是更个性化的社交媒体，都只会改善我们的生活
但近年来，随着硅谷公司和在线零售商收集和分享people’数据、社交媒体被坏人利用散布虚假信息或散布不和、企业算法使用不透明指标偏袒某些群体等事件的曝光，公众情绪有所减弱。随着人工智能(AI)和机器学习技术悄然开始将人类推到一边，在我们的经济、交通、国防、医疗和个人生活中发挥更大的作用，这些担忧成倍增加。
“在大数据和机器学习的时代，个性……正日益受到围攻，”立托尔哲学和公共行政教授、哈佛大学肯尼迪学院卡尔人权政策中心(Carr Center for Human Rights Policy at Harvard Kennedy School)主任马蒂亚斯•里斯(Mathias Risse)表示。该中心邀请伦理和人工智能领域的私营和非营利部门的学者和领导人与学生交流，作为其日益关注技术如何重塑人权未来的一部分。
构建更深思熟虑的系统
甚至在科技领域才开始响应市场和政府的压力与承诺做得更好,已变得很明显,芭芭拉•格希金斯研究哈佛大学的自然科学教授约翰·a·保尔森工程和应用科学学院(海洋),最可靠的方法得到业界负起更多是准备下一代的技术领导和员工更多的伦理思考他们将从事的工作。其结果就是“嵌入伦理学”，这是一个将计算机科学和哲学学科结合在一起，试图从内部创造变革的开创性新项目。
这一时机似乎是对的，因为人工智能和机器学习的革命性技术已开始侵入越来越广泛的领域和专业。例如，在医学领域，系统有望很快与医生有效合作，提供更好的医疗保健。在商业领域，谷歌、Facebook和亚马逊等科技巨头多年来一直在使用智能技术，但人工智能的使用正在迅速蔓延，全球企业在软件和平台上的支出预计到2024年将达到1100亿美元。
那么在这些问题上我们现在处于什么位置，这意味着什么呢?为了回答这些问题，这个Gazette系列将在哈佛社区专家的帮助下，研究医学和商业中的新兴技术。我们也会看看人文学科如何通过大学的努力，如哈佛大学的人工智能+艺术项目和嵌入式伦理学，来帮助未来协调人类价值和人工智能效率。
2017年春天，格罗兹聘请了塞缪尔h沃尔科特(Samuel H. Wolcott)哲学教授艾莉森西蒙斯(Alison Simmons)，两人共同创立了Embedded EthiCS。其理念是将哲学概念和思维方式编织到现有的计算机科学课程中，这样学生就不会简单地问“我能构建它吗?”而应该问“我应该构建它吗?如果应该，如何构建?”
通过嵌入伦理，学生们学会识别和思考伦理问题，解释他们采取或不采取特定行动的理由，并理想地设计出反映基本人类价值的更深思熟虑的系统。这是全美首个此类项目，并被视为包括麻省理工学院(Massachusetts Institute of Technology)和斯坦福大学(Stanford University)在内的许多其他学院和大学效仿。
近年来，计算机科学已经成为哈佛学院第二大最受欢迎的专业，仅次于经济学。自课程开始以来，大约有2750名学生注册了嵌入式伦理学课程。2019年春季，包括计算机科学系所有课程在内的30余门课程参与了该项目。
“我们不需要所有的课程，我们需要的是让足够多的学生学会在设计过程中使用道德思维，以改变世界，并开始改变计算机技术公司领导人、系统设计师和程序员思考他们所做的事情的方式，”Grosz说。
就在几年前，当格罗兹教授《智能系统:设计与伦理挑战》(Intelligent Systems: Design and Ethical Challenges)时，哈佛大学计算机科学专业的学生们显然想要、也需要更多的东西。当时，只有两门计算机科学课程将伦理纳入了教学大纲，这门课程就是其中之一。
在一场课堂讨论中，学生们对Facebook在2014年进行的一项臭名昭著的实验感到愤怒，该实验通过偷偷修改新闻feed来判断用户的情绪受到了怎样的影响。但就在两天后，在一个学生为一个虚构的服装制造商设计推荐系统的课堂活动中，Grosz问他们需要从假想的顾客那里收集什么信息。
“太令人吃惊了，”她说。“有多少组织谈论了他们所收集信息的伦理含义?”没有。”
格罗兹回忆说，当她再次教授这门课时，只有一名学生说她考虑过这门课的伦理含义，但觉得“似乎无关紧要”。
她解释说:“在你设计收集什么信息时，你需要考虑你要收集什么信息，而不是收集所有的信息，然后说‘哦，我不应该拥有这些信息。’”
使其粘
看到学生们在专注于一个技术项目时，甚至很快就忘记了道德问题，Grosz开始关注如何帮助学生们将道德放在首要位置。一些实证研究表明，独立的课程对工程师来说并不是很有吸引力，她还担心，单一的伦理学课程无法满足学生日益增长的兴趣。Grosz和Simmons设计的这个项目将道德与技术相结合，从而帮助学生更好地理解道德与他们日常工作的关联。
如今，在哈佛大学广泛的计算机科学课程中，哲学博士生和博士后领导的道德问题模块与课堂上讲授的技术概念相适应。
“我们希望道德问题能从他们在课堂上处理的技术问题中有机地产生，”西蒙斯说。“我们希望我们的学生认识到，技术和道德的挑战需要携手解决。因此，为计算机科学家开设一次性的伦理学课程是行不通的。我们需要一种新的教学模式。”
关键问题
课程正在处理一些道德问题的例子
软件开发者在道德上有义务为包容而设计吗?社交媒体公司是否应该在其平台上抑制假新闻的传播?
搜索引擎应该透明地排列结果吗?我们应该把电子隐私视为一项权利吗?阅读更多。
获得舒适与humanities-driven学习方式,用道德和政治哲学的思想和工具,已经调整了计算机科学教师以及学生,大卫·格兰特说,他教作为嵌入式伦理哲学博士后助理教授在2019年和现在在圣安东尼奥德克萨斯大学。
“道德推理的技巧最好是通过与他人进行开放和包容的讨论来学习和实践的，”格兰特在一封电子邮件中写道。“但在计算机科学课程中，广泛的课堂讨论很少见，这使得鼓励学生积极参与我们的模块非常具有挑战性。”
项目组织者说，学生们已经习惯了面对有解决方案的问题。但在哲学上，随着时间的推移，问题或困境会变得越来越清晰，因为有不同的观点来承担。虽然有时会有正确或错误的答案，但解决方案通常更棘手，需要一些艰难的选择。
“这对那些习惯于找到可以被证明是正确的解决方案的人来说是极其困难的，”Grosz说。“从根本上说，这是一种看待世界的不同方式。”
“他们必须学会用道德责任、法律责任和权利等规范性概念来思考。他们需要培养在进行算法和系统设计时利用这些概念进行反事实推理的技能。“我们在人文学科也解决问题，但我们经常在一个规范的领域做。”
教学生考虑社会影响的重要性计算系统领域并没有明显的早期,当只有一个非常小的数量的计算机科学家,科学系统主要用于关闭或行业设置,还有一些“敌对攻击”旨在利用系统的弱点的人,格说,该领域的先驱。很少有人担心误用，因为很少人有机会使用。
但随着这些技术在过去10至15年间变得无处不在，随着世界各地越来越多的人通过智能手机、互联网和社交网络连接起来，以及2012年以来机器学习和大数据计算的快速应用，对伦理培训的需求变得迫切。“计算机技术渗透到生活中，几乎每个人都在使用它，这使得最近造成了伤害，”Grosz说。
这种冷漠导致了科学和公众之间的明显脱节。她说:“现在，在我们这些制造技术的人和我们这些使用技术的人之间存在着差距。”
Simmons和Grosz说，当计算机科学专业的学生离开哈佛和其他大学去科技行业工作时，他们可能有改变这个行业的愿望，但直到现在他们还没有提供工具来有效地做到这一点。该项目希望帮助他们了解如何识别新技术及其应用可能产生的潜在伦理问题，并解决这些问题。
格罗斯说:“重要的是让他们知道，他们有能力就正在发生的事情与人们进行有效、理性的辩论，给他们信心……告诉他们，‘这是不对的，这是为什么。’”
作为2019年“负责任的计算机科学挑战赛”的获胜者，该项目获得了15万美元的科技教育经费，用于资助两个计算机科学博士后职位，与哲学学生和教师合作开发不同的课程模块。
尽管这个项目还很年轻，但它也带来了一些不错的副作用，这两个通常距离较远的群体的教员和研究生用不同寻常的方式互相学习。对于哲学专业的学生来说，还有一个意想不到的好处:在技术前沿研究伦理问题。它改变了他们的研究进程，并在不断增长的职业道德领域开辟了新的职业选择。
“这是令人兴奋的。这是一个机会，我们可以利用我们的技能，在近期或中期有一个明显的效果，”哲学讲师Jeffrey Behrends说。
一旦学生离开哈佛大学进入职场，这种道德培训是否会重塑他们对待技术的方式?这是项目主管们现在关注的关键问题。目前还没有足够的数据可以了解，而这种分析的关键组成部分，比如在学生毕业后追踪他们，以衡量该项目对他们工作的影响，对研究人员来说是一个“非常困难的评估问题”，贝伦兹说，他正在研究如何最好地衡量长期效果。
最终，为这个领域配备设计师、技术人员、高管、投资者和政策制定者是否会带来一个更负责任、更有道德的技术时代，仍有待观察。但让这个行业自我监督或等待市场力量来引导改革，显然到目前为止还没有起作用。
“必须有人想出一种不同的激励机制。这才是真正的危险所在，”格罗斯谈到该行业对利润的高度关注时说。“我们可以试着教育学生用不同的方式做事，但最终，如果没有不同的激励机制，要改变硅谷的做法是相当困难的。”
其次:随着人工智能在许多行业中扮演越来越重要的决策角色，伦理担忧也在上升。
,
,
相关的
在计算机科学课程中嵌入伦理学
嵌入式伦理获得了15万美元的资助
新闻旨在传播有益信息，英文原版地址：https://news.harvard.edu/gazette/story/2020/10/experts-consider-the-ethical-implications-of-new-technology/