人工智能月综述：从道德算法到学习机器人

人工智能正在迅速改变人类与技术互动的方式，并增强人类智能。这些转型伴随着挑战和机遇。宾夕法尼亚大学工程与应用科学学院（Penn’s School of Engineering and Applied Science）通过Raj 和Neera Singh人工智能项目（第一个常春藤盟校本科学位）等项目，正在满足对专业工程师的关键需求，并使学生成为负责任地使用人工智能的领导者。

整个 4 月，宾夕法尼亚大学工程学院庆祝了 AI 月，这是一个为期四周的系列新闻文章和活动，探讨了 AI 的许多方面及其对工程和社会的影响。

• 计算机和信息科学副教授 Chris Callison-Burch 分享了他自己对 AI 集成未来的愿景。

• 当Pratik Chaudhari在读研究生时，他的研究重点是深度学习，这是一个人工智能领域，它采用多层计算来模拟生物大脑的工作。现在，作为电气和系统工程的助理教授和通用机器人、自动化、传感和感知（GRASP）实验室的成员，乔达里在宾夕法尼亚大学工程学院的实验室利用物理学和神经科学等不同学科来理解学习过程本身。最终目标是发现人工和生物系统中学习的基本原理，以便工程师可以在他们设计的机器中利用这些原理。“作为一名研究人员，如果我能制造出一台机器，可以做你的宠物狗可以做的大多数事情，我会非常高兴，”乔达里在《建造学习机器人》中说。

• 2019年，计算机与信息科学（CIS）国家管理与技术中心教授 迈克尔·卡恩斯（Michael Kearns）和独联体计算机与认知科学亨利·萨尔瓦托里（Henry Salvatori）教授 亚伦·罗斯（Aaron Roth）出版了《道德算法：社会意识算法设计科学》（The Ethical Algorithm： The Science of Socially Aware Algorithm Design）。卡恩斯和罗斯的书没有重提人工智能系统造成的社会弊病，而是列举了对日益支配我们生活的算法的技术改进。“简而言之，我们认为在合理和可能的情况下将道德考虑融入算法是一个好主意，”卡恩斯在《设计道德算法的科学》中说。“这 并不总是 明智和可能的，算法的许多影响对算法本身的发展都是外生的。

• 在《星际迷航：下一代》中，皮卡德船长和美国企业号的船员利用全息甲板，一个能够生成3D环境的空房间。深度沉浸式和完全交互式的全息甲板创建的环境是无限可定制的，只使用语言。然而，今天，虚拟交互环境却出奇地短缺。如果你想训练机器人在现实世界中导航，那么这种匮乏就是一个问题。“像 ChatGPT 这样的生成式 AI 系统是在数万亿个单词上训练的，而像 Midjourney 和 DALLE 这样的图像生成器是在数十亿张图像上训练的，”Callison-Burch 在“宾夕法尼亚工程师使用 ChatGPT 和视频游戏资产重建星际迷航的全息甲板”中说。“我们只有一小部分3D环境来训练所谓的’具身AI’。进入Holodeck，这是一个用于生成交互式3D环境的系统，由Callison-Burch，Yatskar，Yang和Lingjie Liu，Aravind K. Joshi在CIS的助理教授，以及斯坦福大学，华盛顿大学和艾伦人工智能研究所（AI2）的合作者共同创建。Holodeck 以其《星际迷航》的前身命名，使用 AI 来解释用户的请求，生成几乎无限范围的室内环境。

• 宾夕法尼亚大学 工程学院计算机与信息科学 （CIS） 专业大二学生 Aashika Vishwanath 非常熟悉课程作业的严格要求。“这是关于与复杂的想法搏斗，而不仅仅是编码，”她在“从二十一点到聊天机器人”中解释道。在CIS的世界里，学生的任务不仅仅是编程;他们深入研究数学证明领域，运用理论和实践来挖掘他们的整个学科。Vishwanath指出，在教育支持方面，人工智能聊天机器人只能做这么多来解释这些概念。对于维什瓦纳特来说，这种差距说明了教育中一个更广泛的问题——工程专业学生在获得支持的可用性和质量方面存在全球差异。Vishwanath 是 CIS 2620：自动机、可计算性和复杂性的助教，她想知道她是否可以利用 AI 来帮助实现获得高质量教育支持的民主化。“每个学生都应该有一个助教，可以精确而深入地指导他们完成学习之旅，”她说，“无论他们身在何处，也无论他们能获得什么资源。

• 像 ChatGPT 这样的大型语言模型 （LLM） 实际上是如何工作的？很少有人比宾夕法尼亚大学计算机与信息科学 （CIS） Magerman 术语助理教授 Surbhi Goel 更有资格回答这个问题。“你可以找到成百上千篇关于大型语言模型的文章，”Goel在今年2月份的 Women in Data Science（WiDS）@Penn会议上 告诉观众。“它们已经进入了我们的教室，它们被用于所有这些现实世界的应用中。但是，正如Goel所指出的，这些模型也是一个“黑匣子”，即使对设计它们的研究人员来说也是如此。从对最简单版本的语言模型的解释到ChatGPT等工具背后的革命性“转换器”架构的设计，Goel揭开了一些重塑社会的人工智能系统的实际运作方式。

• 在《克服困难：马修·克利夫兰设计机器人以应对不确定性，同时战胜癌症》一书中，克利夫兰描述了跑两场马拉松;一个在他接受癌症治疗之前，一个在他接受癌症治疗之后，同时用人工智能解决问题的自主系统。Cleaveland 由 PRECISE 中心主任 Insup Lee 和 UPS 基金会运输教授 George J. Pappas 提供建议，他开发了确定自主系统行为的方法，这些系统必须权衡各种事件的概率，以应对不确定的未来。在他最近的一个研究项目中，克利夫兰致力于开发一种在有移动障碍物的环境中安全地规划机器轨迹的方法。“这项工作的一个主要应用，”克利夫兰说，“是在行人满为患的环境中运行的自动驾驶汽车。我们的方法可以在任何现有方法之上使用，以预测行人的未来行为。

• 宾夕法尼亚大学工程学博士生 Ro Encarnación 研究了如何对算法负责并纳入社区关注点。在“为算法正义而战”中，计算机和信息科学的博士生对算法正义进行了研究，即在日常生活中受算法影响的人应该对这些算法的设计和使用方式有发言权。“我们的目标是确保这些系统的设计能够适应社区关注的问题，”她说。Encarnación希望看到更多的研究，将用户置于研究算法偏见的中心。“边缘化社区不是铁板一块，”她说。“不是每个人都是一样的，但这不应该阻止工程师尝试创建仍然对用户负责的系统。

阅读宾夕法尼亚大学工程学院的完整故事。