分类
杜克大学新闻

学生们跳着舞走出了“AI Bias”

马丁•布鲁克(Martin Brooke)不是杜克大学(Duke University)普通的工程学教授。他教计算机科学家、工程师和技术宅们如何跳舞。

布鲁克与人合作教授表演与技术,这是一门互动式课程,学生在其中创建表演项目,并讨论技术在表演中的理论和历史意义。与托马斯·德弗朗茨(Thomas DeFrantz)建立了独特的合作关系。德弗朗茨是一名研究非洲和非洲裔美国人的教授,也是一名舞蹈专业的学生。两周后,它们将与动作感应的机器树互动,机器树会给它们拥抱;3D打印的心脏可以检测颜色并匹配人,有点像一个机器人的火绒。

托马斯·德弗朗茨(左)和马丁·布鲁克观看他们的学生在表演和技术课程中的表演。

布鲁克喜欢这门课的趣味性和互动性,但更重要的是,他喜欢这门课教会学生在设计新技术时如何考虑人的情绪、面部表情、文化差异、文化相似性和互动。

“人机界面”是指一个计算机程序或设备从人身上获取输入信息(如人脸图像),然后输出信息(如解锁手机)。为了让这些设备理解人机界面,程序员必须首先理解人类如何表达自己。这意味着科学家、程序员和工程师需要了解一门特殊的学问:人文学科。布鲁克说:“从事人机界面研究的科学家非常非常少。

学生们设计了一个机器人“Tinder”,当它检测到匹配的颜色时就会改变颜色。

布鲁克还提到了为了限制计算机偏见,理解人类表情和互动的重要性。当一个程序员对他人的偏见被转移到他们设计的计算机产品中时,计算机偏见就产生了。例如,许多最近的研究已经证明,面部识别软件在搜索犯罪嫌疑人时不能准确地识别黑人。

布鲁克说:“事实证明,当今技术的最大问题之一是人机界面。”“微软发现,他们有一种对动作敏感的人工智能,倾向于说女性(比男性更经常)生气。布鲁克说,在来杜克大学之前,他没有考虑将艺术和人文学科纳入工程学的重要性。他认为,对一些科学家来说,艺术地思考和表达自己可能会让他们感到不舒服。“当技术专家看重业绩时

例如,他们害怕it的性能方面。我们有一段视频,一个人说:‘我没有意识到我要表演了。“是的,那是我们实际上非常担心的,但最后,在视频中,在舞台上做慢动作跑——全身心投入,实际表演,并真正享受它。”

杜克大学在促进科学、技术、工程和数学的艺术和人文包容方面有很强的主动性。布鲁克计划在学期结束前,将Bass Connections——一个专注于公共宣传和跨学科工作的研究项目——带到他的表演和技术课上,通过一个他称之为“技术精英时代的人工智能偏见”(AI bias In the Age of a Technical Elite)的项目来展示偏见。 

布鲁克说:“你给一个人起一个6037号的名字,它就会显示出电影的名字、他们的角色以及电影的梗概。”“当我把我的名字,这是一个英文名字,它说,这部电影我将是关于一个小男孩生活在英国乡村变成了一个怪物,恐吓。”,这个程序说明像名字一样简单的事情也会有这么多耻辱。

Bass连接了从事技术和工程项目的学生。(摘自Bass Connections在杜克大学的官方主页。)

布鲁克希望他的课能教会学生思考技术和人机界面。“希望当他们真正开始设计产品时,这能给他们带来真正的好处。”

客座作者乔丹·安德森,科学与工程硕士研究生。社会

新闻旨在传播有益信息,英文原版地址:https://researchblog.duke.edu/2020/03/10/students-dance-their-way-out-of-ai-bias/