分类
雪城大学新闻

除非设计师和用户介入,否则人工智能世界将会出现更多失误

Jamie Winders联合国教育、科学及文化组织(UNESCO)最近的一份报告描绘了人工智能在促进主流性别规范方面令人担忧的未来。联合国教科文组织的报告认为,像Alexa和Siri这样的数字助理创造了一种“温顺且乐于取悦的助手”的模式,这种模式强化了“人们普遍持有的性别偏见,即女性服从并容忍糟糕的待遇”。麦克斯韦尔学院教授、自治系统政策研究所(ASPI)所长杰米·温德斯说,尽管有这份报告,除非公众要求改变,否则我们可以期待更多的相同情况。

温德斯说:“几十年的社会科学和人文科学研究告诉我们,性别和种族等身份类别与我们日常生活中的物质生活之间存在着一条双向的道路。”“从家里的家具到墙上的油漆颜色,再到我们穿的钱包和鞋子,一切都是有性别差异的。在21世纪,那些充斥我们日常生活的东西现在包括虚拟助手,如Alexa或Siri。这些助理的行为就像人类助理一样,所以他们模仿主流性别规范也就不足为奇了。根据定义,这些助理应该是乐于助人的,在世界各地,‘乐于助人’的辅助角色与女性有着密切的联系。”

温德斯说,在这些虚拟助理的情况下,性别假设是他们的设计中内置的。温德斯说:“虽然你可以为大多数虚拟助理选择‘男性’声音,但默认情况下仍然是女性声音,就像‘默认’假设谁是最好的私人助理一样。”

雪城大学的ASPI就是为了研究这一问题而建立的。“我们看到越来越多的人工智能驱动的产品试图模仿人类行为,这些产品将继续反映和强化主导的性别规范,除非我们作为设计师和用户有意干预,”温德斯说。“在这些‘智能’技术的生命周期中,从设计到监管再到日常使用,每走一步,我们都要关注‘上的表现(声音、图像、口音等是否被使用),否则我们将继续看到这些失误。”

新闻旨在传播有益信息,英文原版地址:https://news.syr.edu/blog/2019/05/28/unless-designers-and-users-intervene-expect-more-missteps-in-an-ai-world/