人工智能如何区分以及这对你的谷歌习惯意味着什么

萨菲亚·乌莫贾·诺布尔发誓她不是卢德分子。但她确实认为，我们都可以从19世纪英国抨击机器的纺织工匠身上学到一两件事，他们的名字现在是技术怀疑论的代名词。

“卢德分子知道，这些新的工业化工具将改变我们的创造方式和工作方式，”加州大学洛杉矶分校教育与信息研究学院信息研究系副教授诺布尔说，他还在性别研究和非裔美国人研究系任职。

诺布尔的奖学金研究了正在改变我们工作方式的新工具：她 2018 年出版的《压迫算法：搜索引擎如何强化种族主义》一书引发了一场关于互联网搜索引擎算法歧视的全国性讨论，并为她赢得了麦克阿瑟“天才”奖学金。今年2月，Noble在加州大学洛杉矶分校卢斯金会议中心举行的加州大学人工智能学术大会上与加州大学洛杉矶分校执行副校长兼教务长达内尔·亨特（Darnell Hunt）进行了主题对话，讨论了她的工作。

为了回应Noble和其他人的工作，科技公司已经修复了一些最明显的搜索引擎问题。但是，控制谷歌结果的算法只是人工智能塑造我们生活和生计的倍增方式之一，诺布尔说，无论是企业自我监管还是政府监管，都没有跟上技术的发展和潜在的危害。

我们最近与Noble坐下来，详细了解为什么互联网会以这种方式运作，以及这对人工智能驱动的未来意味着什么。

你为什么写《压迫的算法》，你的工作有什么不同？

这本书探讨了当你向搜索引擎询问社会，尤其是弱势群体时会发生什么。当我去谷歌搜索黑人女孩、亚裔女孩、拉丁裔女孩时，搜索结果第一页的 80% 是色情或亢进的内容。而且我不必输入“性”或“色情”这两个词。黑人女孩和妇女已经是色情的代名词。

“压迫的算法”开始描述这里发生的事情。我认为这项工作的突破，现在已经成为一种常识，是算法可以区分。日常用户现在都明白这一点。“算法”是我们词典的一部分。

在学术界，现在我们在全国有成千上万的研究人员，全世界可能有成千上万的研究人员正在研究技术的危害。我的工作确实在工业界得到了发展。我以为硅谷会对它怀有敌意，但我认为它为他们也经历过的事情提供了语言。

搜索引擎结果以哪些方式影响人们的生活？

当你拥有历史上被压迫的身份时，你会以不同的方式体验系统。有些人仍然只是为了大声笑而分享猫，而另一些人则完全受到种族主义内容的创伤。

如果这个国家所有的黑人妇女和女孩都把我们所有的钱放在一起，我们仍然永远不会有色情行业那么多的钱。我们永远无法控制关键字的优化方式。那么，我们将如何干预这些系统呢？

谷歌和其他公司是第一个说他们知道这些问题存在并且正在努力解决这些问题的公司。但我不认为他们真正能够处理他们系统中的权力和不平等。如果有的话，他们只是在调整这些算法，而不是以深刻的方式重新制作它们。

如果搜索结果不是中立的，为什么我们会得到这样的结果？

10年前的普遍逻辑是，搜索引擎中出现的任何内容都只是反映了我们自己。从根本上讲，人们完全没有意识到这些平台的编码方式以及它们如何优先考虑某些类型的价值。

首先，有一种算法可以对数百万个可能浮出水面的潜在网站进行分类。然后你看到的结果受到行业、外国特工和政治运动的影响，通过搜索引擎优化的灰色市场。这是一个完整的家庭手工业，其存在是为了弄清楚如何操纵搜索引擎。

拥有搜索引擎的公司是为了响应出价最高的人而建立的。是的，他们一直在尝试改进和检测他们的系统在哪里被玩弄。但他们已经制造出可以玩的游戏产品。因此，制造易于操纵的产品的公司有责任。

您的研究如何改变了您使用互联网的方式？

我对搜索持怀疑态度。我不会像去图书馆一样使用它。我用它来购物，这确实是它最好的设计。

对于电视或电影之类的东西，我们理解存在主观观点。如果其他媒体存在种族主义或性别歧视的歪曲，我们理解导演或编剧的观点。

但我们并不认为搜索结果是主观的。我们使用像事实核查器这样的搜索引擎。对于某些事实，它们非常可靠：数学家可以输入一个公式，然后查看代码中哪里有错误。或者你可以用它来做一些平庸的事情，比如，“最近的咖啡店在哪里？你会得到一个答案，而且非常可靠。

因此，如果它对相当无意义的事情是可靠的，那么这就会加强你的信念，即它对一切都有意义。但是，如果你用同样的工具来解决一个社会或政治问题，你认为你会得到一个可靠的答案吗？

如果你不使用谷歌和其他搜索引擎来获取社会或政治信息，你会怎么做？

我们有这些东西叫做库！想想在图书馆出现之前会发生什么：有编辑、审稿人、出版商。然后是图书馆员，他们非常认真地对待他们对公众和知识保存的义务。他们接受过对知识进行分类的培训，使公众能够理解他们所参与的内容。

因此，如果你在图书馆寻找一本关于大屠杀的书，你会发现它与许多其他关于大屠杀的作品相比。当你把它从书架上拿下来时，你会发现它周围的其他东西：它是历史、时事还是社会学？

如果你只使用搜索引擎，你可能会得到一个看起来像合法信息的大屠杀否认网站，你可能很难辨别它是什么，因为它完全脱离了语境。它不像包装纸上写着，“这是在互联网的白人至上主义部分！

输入：ChatGPT。在生成式人工智能如何复制或抵消你在搜索中发现的各种歧视方面，你看到了什么，为什么？

因此，ChatGPT 是一种建立在我们所谓的大型语言模型之上的 AI。这些模型基本上将互联网上可用的所有内容都吸收到它们的训练数据中，由于我们已经讨论过的原因，这并不总是一个好主意。他们接受受版权保护的作品和学术研究，也接受随机的subreddit，好像这些东西都同样可靠。

生产生成式人工智能的公司已经发布了尚未准备好进入黄金时段的产品。现在，我们每周都会在新闻中看到有关生成式人工智能工具及其问题的故事。例如，大型语言模型产生的很多东西都不是真的。最近，一种生成式人工智能艺术工具拒绝渲染黑人医生治疗白人患者的图像。

我的意思是，这些大型语言模型没有代理权，所以它们实际上无法拒绝。它们只是统计模式匹配工具。但是，缺乏多种性别表达、多种种族和民族代表的可能性——我们在社会中受到这些东西的限制，我们在训练模型的数据方面更加有限。因此，这些模型在产生某些类型的结果方面受到限制。

您正在做些什么来让您的学生准备好驾驭一个由人工智能塑造的世界？

十多年来，我一直使用谷歌搜索来向我的学生教授媒体素养。我会让学生搜索对他们来说很重要的身份，然后带回结果，然后我们就此进行对话。所以我会让学生搜索，比如说，“联谊会女孩”，你可以想象他们对结果的反应，比如，“这太不对了。结果往往是如此深刻的种族主义或性别歧视，或者在某些方面歪曲了学生认为自己是谁。

在某些方面，ChatGPT 只是搜索的下一个版本，因为它不区分宣传和证据。学生们来到我的课堂上，用宣传网站作为证据，因为他们不能完全分辨出区别。因此，能够在我的课堂上进行这些对话很重要。但我更希望看到更多的干预是在政策层面。现在，就像，人工智能就在这里，就是这样。你，公众，必须学会如何使用它，你必须智取它，你必须弄清楚它。当我们可以以不同的方式监管这些工具并将它们的采用限制在有意义的地方时，这似乎是不够的。

有什么理由乐观地认为，更好的算法可以比我们把所有的创造和决策永远留给人类以及我们的隐性偏见更快地减少社会偏见吗？

制作预测性人工智能模型的人认为，他们正在减少人类偏见。但是，没有一种情况是你没有优先级、决策树、一个重视某事而不是其他事物的系统。因此，说我们努力消除技术偏见是用词不当，就像我们想要消除人们的偏见一样。我们想做的是非常具体的：我们希望减少各种形式的歧视或不公平，这与消除偏见不是一回事。

你也可以把它描述为：我们持有某些价值观。我们希望确保这些价值得到满足。因此，这意味着我们必须承认该技术确实是一组特定的价值观，或者是围绕一组价值观进行编程的。我们想要优化以获得更多我们想要的值。

我们试着和人一起做这件事。这就是我们接受教育的原因。这就是我们了解他人的原因。这就是为什么我们从事艺术和事物，使我们对人性的广度敏感。

要说你想要一种完全中立的技术，没有任何区分人的标记，你只是默认了由你自己的偏见驱动的优先事项。如果我们想朝着多元化和亲民主的优先事项努力，我们必须朝着我们重视的事情进行规划。

正如我们所知，支配技术的一些价值观是什么？

十年前，如果搜索公司优先考虑妇女和女孩的福祉，他们就不会让色情行业成为他们社会中出价最高的人。这根本不会发生。他们以牺牲女性为代价来偏向于利润。

我们不再处于色情内容主导搜索的时代，因为这些公司不得不回应他们的许多批评者。但硅谷领导人的意识形态世界观仍然令人不安。他们认为技术官僚可以设计一个更好的社会，而民主太混乱了。这些政治渗透在他们制造的产品中，他们被指向谁，谁被实验过，谁在世界范围内被认为是一次性的。

我有机会考虑在其他地方做这种工作。但我的心在UC，因为公共机构是私营部门的强大制衡力量。我们代表公众、加利福尼亚州和这个国家的人民进行研究非常重要，因为我们希望我们不会像在工业界工作的人那样受到各种压力的影响。

我们可以从过去的社会变革中吸取哪些关于与人工智能共存的经验教训？

我告诉我的本科生，“我妈妈生我的时候，她嘴里叼着一根烟。医生也这样做了。他们吓坏了！他们说，“这不可能发生！我说，“那绝对发生了。

我小时候经常看杂志，看到这样的广告，“四分之三的医生更喜欢骆驼香烟。在每部电影、每部电视节目中，要想有魅力，就要抽烟。烟草业塑造了我们的现实感。这太正常了，以至于我仍然感到惊讶的是，我再也看不到有人吸烟了。那是因为我们管制吸烟。

今天长大的人们甚至无法想象以前的时光。所以我想我们可以回顾这个时代，然后说，为什么我不直接问我妈妈这个问题而不是谷歌？我为什么不直接读一本书？我们是怎么走到这一步的？

萨菲亚·诺布尔（Safiya Noble ）在加州大学洛杉矶分校（UCLA）担任大卫·西尔斯（David O. Sears）社会科学总统主席，她是该校种族与数字正义中心（Center on Race and Digital Justice）的主任，批判性互联网调查中心（Center for Critical Internet Inquiry）明德鲁技术与权力倡议（Minderoo Initiative on Tech and Power）的联合主任，以及DataX倡议（DataX Initiative）的临时主任。