Facebook的道德困境

拥有哈佛商学院(Harvard Business School)学位的前Facebook员工弗朗西斯•豪根(Frances Haugen)的证词，以及《华尔街日报》(Wall Street Journal)上的一系列文章，让包括哈佛大学心理学教授约书亚•格林(Joshua Greene)在内的许多人呼吁对这家社交媒体公司实施更严格的监管。格林研究道德判断和决策，著有《道德部落:情感、理性和我们与他们之间的差距》(moral Tribes: Emotion, Reason, and the Gap Between Us and Them)一书。他表示，Facebook高管的道德情绪与他们决策的后果并不协调，这是一种常见的人类弱点，可能导致严重的社会危害。此外，该公司还被指责使用算法来促进两极分化的内容，忽视其Instagram应用程序对少女的有毒影响，从而煽动分歧。在接受《公报》采访时，格林讨论了他关于道德困境的研究如何应用于Facebook。为了篇幅和清晰度，这篇采访经过了编辑。

Q&

约书亚格林

公报:像Facebook这样的公司对他们的用户和广大公众有道德责任吗?

格林:当然。这些公司对人们的生活有着巨大的影响力。在我看来，任何拥有这种权力的人都有责任负责任地行使它。其中一部分可能意味着放弃部分权力。不幸的是，当这些公司做出灾难性的选择时，他们并不觉得自己的行为是灾难性的——至少在他们从那些受到伤害的人那里得到反馈之前是这样。作为决策者，他们的情绪不适应道德问题的严重性和范围。

GAZETTE:在你的研究领域，有没有一个例子可以阐明Facebook正在发生的事情?

格林:情感上最明显的道德越界是基本的身体暴力行为，比如一拳打在某人脸上。当Facebook伤害人们的时候，做这些决定的人不会觉得他们在打别人的脸。这是因为伤害是被动造成的，而不是主动造成的，因为伤害是作为副作用而不是故意造成的，而且伤害是非常间接造成的——由技术和其他人的行为来调解。由于这些因素，Facebook的高管们并不觉得他们在损害数百万少女的心理健康，或者拿枪指着美国民主的头。相反，他们觉得自己是在经营一家企业，同时还要处理一些“非常具有挑战性的问题”。

我们可以用我和其他研究人员用来研究道德判断机制的道德困境来解决这个问题。

想象一下，你最珍贵的东西在电车轨道上——也许是一把在你的家族里传了好几代的古董吉他。你可以把某人推下人行桥，推到轨道上，把吉他从迎面而来的电车中救出来。你会这么做吗?除非你是个神经病。这是谋杀，感觉上就是谋杀。这感觉像谋杀，因为它是主动的，直接的，完全故意的。你不会为了保住你的吉他而这么做，我相信马克·扎克伯格也不会为了保住Facebook的利润而这么做。

现在让我们调整一下情况。假设你不是把人推下人行桥，而是按下一个开关，让他们通过活板门掉到轨道上。按那个开关是不对的。但按下开关肯定比徒手推人更容易。它更容易，因为它不那么直接，因为这种行动不需要你的“个人力量”。(如果你能让别人替你做这件事，那就更容易了。)

现在让它变得更简单。电车向你的吉他驶去，但这次你不需要用任何人来阻挡电车。你可以按下一个开关，让电车离开吉他，转到另一条轨道上。不幸的是，轨道上有个人。按下开关仍然是错误的，但感觉更有防御力。你可以对自己说，“我不是要杀这个人。我只是想保住我的吉他。”作为副作用，你会杀了那个人。这是“附带损害”。

现在假设开关已经被抛出。为了保住你的吉他，你什么都不用做。当然，你可以把开关扔回另一个方向，远离那个人，放在你的吉他上。但这是你的工作吗?这是你的责任吗?既然伤害是被动造成的，就更容易说:“我对此感到很糟糕，但这不是我的错。这失控的电车不是我开的。我只是在做我自己的事。我有责任保护我家里的吉他。”

如果你感到有些内疚，你可以让自己感觉好一点。假设这是一个很重的开关。如果你用尽全力拉，你可以让电车远离那个人，转向你的吉他。那么，你会怎么做?你用力拉，但不够用力。“我在这里!请理解这是一个很重的开关!”

这基本上就是Facebook一直在说的和做的。美国的民主正处于危险之中。数百万青少年的心理健康处于危险之中。Facebook不希望这些糟糕的事情发生，但他们也不觉得有必要采取必要的措施来防止这些事情发生。Facebook并不是主动、故意和直接造成这些问题的。相反，它允许这些事情发生，作为其运营业务尽可能盈利的间接副作用。当然，Facebook也在努力提供帮助。但还不够用力。有些东西Facebook是不愿意牺牲的。

问题在于，公司领导人的道德情绪——以及我们的道德情绪——与当前形势并不协调。不觉得特别暴力的行为可能造成大规模的可怕伤害。在造成伤害之前，这看起来并不可怕。我们需要认识到这一点并弥补这些人类局限性的系统。

当你的利益受到威胁时，你会找到一切理由不牺牲自己的利益。你提高了证据的门槛。你呼吁进行更多的研究，指出所有的歧义。而且总是有歧义

公报:我们如何让这一切发生?

格林:正如Facebook泄密者弗朗西斯·豪根所说，我们需要监管。这做了两件事。首先，它把决策交给了专业人士，他们可以考虑更广泛的后果，而不是依靠直觉反应。第二，它把决定权留给那些没有利益冲突的人——那些工作是保护公众的人。

我们不会让制药公司自己决定哪些药物是安全的，因为它们存在利益冲突。我们不会让运输公司自己决定哪些车辆是安全的，因为他们有利益冲突。他们是人，即使他们的意图是好的，他们也会无意识地产生偏见。当你的利益受到威胁时，你会找到一切理由不牺牲自己的利益。你提高了证据的门槛。你呼吁进行更多的研究，指出所有的歧义。而且总是有歧义。

最根本的问题是，Facebook想要控制世界上大部分的信息基础设施，但又不想为这个世界负责。他们想听到每次有人跳上信息高速公路时硬币叮当作响的声音，但他们不想为高速公路的安全负责。在决定什么是安全的时候，人们的动机是与公共利益相一致的，而不是与公司利润相一致的。

正如豪根所说，这并不意味着扎克伯格和Facebook的其他高管是邪恶的。他们不是想让世界变得更糟。但他们的重点是那把珍贵的吉他。他们非常依恋自己的亿万富翁。

GAZETTE:关于Facebook高管无法控制用户如何参与或如何按照他们的算法行事的说法，你怎么看?

格林:你不能控制每个人的行为，你也不需要这样做。我们需要一个防止最坏结果的系统。我们需要将因果责任与道德责任结合起来。报纸和其他出版商要对他们出版的东西负责。他们要对此负责。这很难，需要资源，但可以做到。需要有人对网上出现的东西负责。网上的人太多了，每个人都不可能被仔细审查，但那些最糟糕的罪犯——那些拥有最多观众、能造成最大破坏的人——可以受到限制。

许多人可能会说，监管将严重阻碍经济增长。

格林:经济增长和监管是非常相容的。从长远来看，它们是携手并进的。想想食品和药物管理局或联邦航空局。让政府机构负责保证药品和飞机的安全并不会妨碍制药和航空业。它使这些行业可持续发展。如果美国民主被激进极端主义摧毁，对Facebook也没有好处。从长远来看，不受管制地追逐利润对利润是不利的。可持续的资本主义意味着在保护公共利益的约束下运作。

文章旨在传播新闻信息，原文请查看https://news.harvard.edu/gazette/story/2021/10/harvard-psychologist-explains-facebooks-moral-quandary/