TikTok 迅速跻身社交媒体的高层通常归功于其推荐算法，该算法如此敏锐地预测了观众的偏好，以至于催生了一句格言：“TikTok 算法比我更了解我自己。该平台的成功是如此明显，以至于似乎刺激了其他社交媒体平台改变他们的设计。当用户滚动浏览 X 或 Instagram 时，他们现在会看到更多来自他们不关注的帐户的推荐帖子。
然而，尽管有这些影响，公众对 TikTok 的算法如何运作知之甚少。因此，华盛顿大学保罗·艾伦计算机科学与工程学院副教授弗兰齐斯卡·罗斯纳（Franziska Roesner）着手研究该算法如何个性化，以及TikTok用户如何根据这些建议与平台互动。
Roesner和合作者将在本月发表两篇论文，挖掘真实世界的数据，以帮助理解TikTok推荐算法的“黑匣子”及其影响。
研究人员首先招募了 347 名 TikTok 用户，他们从应用程序下载了他们的数据，并捐赠了 920 万个视频推荐。利用这些数据，该团队最初研究了 TikTok 如何个性化其推荐。在 TikTok 向用户展示的前 1,000 个视频中，该团队发现三分之一到一半的视频是根据 TikTok 对这些用户喜欢什么的预测来展示的。研究人员将于 5 月 13 日在 2024 年 ACM 网络会议论文集上发表第一篇论文。
第二项研究将于5月14日在檀香山举行的ACM CHI计算系统中的人为因素会议上发表，探讨了参与趋势。研究人员发现，在用户的前 120 天里，平台上的平均每日时间从第一天的约 29 分钟增加到最后一天的 50 分钟。
威斯康星大学新闻与罗斯纳讨论了 TikTok 如何推荐视频;对用户的影响;以及科技公司、监管机构和公众减轻不良影响的方式。
了解 TikTok 的算法如何运作对我们来说很重要？
Franziska Roesner：TikTok 用户经常会问：“为什么向我展示这些内容？TikTok 对我了解多少？它如何使用它对我的了解？是吗？因此，我们研究了 TikTok 向人们展示的内容以及标准。如果我们更好地理解算法是如何工作的，那么我们可以问我们是否喜欢它的工作方式。
例如，如果算法利用了人们在某些类型内容上的弱点，如果它预测我更有可能受到某种类型的错误信息的影响，它可能会把我推入某些可能对我有危险的兔子洞。也许他们误导了我，或者他们加剧了心理健康挑战或饮食失调。该算法对公众和监管机构来说都是一个黑匣子。在某种程度上，它可能与 TikTok 本身有关。这不像是有人在编写针对易患饮食失调症的人的代码。该算法只是从一堆数据中做出预测。因此，作为研究人员，我们对它用来预测的特征很感兴趣，因为如果不了解这些特征，我们就无法真正理解预测是否以及为什么有问题。
我们还研究了人们如何参与我们理解的 TikTok 算法。这些考虑因素是相辅相成的。作为一名安全和隐私人士，我总是对人们如何与技术互动以及他们的设计如何塑造我们阅读、相信和分享的内容非常感兴趣。因此，研究人类体验有助于了解算法和平台设计的影响。
你从这些研究中学到了什么？
FR：让我有点惊讶的一件事是，我们这些使用 TikTok 的人——我确实使用 TikTok——可能花在上面的时间比我们愿意承认的要多。我也有点惊讶，人们只看了大约 55% 的视频到最后。我们争论这是高还是低。这是平台设计的一部分，一旦你从这个视频中得到了你想得到的东西，你就会继续前进吗？或者这是否表明即使是这种高度调整的推荐算法也表现不佳？我不知道是哪个。但至少有一个基线来比较未来的发现是有用的。
另一个重要的收获是查看哪些功能会影响算法向您显示的视频。TikTok 可能从我们这里夺走多少代理权？它在预测我们可能想要观看的内容方面有多好？这些东西有多兔子洞？在这项研究中，我们将用户时间线中的每个视频标记为“探索视频”或“剥削视频”。探索视频不会链接到用户以前看过的视频——例如，没有类似的主题标签或创作者。这个想法是，向你展示新东西的算法有一些价值。也许不把你放进兔子洞是有社会价值的。TikTok 也可能有价值，因为你看到的东西越多，你就越无聊。他们想把一些意大利面扔到墙上，看看有什么粘住了。
剥削视频更像是，“我们知道你喜欢什么，我们将向你展示更多与这些相关的视频。在这项研究中，我们研究了视频中探索性与剥削性视频的比例。我们发现，在用户看到的前 1,000 个视频中，TikTok 在 30% 到 50% 的时间内利用了用户的兴趣。然后，我们研究了这些视频的不同之处以及 TikTok 如何处理它们。例如，如果您关注某人，则更有可能看到他们的视频。这可能不足为奇。然而，根据我们的数据，更快地滚动浏览视频似乎不会对算法所做的事情产生太大影响。
我们还发现，人们看完了他们关注较少的帐户中的视频，但与他们互动更多。我们假设，如果有人看到他们朋友的视频，也许他们不那么感兴趣，也不想看，但他们仍然想表示支持，所以他们参与其中。
在这些论文中，您提出了一些建议，以减轻 TikTok 设计的潜在负面影响。你能解释一下其中的一些吗？
FR：我们发现数据捐赠不够完整，我们无法回答所有问题。因此，用户可以下载的数据和整个算法都缺乏透明度。我们在其他研究中也看到了这一点。人们已经查看了Facebook的广告定位披露。如果你问你为什么看到这个广告，它通常会提供最广泛的标准——例如，你年满 18 岁并且在美国。是的，但也因为您昨天访问了此产品网站。但该公司并没有分享这一点。我希望看到人们的数据使用方式更加透明。这是否会改变个人的行为是一个不同的问题。但我认为平台有责任帮助我们理解这一点。
这也与监管有关。即使这些信息不会改变个人的行为，也必须能够进行研究，例如，显示弱势群体如何不成比例地成为某种类型内容的目标。这种定位不一定是故意的，但如果你不知道这种情况正在发生，你就无法阻止它。我们不知道这些平台是如何进行内部审计的，但拥有具有不同激励措施的外部审计师总是有价值的。
在我们拥有这些平台之前，我们更了解某些内容是如何到达某些人的，因为它出现在报纸或广告牌上。现在我们的情况是，每个人都有自己的小现实。因此，如果我们甚至看不到它，就很难推理人们看到了什么，为什么以及如何将它们结合在一起——更不用说如何处理它了。
人们了解 TikTok 的重要内容是什么？
FR：意识是有帮助的。请记住，平台和算法在某种程度上塑造了您如何看待世界以及您与内容互动的方式。这并不总是坏事，也可能是好事。但平台设计不是中立的，它们会影响你观看的时间和观看的内容，以及你生气或担心的事情。请记住，该算法会向您显示内容，这在很大程度上是因为它预测了您可能想要看到的内容。还有其他你看不到的东西。
论文的其他合著者包括波士顿大学的Karan Vombatkere;马克斯·普朗克软件系统研究所的 Sepehr Mousavi、Olivia Nemes-Nemeth、Angelica Goetzen 和 Krishna P. Gummadi;海法大学和马克斯·普朗克软件系统研究所的Oshrat Ayalon;代尔夫特理工大学的 Savvas Zannettou;以及乔治城大学的Elissa M. Redmiles。
欲了解更多信息，请联系 Roesner，电话： [email protected]。
新闻旨在传播有益信息，英文版原文来自https://www.washington.edu/news/2024/04/24/tiktok-black-box-algorithm-and-design-user-behavior-recommendation/