分类
纽约大学新闻

Twitter上的仇恨言论预测了现实生活中仇恨犯罪的频率

纽约大学的研究人员转向人工智能,展示了100个城市的在线仇恨和线下暴力之间的联系

Hands holding smartphone

根据一项史无前例的研究,某些种族主义推文发生率较高的城市报告的实际仇恨犯罪与种族、民族和国籍有关。

纽约大学的一个研究小组分析了2011年至2016年间发布的5.32亿条推文的位置和语言特征。他们训练了一个机器学习模型——人工智能的一种形式——来识别和分析两种类型的推文:一种是有针对性的——直接支持歧视性观点的——和一种是自我叙事的——描述或评论歧视性言论或行为的。该研究小组将每一种类型的歧视性推文的流行程度与同一时期在这些城市报告的实际仇恨犯罪数量进行了比较。

The research was led by Rumi Chunara, an assistant professor of computer science and engineering at the NYU Tandon School of Engineering and biostatistics at the NYU College of Global Public Health, and Stephanie Cook, an assistant professor of biostatistics and social and behavioral sciences at the NYU College of Global Public Health.

他说:“我们发现,在一个城市里发布的更具针对性和歧视性的推文,与仇恨犯罪的增加有关。”“这一趋势在不同类型的城市(例如,城市、农村、大城市和小城市)都存在,这证明有必要更具体地研究不同类型的网络歧视言论可能对现实世界造成的影响。”

分析涵盖了城市化范围广、人口多样性程度不同、社交媒体使用水平不同的城市。该团队将数据集限制在描述或出于种族、民族或民族根源歧视的推文和偏见犯罪。美国联邦调查局(fbi)对仇恨犯罪进行了分类和跟踪,由种族、民族或国籍引发的犯罪在美国仇恨犯罪中所占比例最大。虽然研究人员以前研究过这种形式的偏见,但并非所有城市都有性取向犯罪的统计数据。

该组织还确定了一系列在全国社交媒体上普遍使用的歧视性词汇和短语,以及特定城市或地区的特定词汇。这些见解可能被证明对确定可能是种族动机犯罪的更有可能的目标群体和不同地方的歧视类型很有用。尽管该分析中包含的大多数tweet都是由实际Twitter用户生成的,但研究团队发现,平均8%包含有针对性歧视语言的tweet是由机器人生成的。

基于种族/民族/民族起源的歧视推文的比例与基于相同偏见的城市犯罪数量呈负相关。丘纳拉指出,尽管现实世界中的歧视经历是已知的具有健康和社会后果的心理压力源,但网络暴露于不同类型的网络歧视的影响——例如,自我叙述与目标歧视——需要进一步研究。

尽管研究人员强调,社交媒体仇恨言论和现实暴力行为之间的具体因果机制需要探索,但这些结果代表了对该国歧视性社交媒体帖子和现实生活中的偏见犯罪的最大、最全面的分析之一。

最近,在德国慕尼黑举行的网络和社交媒体人工智能发展协会会议上,丘纳拉发表了一项名为《社交媒体中的种族、民族和民族根源歧视与仇恨犯罪》的研究报告。合著者包括纽约大学坦顿分校的学生Kunal Relia和李正毅,以及库克。

研究人员最近还获得了Facebook的一项关于社交媒体平台的内容政策研究资助,他们将通过这项资助继续研究网络歧视的后续后果。

纽约大学坦顿工程学院成立于1854年,是纽约大学土木工程与建筑学院和布鲁克林学院与理工学院(俗称布鲁克林保利)的建校日期。2014年1月的合并创建了一个工程和应用科学教育与研究综合学院,根植于发明和创业的传统,致力于推动技术为社会服务。除了位于布鲁克林的主校区,纽约大学坦顿分校还与纽约大学的其他学院合作。纽约大学是美国最重要的私立研究型大学之一,与纽约大学阿布扎比分校和上海分校的工程项目紧密相连。它运营着未来的实验室,专注于曼哈顿市中心和布鲁克林的初创企业,以及一个屡获殊荣的在线研究生项目。更多信息,请访问http://engineering.nyu.edu。

关于纽约大学全球公共卫生学院
在纽约大学全球公共卫生学院(NYU GPH),我们正在培养下一代具有批判性思维技能、敏锐头脑和创业方法的公共卫生先锋,这些是重塑公共卫生范式所必需的。致力于采用非传统的、跨学科的模式,纽约大学GPH旨在通过独特的全球公共卫生研究、研究和实践的融合来改善全世界的卫生状况。学院位于纽约市中心,并延伸到纽约大学在六大洲的全球网络。创新是我们雄心勃勃的思维和教学的核心。更多信息,请访问:http://publichealth.nyu.edu

媒体联系人

Rachel Harrison

Rachel Harrison

(212) 998-6797
Kathleen Hamilton

Kathleen Hamilton

(646) 997-3792

新闻旨在传播有益信息,英文原版地址:https://www.nyu.edu/content/nyu/en/about/news-publications/news/2019/june/hate-speech-on-twitter-predicts-frequency-of-real-life-hate-crim.html