这件t恤能让你隐形(对深度神经网络)

两个人肩并肩走向一台摄像机。其中一人身穿全黑套装。另一件是卡其裤和一件白色t恤，前面有一个色彩鲜艳的抽象图案。但是分析视频的人工智能只报告一个人。

穿t恤的人是看不见的。

这件白衬衫上的图案，看起来就像是你在感恩而死(Grateful Dead)音乐会上看到的东西，是由东北大学(Northeastern)、IBM和麻省理工学院(Massachusetts Institute of Technology)的研究人员设计的，目的是欺骗分析视频的特定深度神经网络。

“深度神经网络非常强大，但也容易受到攻击，”东北大学电子与计算机工程助理教授谢莉·林(Shelley Lin)说。“当你穿着这件t恤时，深层神经网络极有可能不会在图像中认出你。”

深度神经网络是一种人工智能，通常用于识别和分类图像、声音或其他输入，通过识别模式。研究人员用数百万个例子来训练这些算法，直到它们能够识别出一个人的声音，或者在一张自拍照中增加几十年的面部表情。

但是，了解特定的神经网络是如何被训练的细节，就有可能逆向生成图像，从而使神经网络能够识别，比如说，熊猫和长臂猿。

林和她的同事们正在研究一种深度神经网络，这种网络被训练成物体探测器，这意味着他们能够识别出视频中的形状，并正确地标注为“人”、“马”或“伞”。研究人员希望设计出一种让人无法被察觉的图像。

在数字空间中，这是相对简单的:研究人员可以找到并改变图像中特定像素的值来混淆神经网络。让这些攻击在现实世界中发挥作用是比较困难的，但研究人员已经证明，在停车标志上适当地贴上几张贴纸，可能会让人工智能系统看到“限速45”——这是一个潜在的致命错误。

在打印他们的图案之前，研究人员必须考虑t恤在现实世界中运动和起皱的方式。照片由Matthew Modoono/东北大学提供

但是停车标志是一个平坦的，静止的表面。设计一种既能让t恤扭曲变形，又能欺骗神经网络的图案，难度要大得多。

林说:“我们必须在人们走路时模拟衬衫的变形，并将其用于我们的计算。”“我们的数学问题必须模拟形状如何变化。”

林和她的同事们记录了一个人穿着印有棋盘图案的t恤走路。通过跟踪每个正方形的角落，他们能够描绘出衬衫是如何移动和起皱的。然后，他们在打印之前，将这些信息纳入他们的对抗设计中。

新兴领域的机器行为的重要性阅读更多

结果是，一件衬衫可以使佩戴者在超过60%的时间里不被发现。虽不完美，但令人印象深刻。

当然，研究人员并不是要设计出一件t恤，让未来的超级间谍能在监控摄像头前溜达。他们想找到这些洞并修复它们。

“我们研究的最终目标是设计安全的深度学习系统，”林说。“但第一步是衡量它们的脆弱性。”

媒体咨询，请联系Jessica Hair @northeastern.edu或617-373-5718。