分类
加州大学尔湾分校新闻

ICE对驾照的人脸识别搜索是否伤害了少数族裔?

人脸识别软件作为一种高科技的安全措施,正日益得到广泛的应用。但这总是合乎道德的吗?

有报道称,美国移民和海关执法局的特工一直在秘密使用面部识别技术扫描驾照照片,以获取非法移民的信息。

凯·马蒂森(Kay Mathiesen)是东北大学(Northeastern university)哲学和宗教副教授,主要研究信息和计算机伦理与正义。她谴责这种做法“损害”了所有公民,尤其是少数族裔。

凯·马蒂森(Kay Mathiesen)是东北大学哲学和宗教副教授,研究计算机伦理和司法。她对联邦调查人员使用面部识别技术的方式表示担忧。照片由Matthew Modoono/东北大学拍摄

她说,人工智能很容易出错,因此会导致更高的误认率和错误逮捕率。她说,对软件开发过程进行更严格的监督可能有助于减少错误。

她说:“问题是这些系统有多精确,看来有充分的理由认为它们不是很精确。”“当涉及到女性和少数族裔时,他们的判断更不准确,所以你会得到更多假阳性的配对。”我们已经看到了对少数族裔社区过度监管的情况,所以这将加剧这种情况。”

美国东北大学(Northeastern University)和盖洛普(Gallup)联合开展的一项新的全球调查显示,70%的美国受访者表示,在使用使用人工智能产品或服务时,他们担心自己的个人信息受到威胁。马蒂森说,这是一个好迹象。

她表示:“我认为,人们开始更加意识到问题是什么,以及如何利用这些信息。”“这实际上是一个非常有希望的迹象,表明将会有更多的阻力,因为在如何使用数据和算法方面,我们远远落后于潮流。”

Fewer than 10 percent respondents in Canada, the United States, and the United Kingdom said their undergraduate education will provide the skills they will need when artificial intelligence displaces millions of people from their jobs. Graphic by iStock.

人们想跟上人工智能时代的步伐。雇主、教育工作者和政府都在让他们失望。


read more

人脸识别技术的使用受到了民主党和共和党议员的批评,他们担心这对公民自由构成威胁。美国国会和州立法机构尚未批准这种做法,美国联邦调查局(fbi)特工也在使用这种做法。

面部识别的故事,首次报道了《华盛顿邮报》透露,从2014年到2017年冰官员要求和被授予访问部门机动车驾照数据库在犹他州,佛蒙特州,华盛顿国家允许美国人没有适当的居住文件获取驾照licenses-without驾车者的知识或同意。在佛蒙特州州长菲尔·斯科特(Phil Scott)的要求下,该州官员于2017年停止了搜索。

“车管所不是执法部门、联邦调查局或ICE的分支机构,”马蒂森说。“人们没有理由认为这些信息会与其他执法机构共享。任何一种伦理中最基本的概念都是知情同意,而这是缺失的。”

马蒂森说,她还担心车管局维护的数据库的安全性,不知道这些数据库是否容易受到犯罪分子或外国政府的黑客攻击。她支持执行法院命令、搜查和扣押令以及其他法律保障措施,以限制联邦和地方执法机构使用面部识别技术。

Mathiesen还指责ICE使用面部识别技术搜索驾照数据库是对隐私的侵犯和对公民自由的侵犯。

Facial recognition technology can be wildly inaccurate and prone to replicating the racial or gender-based biases of the engineers who created it, says Woodrow Hartzog, a professor of law and computer science at Northeastern. Photo by Matthew Modoono/Northeastern University. Illustration by Kevin Deane/Northeastern University.

“不准确的时候很糟糕,但准确的时候更糟糕。”


read more

她说,在民主社会中,公民应该能够在知情的情况下决定他们希望执法部门和政府机构拥有什么样的权力,而且只有在他们确切知道自己的信息被如何使用的情况下,他们才能这样做。

她说:“我认为,我们真正需要的是对正在发生的事情保持透明,这样我们就可以就我们作为一个社会所希望的安全与隐私之间的平衡进行民主对话。”

马蒂森说,她最大的担忧是,人们会对政府不受约束的监控感到自满,为了国家安全而甘愿冒损害他们的隐私权和公民自由的风险。

她说:“我认为,如果我们生活在一个我们接受的社会中,我们希望被一股仁慈、全能、无所不知的力量所照顾,这真的很令人不安。”“这似乎真的削弱了个人自治和个人自由的理念,因为如果你相信自己一直受到监视,它就会改变你的行为。”

传媒查询,请联络[email protected]

新闻旨在传播有益信息,英文原版地址:https://news.northeastern.edu/2019/07/12/ice-facial-recognition-search-of-drivers-license-photos-damaging-to-minorities-says-northeastern-university-professor/