韩国艺术家团体Shinseungback Kimyonghun做了一件有趣的事情,他们把一堆喵星人的照片扔给人脸识别程序(OpenCV),结果很多只都被认成了人;又把一堆人脸的照片扔给猫脸识别程序(KITTYDAR),发现很多人真的被识别成了猫。

被认成猫的人——

catorhuman1

被认成人的猫——

catorhuman2

他们把这些照片集合起来,做成了一组艺术作品“Cat or Human”——

ssbkyh_cat_or_human_installation_02

 

这组作品引人发笑,它就像当年拿加菲猫照片欺骗“绿坝·花季护航”的网友一样,戏谑地展现了计算机算法(algorithm)的局限性。

图像识别算法背后值得思考的问题远不止于认人和认猫。

今年6月底,一个加拿大黑人把自己和朋友的自拍上传到Google Photos,结果发现他们被自动识别成了“大猩猩”。

Screen Shot 2015-12-21 at 21.58.41

这种情况的发生大致会有两种原因。

一是算法本身的问题。程序员在写算法的时候,心里参考的多半是白人的形象:肤色如何,脸多宽,颧骨多高,等等。这样的算法会很精确地识别出白人,但对深色人种则不那么敏感。有人辩解说,黑人的照片看起来曝光不足,给识别造成了困难。但问题是,“标准曝光量”是由谁确定的?想象一下,如果这是一个黑人主导的世界,我们看到的照片会不会总是让白人呈现出过曝的模样?

第二种可能性是,算法本身并未事先确定一个标准形象,而是依靠“机器学习”完成的——也就是说,不断地给机器看人的照片,“训练”它们的辨识能力。如果这些用于训练的照片大部分是白人,那么也会导致对有色人种的识别能力不足。

不单是黑人,其他人种也可能成为技术偏见的受害者。比如,指纹识别技术有时会无法识别亚裔女性的指纹,因为她们的指纹比其他人更细密。显然,这种技术在开发时所使用的“标准”并非亚裔女性。再比如,虹膜识别技术在识别白内障患者的时候会遇到困难。

正如人工智能专家Vivienne Ming说的,网络技术中的偏见反映着现实社会中的偏见。

人脸识别技术还牵涉到另一种政治:隐私和监控。

前两个月有八卦新闻说,“司机冒充赵薇老公,骗过人脸识别,卖掉其千万豪宅”。可惜没有任何一家网站在发布这条新闻时陪配了司机的照片,所以我们不知道他究竟是怎么得手的。

不要以为技术仅仅是给名人富豪的生活带来了一点风险,其实每个人都可能活在人脸识别技术的阴影下。街头巷尾密布的监控摄像头,配合身份证系统内的个人照片,以及网络上越来越多的个人照片,在不断发展的人脸识别技术下,老大哥不仅在看着你,而且能够一眼就认出你来。

就像毛主席说的(以及痛仰乐队唱的),哪里有压迫,哪里就有反抗。在纽约布鲁克林,就有一位叫Adam Harvey的艺术家研究出了骗过人脸识别算法的化装术。其核心要素包括:制造两边脸的不对称(因为人脸识别算法会认为人脸是左右对称的),涂上一些与自己肤色相反的化装色(因为一些算法默认了皮肤的正常渐变),用刘海遮住鼻梁(因为一些算法以鼻梁为发现人脸的重要标志)。通过这些方法,就等于给自己的脸穿上了一件迷彩服,虽然骗不过人眼,但足以对付目前的大部分人脸识别算法。

Screen Shot 2015-12-21 at 21.09.19

Screen Shot 2015-12-21 at 21.15.34

如果觉得这样的化装还是太麻烦,可以试试由荷兰艺术家Simone C. Niquille制作的这件T恤。原理很简单:衣服上印了许许多多的人脸,据说这样就可以让人脸识别算法找不着北。

REALFACE_fieldTest-600x901

或许,另一种可以研究的方法,是从本文开头提到的那件作品获得启发,请喵星人出动,一起来迷惑监控摄像头。

其实,“识别人脸”大概是人与生俱来的一种冲动和技能。我们可以从石头、昆虫、盒子、汽车、火星表面等等自然的和非自然的事物中看到人脸。

创作了“Cat or Human”的艺术家团队,还创作了另一件作品:从云彩中识别出人脸。

installation1

这一次,他们使用的还是人脸识别技术。他们希望通过这件作品说明:虽然电脑有时候会在人和猫之间傻傻分不清,但更多时候,由人创造和训练的算法已经能够和人一样从日常万物中“看到”一张张脸。

这种技术会带来许多有趣的、有益的应用,但同时,也像任何其他技术一样,携带者风险。作为普通的技术使用者,我们无力去改写技术,但我们可以更多关心技术背后的政治。

最后,再给大家看两张脸吧。这是身在美国的我每天都要看到的脸,一副惊讶又忧愁的样子——

usoutlets
和我同一办公室的一位来自意大利的同学跟我说,在欧洲,大家每天看到的是快乐的脸——

7o4iQ

本文首发于方可成的微信公众账号“新闻实验室 The News Lab”。欢迎关注,期待与你产生化学反应。

关注方法1:打开微信,选择“扫一扫”,扫描下面的二维码
关注方法2:打开微信,在添加朋友中搜索newslab



分享到: