逃避AI监控神器?德艺术家设计“数码迷彩”恤 可骗过人形辨识系统

加拿大都市网

在监控镜头愈来愈懂得“认人”的年代,德国艺术家西蒙.韦克特(Simon Weckert)反其道而行,设计出一件名为“数码迷彩”(Digital Camouflage)的夏威夷恤。衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统,令电脑无法把穿着者辨识为“人”。

花俏图案专攻AI视觉盲点

不过,这件恤衫并非真正的“隐形斗篷”。韦克特强调,作品只曾以通用的开源物件侦测系统YOLO示范,没有证据显示它能骗过警方或政府实际使用的监控设备。

现今世代监控镜头无处不在。IG@simonweckert(下同)
现今世代监控镜头无处不在。IG@simonweckert(下同)
这款名为“数码迷彩”(Digital Camouflage)的夏威夷恤,可成功避过AI人形识别系统。
这款名为“数码迷彩”(Digital Camouflage)的夏威夷恤,可成功避过AI人形识别系统。
这款名为“数码迷彩”(Digital Camouflage)的夏威夷恤,可成功避过AI人形识别系统。
这款名为“数码迷彩”(Digital Camouflage)的夏威夷恤,可成功避过AI人形识别系统。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
这款名为“数码迷彩”(Digital Camouflage)的夏威夷恤,可成功避过AI人形识别系统。
这款名为“数码迷彩”(Digital Camouflage)的夏威夷恤,可成功避过AI人形识别系统。

据科技及设计媒体报道,“数码迷彩”乍看像一件风格夸张的夏威夷恤,衣服上的每一道线条、色彩及形状却并非随意绘制,而是经过运算优化,专门针对AI判断人体时依赖的视觉特征。

韦克特解释,电脑视觉系统并非像人类般真正理解“人”的概念,而是透过分析大量训练图片,学习哪些边缘、色彩、纹理、轮廓及身体比例通常与人类有关。

辨识系统首先会在画面中寻找明暗对比及线条,继而尝试拼合头部、肩膀、躯干与四肢的关系。恤衫上的高饱和色彩及互相重叠的不规则图案,会向系统输入大量混乱讯号,破坏人体轮廓的连续性,令模型对“眼前是一个人”的信心下降。

靠AI反复测试 直至辨识信心崩溃

更有趣的是,这件用来对抗AI监视的恤衫,本身亦是利用运算模型协助设计。

韦克特采用俗称“对抗回圈”(adversarial loop)的方法,先生成候选图案,再把图像交给人物侦测模型分析,量度系统有多大把握认为画面中存在一个人。设计程式其后按照结果调整色彩、线条及纹理,再次接受测试,如此反复进行,直至侦测模型的判断信心大幅下降。

在艺术家公开的示范片段中,普通途人的身体会被YOLO系统以方框标示并分类为“person”,穿上“数码迷彩”恤衫的人却在部分画面中没有被标记,仿佛从电脑眼中消失。

这项技术在电脑科学中称为“对抗攻击”(adversarial attack),即透过精心设计的图像、纹理或微小视觉变化,令AI模型作出错误判断。过往研究人员曾在衣服上印制特定图案,测试人物侦测系统面对穿着者走动、转身及布料折曲时,能否维持辨识能力。

2019年的“对抗T恤”研究显示,针对YOLOv2设计的实体衣服,在测试环境下可明显降低人物侦测率;其后的研究则利用立体建模,令图案在不同角度及衣物变形时仍能发挥作用。不过,成效会随镜头距离、光线、穿着姿势及所用模型而改变,对一套系统有效的图案,换上另一套系统未必奏效。

回应柏林引入智能监控 属艺术项目非保安产品

韦克特把“数码迷彩”形容为一项由2025年开始、仍在发展中的穿戴式艺术作品,创作背景与柏林科特布斯门广场(Kottbusser Tor)引入智能摄录及行为分析技术有关。

他指出,这类系统不但拍摄途人,亦可能尝试把拥抱、跳舞、争执或打斗等动作分类为“正常”或“可疑”。作品希望提出一个问题:当公共空间内的监控演算法缺乏透明度,外界亦无法独立测试时,社会应在多大程度上信任机器的判断?

韦克特特别提醒,“数码迷彩”是艺术项目,不是保安产品,也不是供人逃避执法的工具。它针对的是“人物侦测”,即系统判断画面中有没有人的第一个步骤,并不等同确认身份的“人脸识别”。

“数码迷彩”最耐人寻味之处,或许正是它造成的视觉反差:在人群中最夺目的一件衣服,反而有机会成为AI眼中最不显眼的人。它未必足以令人逃离监控,却成功提醒公众,再先进的人工智能,也可能被一块布揭开盲点。

share to wechat

延伸阅读

延伸阅读

福克兰群岛|特朗普不满英国拒派军舰赴霍峡 暗示或不再支持其主权声索

波兰货车受困遭火车拦腰撞断酿4伤 传司机无视信号灯驶入|有片

蜘蛛侠|纽约华裔屋主买中漫威角色“旧居” 每日接待全球粉丝兼覆小朋友来信

美航母林肯号舰身严重锈蚀 舰长坦言似“脏车” 专家:恐影响船体结构