Point
■イラストを身体の前にかざすことで、監視カメラの自動認識システムを欺くことができる■AIシステムがイラストを「遠景」として認識することで、人も背景の一部となる
■イラストを身体の前にかざすことで、監視カメラの自動認識システムを欺くことができる■AIシステムがイラストを「遠景」として認識することで、人も背景の一部となる
AI「人間？おらへんで」
ベルギーのルーベン・カトリック大学の研究チームは、監視カメラの自動検出システムを欺く様子を撮った動画を公開した。
その方法はなんと、身体の前に「イラスト」をかざすだけだという。まるで『攻殻機動隊』の世界だ。
動画を見てみると、イラストをかざした男性は「ヒト」としてだけでなく「モノ」としても感知されていないのが分かる。つまりAIの目には何も映ってないということらしい。まさに透明人間。
研究の詳細は、4月18日付けで「arXiv」に掲載されている。
Fooling automated surveillance cameras: adversarial patches to attack person detection
https://arxiv.org/abs/1904.08653
https://arxiv.org/abs/1904.08653
イラストで人が「背景化」してしまう
これは「攻撃ステッカー(adversarial patch)」と呼ばれる方法で、特定の画像を用いることでAIのアルゴリズムが正しく機能しなくなるもの。イラストがノイズとなって自動認識システムの精度がガクッと落ちるらしい。
この動画では、AIがイラストを「遠景」として判断した結果、それを持っている人も背景の一部となったもの。よって、カメラに撮影される映像そのものには何の誤作動もない。
要するにこれはAI自体の理解力を狂わすことによって、「ヒト」を認識不能にさせたというわけである。
