ロシアとウクライナ間の情報戦にAI合成が利用される
「本物よりも本物らしい合成顔」は、すでにさまざまな分野で悪用されています。
代表的なのは合成ポルノです。
有名人の顔が無許可で合成され、ポルノとして世界中に拡散されてしまうのです。
自分が標的になることを考えると、恐怖でしかありませんね。
またAI合成技術を利用すれば、偽の情報を簡単にでっち上げることも可能。
それは現在のロシアとウクライナ間の戦争で生じていることからも明らかです。
最近、ロシアのあるグループが、ウクライナ人の顔をAIで合成し、FacebookやTwitterアカウントで政治的発言をしていたことが発覚したのです。
“Vladimir” has a whole backstory on the Ukraine Today website. He was an aviation engineer, until he was forced into blogging when Ukraine’s aviation infrastructure “collapsed.”
He also has weird ears, which is what happens when you make a face on https://t.co/Gr3BMTJttU pic.twitter.com/n0ogfNXhqT
— Ben Collins (@oneunderscore__) February 28, 2022
生成された「いかにもウクライナ人らしい顔」の2つのアカウントのプロフィールには、それぞれ元航空技師や元ギター教師と記載されていました。
そして彼らは、ウクライナに対する批判的な情報を発信し続けていたのです。
一見プロフィール画像は何の問題もないように見え、SNSを見た人は、彼らの主張も1つの意見として受け入れるかもしれません。
ところがアメリカの放送会社NBCに所属するベン・コリンズ氏は、彼らの画像には、「耳の形がおかしいこと」や「左右のイヤリングが不揃い」など、AI生成ならではの欠点が見られると指摘。
Vladimir’s coworker Irina Kerimova from Kharkiv was also AI-generated.
She was a private guitar teacher (?) until she became editor-in-chief of this Russian propaganda website in 2017. Quite a promotion!
Also, interesting choice of mismatched earrings. pic.twitter.com/lor2gVsV4M
— Ben Collins (@oneunderscore__) February 28, 2022
また不正文書を検出するサービス「Sensity」もこれらの画像を偽物だと判定しました。
現在、これら偽ウクライナ人たちのアカウントは各社の対応によって削除されているようです。
さて、このことから、AIによる合成画像は既に国家間の情報戦に利用されていると分かります。
今回の偽情報は、世界中の関心が寄せられている問題だからこそ暴かれました。
では、もっと限定された分野で偽情報が出回っていたらどうでしょうか？
きっと私たちは今回の研究結果にあるように、「偽情報の方が信頼できる」と誤認してしまうことさえあるでしょう。
これまで信頼性が高いと考えられていた「顔写真付きのプロフィール」も、疑いの目で見なければいけない時代が到来したのです。
