(%)人間による正解率, (R)本物の顔, (S)合成顔
(%)人間による正解率, (R)本物の顔, (S)合成顔 / Credit:Sophie J. Nightingale et al., Proceedings of the National Academy of Sciences(2022)
artificial-intelligence

ロシアがAI合成ウクライナ人を使いSNS上で情報戦を展開 AI合成されやニセ顔は本物より信頼される!? 

2022.03.05 Saturday

A.I. face study reveals a shocking new tipping point for humans https://interestingengineering.com/ai-faces-shocking-tipping-point?utm_source=rss&utm_medium=article&utm_content=20022022 Russian trolls are busted trying to undermine President Zelensky by creating FAKE Facebook profiles for AI-generated Ukrainian citizens who ‘want to escape their country’s neo-Nazi dictatorship’ https://www.dailymail.co.uk/sciencetech/article-10570087/Russia-accused-creating-social-media-accounts-fake-Ukrainians.html
AI-synthesized faces are indistinguishable from real faces and more trustworthy https://www.pnas.org/doi/10.1073/pnas.2120481119

AIによる画像合成「ディープフェイク」が登場して以来、「本物と見分けがつかない偽物画像」が生成されるようになりました。

そして実際、戦争においても情報戦で悪用されています。

最近でも、ロシアで活動するグループが「存在しないウクライナ人」を作り上げ、SNS上のアカウントでウクライナの政治批判を行っていると発覚しました。

こうしたAI合成の偽顔を使った情報戦は、実際かなり有効である可能性が、最近の研究から示されています。

イギリス・ランカスター大学(Lancaster University)心理学部に所属するソフィー・ナイチンゲール氏ら研究チームは、これらAI合成画像の危険性を裏付ける研究結果を発表しています。

研究はこのニュースより以前に発表されているものですが、人々はAIによって合成された顔を、本物の顔よりも「信頼できる」と評価するというのです。

研究の詳細は、2022年2月14日付の学術誌『Proceedings of the National Academy of Sciences』に掲載されました。

AI合成顔の方が本物より信頼性が高い

研究チームは、AIによって生成された顔が、どれほど人をだませるのか調査することにしました。

そのために、まずアメリカの半導体メーカー「NVIDIA」のAIを用いて、400人の合成顔を作成

これらの合成顔は、男性と女性の2つの性別、また黒人、白人、東アジア人、南アジア人からなる4つの人種に分類されていました。

そしてここに本物の顔を追加し、本物と偽物が入り混じった800のサンプルを用意しました。

類似した顔の比較。(R)本物の顔, (S)合成顔
類似した顔の比較。(R)本物の顔, (S)合成顔 / Credit:Sophie J. Nightingale et al., Proceedings of the National Academy of Sciences(2022)

最初の実験では、315人の参加者に800のサンプルのうち128の顔画像を見てもらい、それぞれが本物か偽物か判断してもらいました。

その結果、正解率は48.2%でした。

2択の問題で正解率が半分以下ということは、真偽の判別が非常に難しく、むしろ「合成顔の方が本物っぽい」とさえ言えるでしょう。

2つ目の実験では、参加者にいくつかの判別するための手がかりが与えられました。

画像を評価する前にAIによって生成された顔の特徴をレクチャーしたのです。

その結果、正解率は59%になりました。

判別のレクチャーがあっても正解率は少ししか上昇しなかったのです。

3つ目の実験では、参加者に128の顔画像を、どれほど信頼できると思うか、7段階で評価してもらいました

その結果、「AI合成顔の方が本物よりも平均7.7%信頼度が高い」という結果になったようです。

 

信頼度の評価(7段階)。(R)本物の顔, (S)合成顔
信頼度の評価(7段階)。(R)本物の顔, (S)合成顔 / Credit:Sophie J. Nightingale et al., Proceedings of the National Academy of Sciences(2022)

研究チームは、「合成顔の方が信頼されるのは、AIが平均的な顔にもとづいて生成するため」だと考えています。

「特徴を持った本物の顔」よりも「偽物の平均的な顔」の方が信頼されやすい、ということでしょう。

さて今回の結果をまとめると、「私たち人間は、本物よりもAI合成顔の方を信頼する傾向にあり、よりリアルに感じる」と言えます。

では、これほどのAI合成技術は、現在どのように悪用されているのでしょうか?

次ページロシアとウクライナ間の情報戦にAI合成が利用される

<

1

2

>

AI・人工知能のニュースartificial-intelligence news

もっと見る

役立つ科学情報

注目の科学ニュースpick up !!