左が本物。より本物っぽくみえる右がディープフェイク
左が本物。より本物っぽくみえる右がディープフェイク / Credit:Canva . ナゾロジー編集部
brain
Your brain is better at busting deepfakes than you are https://medicalxpress.com/news/2022-07-brain-deepfakes.html
Are you for real? Decoding realistic AI-generated faces from neural activity https://www.sciencedirect.com/science/article/abs/pii/S0042698922000852?via%3Dihub

2022.07.13 Wednesday

ディープフェイク画像を見たとき脳は普段と異なる反応をしていたと判明

途中判断が最終判断よりも優れていました。

オーストラリアのシドニー大学(The University of Sydney)で行われた研究により、私たちはディープフェイク技術で作られた人工の顔写真をみたときと本物の顔写真をみたときでは、脳で異なる神経活動が観察されることが発見されました。

人間はどの顔が本物でどの顔が偽物かを「口頭」で答えるテストでは悲惨な成績を収めたものの、脳波を測定すると、本物を見た瞬間と偽物を見た瞬間では、別の信号が発生していたのです。

そのため研究者たちは、ディープフェイクによって作られた偽の顔画像には、人間には認識できないレベルでの弱点が存在する可能性が高いと述べています。

しかし、脳が偽物を見抜いているにもかかわらず、なぜ私たちの「口頭」での答えは間違ってしまうのでしょうか?

研究内容の詳細は2022年の10月付けで『Vision Research』にて掲載されています。

人間はディープフェイクに本物よりリアリティーを感じてしまう

左が本物の人間の顔で右がディープフェイク。なんとなく右の顔の方がリアリティーがあるように見えてしまう
左が本物の人間の顔で右がディープフェイク。なんとなく右の顔の方がリアリティーがあるように見えてしまう / Credit:Michoel L.Moshel et al . Are you for real? Decoding realistic AI-generated faces from neural activity (2022) . Vision Research

十数年ほど前には、写真や動画で映し出される人間が本物かどうかを、疑う必要はありませんでした。

当時の最新のグラフィック技術でもリアリティーのある風景や建物を表現する術はありましたが、顔の表情や声といった繊細な部分になると、どうしても粗が目立ち、容易に偽物だと見破ることができました。

しかし急速なディープフェイク技術の進歩により、本物とソックリな偽の顔画像を作成することが可能になり、本物と見分けのつかない自然な表情や声で私たちに語り掛けてくるようになっています。

ですが素晴らしい技術は犯罪の手段にもなりえます。

有名な例では、英国ドバイで起きた詐欺事件です。

犯人たちは銀行の「上客」の声をディープフェイクで再現し、巨額の資金を自分の口座に振り込ませることに成功したのです。

犯人たちは「上客」のカードやパスワードを盗む代わりに、声のサンプルを盗んでAIに学習させていたのです。

この声のディープフェイク技術が犯罪者たちに広く普及すれば、日本における振り込め詐欺は被害も爆発的に増加するでしょう。

また2016年の米国大統領選挙では、ロシアによって開発されたディープフェイク技術を利用した5万ものTwitterボットたちの働きにより、ドナルド・トランプ氏の得票率が3%以上も増加した可能性が示されています。

同様の手段が日本の選挙期間に他国によって使われる可能性は捨てきれません。

そのためディープフェイク技術による詐欺や投票操作を防止するには、人間がいかにして騙されるかを知らなければなりません。

そこで今回シドニー大学の研究者たちは被験者たちを2グループにわけ、1グループ目には、ディープラーニングによって作成された50枚の偽の顔写真と本物の人間の顔写真を用意してどれが本物か偽物かの判断をしてもらいました。

2グループ目には、同じ本物と偽物が混じった写真を、波を測定しつつ見てもらいました。ただし2グループ目の人々には、写真に偽物の顔写真が含まれていることは教えられておらず、文字通りただ見ただけでした。

結果、まず1グループ目で興味深い事実が判明します。

本物と偽物を判別するように求められた被験者たちは、単に2つを見抜けないだけではなく、偽物の顔写真のほうを本物の人間の写真だと答える傾向が強かったのです。

そのため正答率は、50%を下回る37%となっていました。

写真を見ずに「本物・偽物」の判断を下す場合の正答率が50%であることを考えると、ディープフェイクで作られた顔写真は本物よりもリアリティーを強く感じさせる何かが存在していると言えるでしょう。

ディープフェイク技術に用いられるAIは無数の人間の顔写真のパターンを学習し、本物の人間ソックリの偽写真を作るように教育が行われますが、どういうわけか本物を超えたリアリティーを感じさせるように進化していたようです。

しかしより興味深い結果は脳波が測定された2グループ目にみられました。

私たちの意志は本物より偽物にリアリティーがあると判断を下しましたが、私たちの脳は違っていたのです。

次ページ脳は本物と偽物を無意識で見分ける

<

1

2

3

>

人気記事ランキング

  • TODAY
  • WEEK
  • MONTH

脳科学のニュースbrain news

もっと見る

役立つ科学情報

注目の科学ニュースpick up !!