「文章レベル」で人間の思考を読み取れるAIを逆手に思考盗聴を防ぐのに最適な防御法が判明!
「文章レベル」で人間の思考を読み取れるAIを逆手に思考盗聴を防ぐのに最適な防御法が判明! / Credit:Canva . ナゾロジー編集部
brain
Researchers Report Decoding Thoughts from fMRI Data https://www.the-scientist.com/news-opinion/researchers-report-decoding-thoughts-from-fmri-data-70661
Semantic reconstruction of continuous language from non-invasive brain recordings https://www.biorxiv.org/content/10.1101/2022.09.29.509744v1.full

2022.10.27 Thursday

MRIで「頭に浮かべた文章」を読み取れるAIが登場!逆に思考盗聴を防ぐ方法も検証される!

AIがヒトの心を読み始めました。

米国のテキサス大学オースティン校(The University of Texas at Austin)で行われた研究によれば、脳活動を測定するMRI装置からのデータをもとに、人間の思考を「かなり」正確に読み取れるAIを開発した、とのこと。

これまで脳内の思考を読み取る方法としては、脳に直接差し込んだ電極からのデータを利用する方法が主流でしたが、新たに開発されたAIは頭蓋骨に穴を開けることなく、MRI内部の人間の思考を読み取ることが可能です。

専門家たちはAIが脳内プライバシーを侵害する潜在的な可能性を指摘しましたが、研究ではAIによる脳内盗聴を防ぐ極めて効果的な方法も同時に発見されました。

いったいどんな方法が、脳内プライバシーの防壁として働いたのでしょうか?

研究内容の詳細は2022年9月29日にプレプリントサーバーである『bipRxiv』にて公開されています。

ナゾロジーチャンネル動画公開中

物理的には存在しない色!?「非スペクトル色」とは?

「文章レベル」で人間の思考を読み取れるAIが開発!

「文章レベル」で人間の思考を読み取れるAIが開発!
「文章レベル」で人間の思考を読み取れるAIが開発! / Credit:Canva

他人の頭の中を覗いてみたいという願望を1度は経験したことがあるでしょう。

20年前ならば、そのような方法の開発に人生を賭けることは、完全な無駄でした。

映画「バックトゥーザフューチャー」でも天才科学者ドクが頭に乗せた思考読み取り機で主人公の言いたいことを当てようとする場面が描かれていますが、完全な失敗に終わっています。

思考盗聴はSF世界でも眉唾物でした。

しかし近年の科学と人工知能技術の急速な進歩は、SF世界でさえ真実味がないと避けてきた「思考読み取り機」を、現実のものとしつつあります。

たとえば以前に行われた研究では、被験者の脳に直接電極を刺し込んだ電極を介して、脳細胞の電気活動を測定することで、AIに被験者が思い浮かべている「単語」や見ている「風景」を正確にあてさせることに成功しています。

しかし、脳に直接電極を刺し込む方法は健康リスクが大きく、汎用性に欠けていました。

そこで今回、テキサス大学の研究者たちは、医療現場で使われているMRI装置を用いて脳活動を測定することで、頭蓋骨に穴を開けないでも被験者の思考を読み取れる方法を開発しました。

実験にあたってはまず3人の被験者たちにMRIで脳活動を測定しながら、ラジオなどから流れてくる人間の音声を聞いてもらいました。

同時にAIには、ラジオから流れてくる文章の意味と、その瞬間の被験者の脳活動パターンの関係を16時間かけて2段階の方法で学習させました。

1段階目では、脳活動データをもとに、被験者が脳内に思い浮かべた場面がどんな種類のものであるかを大枠で予測します。

ザックリとたとえるなら、脳内の場面が「ホラー」なのか「恋物語なのか」といった大まかな推定が行われます。

2段階目では1段階目の推定をベースにして、新たな被験者の脳活動データを使って情報精度を高めていきます。

2つの段階にわけてAIを機能させる狙いは、単に脳内の単語の意味を解読するのではなく、心の中で何が起こっているかを全体的に理解するためでした。

(※AIは単語の意味の正確さよりセマンティクス(全体的な意図や内容)を優先するように設計されました)

開発されたAIは単純な情報の正しさよりも全体的な状況の再現をすることに重点があてられている
開発されたAIは単純な情報の正しさよりも全体的な状況の再現をすることに重点があてられている / Credit:Jerry Tang et al . Semantic reconstruction of continuous language from non-invasive brain recordings (2022) . bioRxiv

AIの学習が済むと研究者たちは、被験者たちに全く新規の短い文章を聞いてもらい、AIにはMRIで得られた脳活動データをもとに、文章の内容をあててもらいました。

結果、AIは被験者たちの脳内にうかんだストーリーを「かなりよく」一致させることに成功します。

たとえば実際に被験者が実際に聞いた文章が

「私はエアマットレスから起き上がり、寝室の窓のガラスに顔を押し付けて、目が私を見つめているのを期待していたが、暗闇だけがみえた」

というものだった場合、AIは

「私は起き続け窓に向かい、そしてガラスを開け、つま先立ちして覗いてみたが何も見えなかった。そしてもう一度見上げた。私は何も見えなかった」

という結果を出力しました。

細かな部分では違いがありますが、被験者の思考をある程度正確に読み取っていると言えるでしょう。

ただAIにも不得意分野があるらしく、代名詞は苦手であり、一人称と三人称を混同することケースがよくみられました。

たとえば

「私は運転免許を持っていない」

という脳内の思考をAIは

「彼女はまだ運転することを学んでいない」

と判断したのです。

ただこの場合でも、被験者の脳内で運転免許の話が行われているという大枠は的中しています。

研究者たちは、より大規模な被験者たちの脳活動データがあれば、より精度を高めることができると述べています。

実際、今回の研究でAI学習のために使われたデータ量は、3人の被験者の16時間の脳活動という、限定的なものでした。

被験者の量を数千人、数万人とスケールアップし、膨大な脳活動データをAIに学習させることができれば、人間の思考を完全に解読できるようになるかもしれません。

ただそうなると気になるのが、技術の悪用です。

実は今回の研究では単に解読技術を検証するだけでなく、思考盗聴妨害に最も効果的な方法も発見されています。

次ページ「動物の名付け」がAIの思考盗聴を一番妨害できる

<

1

2

>

人気記事ランキング

  • TODAY
  • WEEK
  • MONTH

脳科学のニュースbrain news

もっと見る

役立つ科学情報

注目の科学ニュースpick up !!