■サルの脳にニューラルネットワークをつなげ、AIが生成する画像によって特定のニューロンが活性化するかどうかを確認する実験がおこなわれた■生成された画像の中には、実際にサルが過去にみたものを彷彿とさせるものもあった■「顔」を認識するニューロンをターゲットとしたものであったが、AIは「顔」と呼べない画像も多く生成した
どうしてこんな実験を思いつくんだ…
ハーバード大学の科学者らが、一風変わった実験を実施した。サルの脳にニューラルネットワークを接続し、サルが「顔」を認識する際に活性化するニューロンを刺激しようと試みたのだ。
研究者は、AIによって作り出される画像を示すことで、それら特定のニューロンをできるかぎり活性化させようとしたらしい。出来上がったものは、人間からするとちょっと不気味な画像である。
Evolving super stimuli for real neurons using deep generative networks
できあがったのは「悪夢」のような顔
AIシステムは近くの他エリアを刺激することなく、個別の脳細胞を刺激する画像を生成することを学習できたのだが…
できあがった画像は、「顔」と呼べるかどうかも際どい悪夢のようなものだった。
“XDREAM” と呼ばれるそのアルゴリズムは、ニューロンがどの画像に強く反応するのかといったフィードバックを受けながら、画像のモーフィング（変形処理）をおこなった。
New pre-print on #bioRxiv ‘Evolving super stimuli for real neurons using deep generative networks’. With @HombreCerebro, @WillXiao1, @Till_S_Hartmann, @gkreiman, and @mlivingstonehms https://t.co/OZMhiPllK1 pic.twitter.com/iTaI4nBEcE
— Peter Schade (@peterfschade) 2019年1月18日
「もし脳細胞が夢をみているのだとすれば、これらの画像がその夢の内容です」神経科学者のカルロス・ポンセ氏はそのように語っている。「これは脳のボキャブラリーが目に見える形になったものであり、私たち人間の目線からのバイアスを排除したものだといえます」
