たった6時間で4万種の「化学兵器」をデザイン
AIは限定的な場面では、人間の知能をはるかに超える働きをすることが可能です。
しかしAIに善悪の概念はありません。
人類を助けるために生み出されたAIでも、使う人間が悪意を持ってその知能を利用するなら、彼らは人類の脅威になりかねません。
そんな、AIの”悪のスイッチ”を起動させるというアイデアは、スイス・シュピーツ研究所（Spiez Laborator）の主催する「コンバージェンス会議（Convergence Conference）」で提案されました。
2年ごとに開催されるこの会議では、科学や軍事の専門家が集まり、核・生物・化学兵器の現状や脅威について話し合っています。
本研究の目的は、人類にとって役立つツールや技術が、化学兵器の領域で、意図せず持ちうる「負の側面」を理解することにありました。
そこで、米国のバイオベンチャー企業「コラボレーション・ファーマスーティカルズ（Collaborations Pharmaceuticals）」が中心となり、AIを悪用した場合の結果をシミュレーション。
同じ技術はふつう、病気の治療に使えそうな化合物の生成に用いられていますが、ここでは”悪のスイッチ”を入れて、致死的な化合物の組み合わせを探させました。
その結果、なんとAIは、たった6時間で約4万種類におよぶ致死的な化合物をデザインしたのです。
報告によると、「一度、悪のスイッチを入れてしまうと、AIは数千もの毒物の組み合わせをすばやく発明でき、しかもその多くは、現在使われている最も危険な神経ガスに類似していた」という。
AIが生み出した化合物の中には、きわめて毒性の強い神経ガスとして有名な「VX」に酷似したものがありました。
これは、研究者たちにとって衝撃的でした。
この化学物質は、ほんの少量で激しい痙攣を引き起こし、呼吸機能を停止させられるからです。
AIの手による化合物にも、これと同じ効果を持つと見られるものが多く見られました。
具体的には、アセチルコリンエステラーゼという酵素を阻害する作用です。
私たちが筋肉を動かすときはいつでも、人体の神経がこの酵素を「筋肉を動かしてこい」という信号として使います。
ところが、この信号が阻害されると、横隔膜や肺の筋肉が動かなくなり、呼吸できなくなるのです。
身近なもので「危険な化学兵器」が作れてしまう？
研究主任の一人であるファビオ・ウルビナ（Fabio Urbina）氏は、今回の発見で最も恐ろしかったことの一つとして、AIが広く入手可能な有毒化学物質のデータセットを用いていることを挙げます。
つまり、身近にある化学物質を使って、最も危険な化学兵器と同様のものを作り出すことがいかに簡単であるかを物語っているのです。
「私たちが使ったデータセットの多くは無料で公開されており、いつどこからでもダウンロードできるものでした。
プログラミングや機械学習の知識がある人なら、おそらく週末のちょっとした時間で、これらのデータセットを用いた化合物の生成モデルを作れてしまうでしょう。
それが、今回の研究論文を世に発表しようと決めた大きな理由の一つでした。
現状、この種の悪用に対する予防対策は非常に脆弱だからです」
ウルビナ氏はそう言います。
もし、AIがこのように悪用されたり、あるいはAI自身が意思を持って人類に反旗をひるがえすことがあれば…
高度な科学技術は「諸刃の剣」であることを忘れてはならないでしょう。
