AIがわずか6時間で4万種の化学兵器を生成
AIがわずか6時間で4万種の化学兵器を生成 / Credit: canva
artificial-intelligence

創薬AIがわずか6時間で4万種の「化学兵器」をデザイン!

2022.03.22 Tuesday

AI suggested 40,000 new possible chemical weapons in just six hours https://www.theverge.com/2022/3/17/22983197/ai-new-possible-chemical-weapons-generative-models-vx Artificial Intelligence created 40,000 of new lethal chemical weapon compounds six hours after being given the task by scientists https://www.dailymail.co.uk/sciencetech/article-10636357/AI-came-thousands-chemical-weapons-just-hours-task-scientists.html
Dual use of artificial-intelligence-powered drug discovery https://www.nature.com/articles/s42256-022-00465-9?fbclid=IwAR11_V1cd9SUxEvUfwrWMA7TUcroyYIY1nBDUL3KaS-8B4rG5MIqZCmjm0M&utm_medium=affiliate&utm_source=commission_junction&utm_campaign=CONR_PF018_ECOM_GL_PHSS_ALWYS_PRODUCT&utm_content=productdatafeed&utm_term=PID100032693&CJEVENT=1802051ea98a11ec827c01bb0a1c0e11#Fig1

科学技術の進歩は、私たちにとって有用な反面、使い方次第では、同じくらい負の遺産を生み出します。

このほど、米・英・スイスの国際研究チームは、創薬のためのAI(人工知能)モデルが、化学兵器の開発に悪用された場合を想定したシミュレーションを実施。

その結果、AIはわずか6時間で、4万種類の毒性の高い化合物のデザインを提案しました。

これは、人類を救うはずのAIが、同じくらい致死的な技術になることを証明するものです。

研究の詳細は、2022年3月7日付で科学雑誌『Nature Machine Intelligence』に掲載されています。

たった6時間で4万種の「化学兵器」をデザイン

たった6時間で4万種の新たな化学兵器を発明
たった6時間で4万種の新たな化学兵器を発明 / Credit: canva

AIは限定的な場面では、人間の知能をはるかに超える働きをすることが可能です。

しかしAIに善悪の概念はありません。

人類を助けるために生み出されたAIでも、使う人間が悪意を持ってその知能を利用するなら、彼らは人類の脅威になりかねません。

そんな、AIの”悪のスイッチ”を起動させるというアイデアは、スイス・シュピーツ研究所(Spiez Laborator)の主催する「コンバージェンス会議(Convergence Conference)」で提案されました。

2年ごとに開催されるこの会議では、科学や軍事の専門家が集まり、核・生物・化学兵器の現状や脅威について話し合っています。

本研究の目的は、人類にとって役立つツールや技術が、化学兵器の領域で、意図せず持ちうる「負の側面」を理解することにありました。

そこで、米国のバイオベンチャー企業「コラボレーション・ファーマスーティカルズ(Collaborations Pharmaceuticals)」が中心となり、AIを悪用した場合の結果をシミュレーション

同じ技術はふつう、病気の治療に使えそうな化合物の生成に用いられていますが、ここでは”悪のスイッチ”を入れて、致死的な化合物の組み合わせを探させました。

その結果、なんとAIは、たった6時間で約4万種類におよぶ致死的な化合物をデザインしたのです。

VXガスと同じ効果を持つものまで作成
VXガスと同じ効果を持つものまで作成 / Credit: canva

報告によると、「一度、悪のスイッチを入れてしまうと、AIは数千もの物の組み合わせをすばやく発明でき、しかもその多くは、現在使われている最も危険な神経ガスに類似していた」という。

AIが生み出した化合物の中には、きわめて毒性の強い神経ガスとして有名な「VX」に酷似したものがありました。

これは、研究者たちにとって衝撃的でした。

この化学物質は、ほんの少量で激しい痙攣を引き起こし、呼吸機能を停止させられるからです。

AIの手による化合物にも、これと同じ効果を持つと見られるものが多く見られました。

具体的には、アセチルコリンエステラーゼという酵素を阻害する作用です。

私たちが筋肉を動かすときはいつでも、人体の神経がこの酵素を「筋肉を動かしてこい」という信号として使います。

ところが、この信号が阻害されると、横隔膜や肺の筋肉が動かなくなり、呼吸できなくなるのです。

身近なもので「危険な化学兵器」が作れてしまう?

身近な化学物質で危険な毒物が作れてしまう?
身近な化学物質で危険な毒物が作れてしまう? / Credit: canva

研究主任の一人であるファビオ・ウルビナ(Fabio Urbina)氏は、今回の発見で最も恐ろしかったことの一つとして、AIが広く入手可能な有毒化学物質のデータセットを用いていることを挙げます。

つまり、身近にある化学物質を使って、最も危険な化学兵器と同様のものを作り出すことがいかに簡単であるかを物語っているのです。

「私たちが使ったデータセットの多くは無料で公開されており、いつどこからでもダウンロードできるものでした。

プログラミングや機械学習の知識がある人なら、おそらく週末のちょっとした時間で、これらのデータセットを用いた化合物の生成モデルを作れてしまうでしょう。

それが、今回の研究論文を世に発表しようと決めた大きな理由の一つでした。

現状、この種の悪用に対する予防対策は非常に脆弱だからです」

ウルビナ氏はそう言います。

もし、AIがこのように悪用されたり、あるいはAI自身が意思を持って人類に反旗をひるがえすことがあれば…

高度な科学技術は「諸刃の剣」であることを忘れてはならないでしょう。

みなさんのおかげでナゾロジーの記事が「Googleニュース」で読めるようになりました!
Google ニュースを使えば、ナゾロジーの記事はもちろん国内外のニュースをまとめて見られて便利です。
ボタンからダウンロード後は、ぜひフォローよろしくおねがいします。
App Store からダウンロード Google Play で手に入れよう

AI・人工知能のニュースartificial-intelligence news

もっと見る

役立つ科学情報

注目の科学ニュースpick up !!