「AIが生成したデータ」をAIが学習するとどうなる?
「AIが生成したデータ」をAIが学習するとどうなる? / Credit:Canva,ナゾロジー編集
artificial-intelligence

【AI狂牛病】AIイラストで画像生成AIが学ぶデータ崩壊が起こりつつある

2024.08.09 Friday

画像生成AIモデルは、膨大なサンプルから学習し、新たな画像を生み出します。

その結果、今やネット上にはAI画像があふれています。

では、AIモデルが、知らず知らずのうちにAI画像を取り入れて学習するようになると、どうなるのでしょうか。

アメリカのライス大学(Rice University)に所属するリチャード・G・バラニューク氏ら研究チームは、生成AIモデルが合成データを学習して新たな合成データを生成するループが生じると、生成される合成データの品質はどんどん劣化していくと報告しました。

研究チームは、こうした状況を狂牛病(ウシにウシの肉骨粉をエサとして与える行為で蔓延した疾患)になぞらえています。

そして現在、静かに「AI狂牛病」が広がっているかもしれません。

この研究は2024年5月オーストリア・ウィーンで開催された深層学習分野の国際会議「ICLR 2024」で発表されていて、論文はプレプリントサーバーarXivに公開されています。

Breaking MAD: Generative AI could break the internet https://news.rice.edu/news/2024/breaking-mad-generative-ai-could-break-internet Cannibal AIs Could Risk Digital ‘Mad Cow Disease’ Without Fresh Data https://www.sciencealert.com/cannibal-ais-could-risk-digital-mad-cow-disease-without-fresh-data
SELF-CONSUMING GENERATIVE MODELS GO MAD(PDF) https://doi.org/10.48550/arXiv.2307.01850

ウシがウシを食べて広がる「狂牛病」

ウシがウシを食べることで狂牛病が蔓延した
ウシがウシを食べることで狂牛病が蔓延した / Credit:Canva

一時期、狂牛病(正式名称は「牛海綿状脳症」)が大きな話題を呼びました。

これは1986年、イギリスで最初に報告されたウシの病気であり、狂牛病にかかったウシは、脳の中に空洞ができてスポンジ状になります。

潜伏期間は数カ月から数年であり、発症後は、異常行動・運動失調(群れから離れたりけいれんを起こしたりする)などの神経症状を示し、2週間~半年で死に至ります。

この狂牛病が蔓延した原因は、簡単に言うと、「ウシがウシを食べること」でした。

そもそも狂牛病は、健康なウシも持っている「プリオン」というタンパク質が異常化したものによって生じたと考えられています。

そして狂牛病のウシを原料とした肉骨粉を、他のウシにエサとして与えたことで多くのウシが狂牛病に感染しました。

世界ではこれまでに19万頭あまり(うちイギリスで約18万5000頭)の狂牛病のウシが見つかっています。

そして現在、全く分野の異なるAIの世界で、狂牛病に似た恐ろしい現象が生じ始めています

次ページ次世代AIモデルの開発における課題

<

1

2

3

>

人気記事ランキング

  • TODAY
  • WEEK
  • MONTH

Amazonお買い得品ランキング

AI・人工知能のニュースartificial-intelligence news

もっと見る

役立つ科学情報

注目の科学ニュースpick up !!