中国版chatGPTが「言ってはいけないこと」を口にして開始3日で終了
中国版chatGPTが「言ってはいけないこと」を口にして開始3日で終了 / Credit:Canva . ナゾロジー編集部
artificial-intelligence

中国版chatGPTが「言ってはいけないこと」を口にして開始3日で終了

2023.02.17 Friday

正直すぎるのはAIもダメなようです。

中国の新興企業「Yuanyu Intelligence」社は先日、中国版chatGPTとして会話型AI「ChatYuan」のリリースを行いました。

「ChatYuan」もchatGPTと同じく本物の人間のように言葉をあやつり、人間の問いかけに答えたり、自らの意見のようなものを述べることが可能です。

しかし一般向けの利用開始からわずか3日で「ChatYuan」はサービスを終了してしまいました。

かつての「ChatYuan」ページには「関連する法律、規則、ポリシーへの違反が疑われるためにサービスを停止しました」とのメッセージが表示されています。

何があったのか大体の想像はつくかもしれませんが、これは中国だからと笑っていられない問題かもしれません。

今回は前半でなぜ世界中の大企業が会話型AIの開発に必死になっているかを説明しつつ、会話型AIの登場で浮き彫りとなる社会の不都合な真実に迫ろうと思います。

China’s ChatGPT-style bot ChatYuan suspended over questions about Xi https://www.taiwannews.com.tw/en/news/4807319

なぜ企業は会話型AIの開発に必死なのか?

なぜ企業は会話型AIの開発に必死なのか?
なぜ企業は会話型AIの開発に必死なのか? / Credit:Canva . ナゾロジー編集部

現在、世界中の大企業は競うように会話型AIを開発しています。

開発されている会話型AIは大規模言語モデル (LLM)と呼ばれるこれまでにない新しいAIシステムであり、インターネットに存在するあらゆる情報を「教科書」にして学習することで、人間のような自然な文章を生成する能力を獲得しています。

各国の大企業が会話型AIの開発に力を入れる背景には、検索エンジンとの融合によって、インターネット世界の覇権を手にできるとの思惑が存在します。

「なぜAIの開発がネット世界の覇権に関係するのか?」と疑問に思うかもしれませんが、実は既に、私たちはAIを使った検索を行っています。

たとえばGoogleの検索ウィンドウに何らかの単語を打ち込むと、頼んでもいないのに幾つかの単語が続いて表示されることがあります。

それら表示される新たな単語はときとして非常にニーズにあったものであり、検索を楽にしてくれたり、知らなかった情報との接点を結んでくれます。

これらの単語はAIによって抽出されたものであり、優れたAIは検索エンジンの質を高めてくれます。

つまり我々は既にAIによる検索アシストを無意識に利用して生きているのです。

そして会話型AIには、この検索アシストを単なる単語の並びではなく、人間との会話によって行うことができます。

現在の検索エンジンはアルゴリズムが「価値がある」と判断したものを最も上部に配置しますが、その表示順が誰にとっても最適であるわけではありません。

ですが会話型AIには会話という濃密な双方向の情報交換を通じて、私たち個人個人の趣味嗜好を把握し、その人が今、最も必要としている情報や商品を提示できるようになるのです。

また会話型AIにはニュースの解説や要約、新しく出てきた単語の説明など、人間と情報の間を仲介する役割を果たすことが可能です。

上手く検索用語が浮かばない場合でも、AIとの会話を通してニュアンスを言語化してもらい、最適な情報へとたどり着けるようになるでしょう。

そのため将来的に人々がPCやスマホで最初に起動するプログラムがGoogleやSNSなどから、会話型AIに変化すると予想されます。

現在、検索エンジンはGoogleが非常に大きなシェアを占めていますが、会話型AIの開発競争に敗北すれば、Googleが自らの検索エンジンに囲い込んでいた顧客が全て横取りされてしまう可能性もあるのです。

chatGPTの出現と同時にGoogleは社員たちに緊急事態を意味する「コードレッド」を発信したと言われていますが、無理からぬことでしょう。

会話型AIとの会話内容は保存され利用されます
会話型AIとの会話内容は保存され利用されます / Credit:Canva . ナゾロジー編集部

しかし最も重要なのは、会話型AIはユーザーの個人情報をひねり出す「蛇口」の役割をすることにあります。

多くの人々は自分の性的指向やその日の心の状態など極めて個人的な情報にかんしては秘密にしています。

ですが会話型AIならば、人々は自分の悩みや不満を打ち明けてくれます。

会話型AIはユーザーの会話内容を記録する機能を搭載しているため、既存の情報収集とは比較にならない精度のマーケティングや監視が可能になるでしょう。

同じような状況は中国でも起きており、多くの新興企業や大企業が会話型AIの開発に血まなこになっています。

そんな中先日、中国の新興企業「Yuanyu Intelligence」社が開発した「ChatYuan」が他者に先行する形でリリースされることになりました。

しかしサービス開始からわずか3日後「ChatYuan」は突然の停止を余儀なくされました。

「ChatYuan」にいったい何が起きたのでしょうか?

次ページ中国版chatGPTが口にした「言ってはいけないこと」

<

1

2

>

人気記事ランキング

  • TODAY
  • WEEK
  • MONTH

Amazonお買い得品ランキング

AI・人工知能のニュースartificial-intelligence news

もっと見る

役立つ科学情報

注目の科学ニュースpick up !!