iPhoneの「写真を勝手にスキャンして児童ポルノを通報するソフト」は思ったよりもガバガバかもしれない
iPhoneの「写真を勝手にスキャンして児童ポルノを通報するソフト」は思ったよりもガバガバかもしれない / Credit:GitHub
artificial-intelligence

2021.08.24 Tuesday

iPhone内の画像から勝手に児童ポルノを通報するAIに「欠陥」がみつかる (2/3)

ナゾロジーチャンネル動画公開中

多くの人々が混乱した「モンティ・ホール問題」! 直感に逆らう確率問題の原因は?

前ページ監視ソフトは個人のデータから児童ポルノ画像を勝手にスキャンして通報する

<

1

2

3

>

監視ソフトは犬の写真と抽象画を同じと認識していた

監視ソフトは犬の写真と抽象画を同じと認識していた
監視ソフトは犬の写真と抽象画を同じと認識していた / Credit:GitHub

NeuralHashの性能を確かめるためにあたり、GitHubのユーザーの1人は2枚の画像ペアを比べました。

1枚目はの写真、そしてもう1枚の抽象的画像は、犬の写真をもとにNeuralHashに「似ている画像」を作成するように指示したものになります。

ぱっと見ただけでも2枚の画像は大きく異なることがわかります。

しかしNeuralHashはこの2枚を「同一」とみなしていたのです。

監視ソフトは犬の写真と少女の写真を同じと認識していた
監視ソフトは犬の写真と少女の写真を同じと認識していた / Credit:GitHub

同様のエラーはすぐに、実際の写真を含む他のペア(犬と少女)でもみつかりました。

この結果は、数十万枚の児童ポルノを機械学習したAIと人間の目では、現実(写真のペア)は異なるようにみえていることを示します。

次ページAppleは既に児童ポルノ以外のデータもスキャンしていた

<

1

2

3

>

人気記事ランキング

  • TODAY
  • WEEK
  • MONTH

AI・人工知能のニュースartificial-intelligence news

もっと見る

役立つ科学情報

注目の科学ニュースpick up !!