将来、ディープフェイクによって記録は改ざんされ放題かも!?
ディープフェイクの恐ろしさは、現段階でもこの高度なレベルの合成が可能だという点、そして、これらがAIによって行われるという点にあります。
フェイクビデオのクオリティは今後も向上していくでしょう。しかもAIがこれを行なうため、フェイクビデオ生成は専門家でなくとも可能です。
もちろん、現在動画がディープフェイクであるかどうか検出できます。しかし、ディープフェイクを作成するAIは絶えず学習するため、現在の検出方法が将来通じるとは限りません。いたちごっこになってしまう可能性があります。
これまで映像は「信頼性の高い証拠」としての役割を担ってきました。しかしその信頼性は崩れ去ろうとしています。
将来、携帯アプリで簡単にディープフェイクが作れるようになるでしょう。見分けづらい架空の情報と改ざんされた記録がネット上に溢れるのです。
また「政治家の発言」はビデオとして保存され、歴史の一部となってきました。そして既に亡くなった人の発言をディープフェイクで改ざん・捏造するなら、その真偽を確かめことは難しいでしょう。少なくとも一部の人々は騙されてしまうはずです。
これはつまり「歴史の改ざん」なのです。
