偽のコンテンツがどれほど早く制御不能になるか見たことがありますか？ジャーナリストのヤルダ・ハキムを題材にしたディープフェイク映像がソーシャルメディア上で爆発的に拡散し、人々は怒り、もはや何が本物なのか全く分からなくなっています。

ハキム本人もこの危険性を指摘しています。こうした捏造映像が野放しに拡散されると、すでに火薬庫の上に座っているような国々を実際の紛争へと押しやる可能性があるのです。存在しない発言に外交官が反応したり、完全な虚構に基づいて市民が行動を要求したりすることを想像してみてください。

恐ろしいのは、これらAI生成映像がますます本物らしくなってきていることです。オンライン上の混乱が瞬く間に現実世界の影響へと波及し、評判の失墜、外交問題、さらには軍事的緊張へとつながる可能性もあります。今や「見たものが信じられる」時代は終わりつつあり、その解決策を誰も完全に見出せていないのが現状です。