さらに事態を複雑にしているのが、生成AI技術の爆発的な進化だ。実在しないモデルによるフェイク動画や、既存のインフルエンサーの顔を合成したディープフェイク動画が、本物と見分けがつかない精度で大量生産されている。これらは著作権や肖像権の侵害だけでなく、性的な搾取という深刻な人権侵害を引き起こしている。
テクノロジーの民主化は、悪意あるユーザーにとっても強力な武器となった。プラットフォーム側が検知システムをアップデートしても、AI生成側はそれを回避する新たな学習モデルを即座に構築する。いたちごっこは今も続いている。
