被害の急増を受け、世界各国は法整備のスピードを一気に引き上げています。欧州連合(EU)が採択した「EU AI規制法(AI Act)」では、ディープフェイクコンテンツに対して「AIによって生成・操作されたものである旨の明確な開示義務(ラベル付け)」を厳格に義務付け、違反企業には巨額の制裁金を科す枠組みが導入されました。
アメリカにおいても、被害者が加害者に対して民事訴訟を起こしやすくする連邦法および州法(テイクダウン命令や高額な法定賠償金の請求権)の整備が進展しています。これに呼応するように、主要なクラウドサービスや画像生成モデルのプロバイダーは、成人向けプロンプトの厳格なフィルタリングや、生成画像に対する不可視の電子透かし(C2PA標準など)の埋め込みを義務化するなど、悪用防止策の実装を標準機能として位置づけています。