議会や規制当局からの強烈な圧力を受ける周受資CEOは、自傷行為や危険行為を防止するための施策を次々と打ち出さざるを得ない状況に追い込まれている。
プラットフォーム側に求められているのは、単なる事後対応ではない。AIによる自動検知精度の向上だけでなく、専門家と連携した有害コンテンツ・自傷危険予防の包括的なシステム構築だ。検索画面で特定の危険ワードを入力した際に、相談窓口や警告メッセージを表示するダイレクトインフォメーション機能も拡充されている。
しかし、ユーザーの関心を惹きつけ続けることがビジネスモデルの核である以上、安全対策と収益性のバランスという根本的な矛盾が常に付きまとう。業界主導の自己規制だけでは限界があるとの見方が強まっている。
