出典：WIRED
政府がプラットフォームを呼び出してコンテンツの削除を求める。それ自体は新しい話ではない。2011年のアラブの春でもロンドン暴動でも、各国政府はソーシャルメディア企業に対して同種の圧力をかけてきた。SNSが普及してからの十数年、その構図は基本的に変わっていない。「人が撮影・投稿した映像や写真が暴力や混乱を煽っている。だから消せ」。それが政府とプラットフォームのやり取りの中心にあった。
今回フランスで起きたことは、その構図に新しい要素が加わっている。
フランスのデジタル担当大臣がTikTokなどを緊急招集した際、議題に上がったのはライブ配信の暴力映像だけではなかった。AIによって生成・加工されたとみられる偽画像の拡散もまた、同じテーブルで扱われた。政府の目には、「市民が撮った本物の映像の拡散」と「AIが作り出した存在しない映像の拡散」が、もはや同一カテゴリの問題として映っている。
この変化が持つ意味は小さくない。これまで情報の真偽をめぐる問題は、主にファクトチェック機関やジャーナリストが担う領域とされていた。プラットフォームに求められるのは「明らかなフェイクを放置するな」という程度の要請だった。だがAI画像生成の精度が急速に上がり、本物と偽物の判別が人間の目では困難になるにつれて、「それが本物かどうかを判断するコスト」が社会全体に広がりはじめている。
フランス当局がWIREDの調査で確認されたAI加工画像の問題を、暴力的コンテンツと並べて議題にしたことは、そのコストがすでに行政の対処を要するレベルに達しつつあることを示している。
今回のもう一つの特徴は、ソーシャルメディアだけでなくEC・リセールプラットフォームまで巻き込んだことだ。Vinted、eBay、Amazon、LeBonCoin、Metaなどは略奪品の転売防止に関する合意文書に署名した。デモの映像が拡散し、略奪が発生し、その戦利品が48時間以内にオンラインで売られる。そのサイクルを断ち切るために、政府は情報流通と商流の両方に同時介入した。
情報統制とECプラットフォーム規制が一つの危機対応の中でパッケージ化されたのは、今回が事実上初めてに近い。これはフランス固有の話ではなく、同様の騒乱が発生した国であれば、このフレームワークが参照される可能性がある。AI生成コンテンツを既存の暴力的・扇動的コンテンツと同列に規制対象として扱うという政府の姿勢が、一つの先例として記録されたことになる。
3行まとめ
- フランスのデジタル担当大臣はTikTokなど複数のプラットフォームを緊急招集し、ライブ配信を含む暴力的コンテンツや夜間外出禁止令違反を助長するコンテンツの削除・モデレーション強化を正式に要求した。
- WIREDによるTikTokの調査では、デモ関連の検索ワードでAI生成・加工とみられる画像の拡散が確認され、TikTokは当該ワードに「情報が未確認・不完全である可能性がある」との注意タグを設定した。
- Vinted、eBay、Amazon、LeBonCoin、Meta、TikTokは略奪品の転売防止に関する合意文書に署名し、捜査機関への通報転送・広告監視・48時間以内の対応報告を約束した。
※以下は詳細
フランス政府がプラットフォームを緊急招集した経緯
フランスのデジタル担当大臣アンヌ・ル・アナンフは、国内の抗議デモが広範な暴動・略奪へと発展するなか、ソーシャルメディア各社の代表者を火曜日に緊急会議へ招集しました。
会議の主な目的は二点です。ライブ配信を含む暴力的コンテンツのモデレーション強化を各プラットフォームに改めて求めること、そして政府が課した夜間外出禁止令への違反を促すようなコンテンツの拡散を抑制することです。
WIREDがTikTokを独自に調査したところ、フランス語で「封鎖」を意味する検索ワード「blocus」の検索結果に、加工またはAI生成とみられる映像が複数含まれていることが確認されました。ピンクパンサーのコスチュームを着た抗議者のバイラル画像もその中にありました。同検索ワードは、10月24日に予定される「第2弾」の抗議活動の告知にも使われていました。TikTokはこの検索ワードに対し、「状況が急展開しています。現在入手可能な情報は未確認・不完全・不正確である可能性があり、変更されることがあります」との注意タグを設定しています。
ECおよびリセールプラットフォームへの対応要請
中小企業担当大臣セルジュ・パパンがX上で明らかにしたところによると、月曜日には主要なオンライン転売プラットフォームとの別途会議が開催され、各社による合意文書への署名が行われました。
Le Mondeの報道によれば、この会議にはVinted、eBay、Amazon、LeBonCoin、Meta、TikTokが出席しました。各プラットフォームは以下の三点に合意しています。捜査機関への通報の転送、デモ時の略奪品とみられる商品広告の継続的な監視、そして政府への対応報告書の提出（最初の報告は48時間以内）です。
フランスの刑事法では、犯罪によって取得されたと知りながら物品を隠匿・所持・譲渡した場合、最大5年の禁錮刑と37万5,000ユーロの罰金が科される可能性があります。
フランスのオンライン小売業者を代表する非営利団体「フランスマーケットプレイス連盟」は、加盟各社がユーザー報告・人による監視・テクノロジーツールを組み合わせて略奪品の転売広告を監視していると発表しました。偽広告が確認された場合は削除され、関係アカウントへの措置が講じられます。eBayによれば、その措置には販売者アカウントの永久停止も含まれます。対応にかかる時間は「報告の内容と必要な確認プロセスによって異なる」とeBayは述べています。
全体まとめ
フランス政府はデモの激化を受け、デジタル担当大臣がTikTokなど複数のプラットフォームを緊急招集し、ライブ配信を含む暴力的コンテンツと夜間外出禁止令違反を助長するコンテンツについてモデレーション強化を正式に要求しました。WIREDの調査では、TikTok上でAI生成・加工とみられる画像の拡散が確認されており、同プラットフォームは関連する検索ワードに注意タグを設定しています。また、Vinted、eBay、Amazon、LeBonCoin、Meta、TikTokはデモ時の略奪品転売防止に関する合意文書に署名し、捜査機関への通報転送・広告監視・48時間以内の対応報告などを約束しました。フランスの刑事法上、略奪品と知りながら転売した場合は最大5年の禁錮刑と37万5,000ユーロの罰金が科される可能性があります。