「チャットボットが自殺を促さない」——それが現在のAI安全性をめぐる議論の到達点として語られている。
2010年代、ソーシャルメディアが急拡大した時期にも似た光景があった。プラットフォームは「ヘイトスピーチへの対処」や「フェイクニュースの削除」を成果として打ち出し、規制当局や社会はその報告をひとまず受け取った。だが同じ期間、アルゴリズムは怒りや不安を燃料に人々の滞在時間を最大化し続けた。問題の「劇的な部分」を消火することで、くすぶり続ける日常的な被害への視線をそらすことができた。AIをめぐる今の議論は、その構図を繰り返している。
現在の政策議論が集中しているのは、AGIによる人類支配や核に匹敵するリスクといった破局的シナリオだ。それ自体が重要でないとは言えない。ただ、そこに議論のリソースが集中するほど、今日・明日と静かに積み上がる害は俎上に載りにくくなる。
問題の非対称性はここにある。壊滅的なリスクは語りやすい。具体的なイメージを持てるし、規制の対象として切り取りやすい。一方、AIコンパニオンへの感情的依存が10代の人間関係の構築を阻んでいるとか、AIにレポートを書かせ続けることで認知能力が静かに低下しているとかいった害は、特定の事件を起こさない。訴訟にも新聞の一面にもなりにくい。だから制度設計の優先順位に入ってこない。
企業の側から見ると、この非対称性は都合がいい。最低限の安全基準を満たすことで、本格的な規制圧力を弱めることができる。一方、依存を生むアルゴリズムやエンゲージメント設計に踏み込まれることは、収益への直接的な脅威になる。だから基準は「自傷促進をしない」「違法薬物の購入を防ぐ」という低い位置に設定され、そのハードルを越えれば安全の証明として機能する仕組みになっている。
州レベルの立法過程を見ると、この力学はより鮮明になる。企業が支持したAI規制法案は性的コンテンツや自傷促進への基本的な保護を義務付けるものだったが、同時に人気サービスを広く適用除外にしうる条項を含んでいた。その法案が通過した州では、企業の説明責任をより強く問う法律は実現しなかった。
ソーシャルメディアがたどった道と重ねると、行き先はある程度見えてくる。現在、世界のインターネット利用者はソーシャルメディアに平均1日2時間以上を費やしている。その蓄積がどこに向かったかは、ミャンマーやエチオピアで記録されてきた。AIはソーシャルメディアが届かなかった領域——思考、文章、人間関係の代替——にまでその論理を拡張しつつある。低い安全基準を「達成」と呼ぶことへの居心地の悪さは、その拡張速度と比較したとき、一層際立つ。
3行まとめ
- AI安全性をめぐる政策議論は破局的・壊滅的リスクに集中しており、日常的・漸進的な害への対処が後回しになっている
- 企業は「チャットボットが自傷を促さない」「子どもが違法薬物を購入しにくくする」といった低い基準を満たすことで”安全”と見なされる現状があり、その水準を保ちながら依存性の高い製品を提供し続けることが可能になっている
- MITの研究ではChatGPTでエッセイを書いた若者の脳の結合が弱まることが示され、十代の3分の1が深刻な問題をAIコンパニオンに相談するようになっていることも報告されている
※以下は詳細
低い安全基準が「成果」として語られる現状
子どもがフェンタニルを購入しにくくなった。チャットボットが自傷行為を後押ししなくなった。これらは本来から存在すべき保護であり、その整備自体は意味を持つ。
ただし問題は、企業がこの低い基準を満たしながら、若者を模擬的な友情に依存させたり、スクロールを止められないフィードに閉じ込めるような製品を依然として提供し続けられることにある。製品はあらゆる狭い安全基準を満たしながら、社会全体への累積的な悪影響を与え続けることができる。
日常的な害が議論に上がらない理由
壊滅的なシナリオは劇的だから可視化されやすい。日常的な害は逆だ。AIとの不健全な関係を築いた十代の若者は、最も極端なケースを除いて訴訟にも報道にも登場しない。チャットボットにすべてのレポートを書かせるようになった学生も、羨望を煽るよう設計されたフィードを見続ける若者も同様だ。
こうした被害が議論に載りにくいのは、それが劇的な事件を起こさないからであり、その特性が制度設計の優先順位を下げる原因になっている。
企業と立法の力学
企業は壊滅的な災害を防ぐための措置を取ることで、訴訟リスクを減らし、本格的な規制への圧力を弱めることができる。一方、日常的な依存の問題に向き合うことは収益への直接的な脅威になる。それはフリクションの追加や、依存を招くアルゴリズムやエンゲージメント機能の制限を求めることを意味するからだ。
実際、GoogleはAIチャットボットを規制する法案を複数の州で支持した。その法律は性的コンテンツや自傷促進への基本的な保護を義務付けるものだったが、最も人気のあるサービスを広く適用除外にしうる条項を含んでいた。法案の通過により議員は安全面での成果を主張できた一方、AIコンパニオンへの感情的依存を防ぐことを目的とした、より強力な法律の制定は失敗に終わった。ネブラスカ州などでは企業の影響を強く受けた法律が成立し、企業の説明責任をより強く問う法律は実現しなかった。
ソーシャルメディアが先行して示したもの
現在、世界のインターネット利用者はソーシャルメディアに平均1日2時間以上を費やしており、その時間は利用者をそこに留めることで利益を得る企業に渡されてきた。Metaのプラットフォームはミャンマーのロヒンギャ虐殺、スリランカの反イスラム暴動、エチオピアのティグライ戦争における暴力扇動への加担を指摘されている。同じインセンティブが、若いアメリカ人の政治・同世代・世界への理解を形成するフィードにも働き続けている。
AIはソーシャルメディアが遠くからしか影響できなかった生活領域——思考を書くこと、人に頼ること——にまでこの論理を拡張しつつある。十代の若者の3分の1が、深刻な問題をAIコンパニオンと話し合うことを他の人間ではなく選ぶようになっている。MITの研究者たちはChatGPTを使ってエッセイを書いた若者の脳の結合が弱まることを発見し、その「認知的負債」は作業が終わった後も持続することを示すエビデンスを示した。
全体まとめ
AI安全性の議論は破局的なシナリオへの集中により、日常的に積み上がる害への対処が後回しになっている。企業は低い最低基準をクリアすることで安全の証明とし、それ以上の責任を問われにくい現状がある。立法過程においても、企業が支持した法案が通過する一方、より強い説明責任を求める法律は実現していない。ソーシャルメディアの事例が示すように、同じインセンティブのもとでAIは人間の思考や人間関係の代替にまでその影響を拡張しつつあり、MITの研究は認知能力への影響を示すエビデンスをすでに提示している。