出典：TechCrunch
2023年、Anthropicは「安全なAI開発のために」という旗印を掲げて急成長した。その物語には、一種の説得力があった。OpenAIの元幹部たちが「このままでは危ない」と判断して飛び出し、安全性を軸に据えた会社を作った。創業の文脈そのものが、他社との差別化になっていた。
ただし、その後の行動を見ると、話は単純ではない。
Anthropicはその後も性能競争を止めなかった。Claudeを投入し、GPT-4と真正面からぶつかり、資金調達でも引けを取らなかった。「安全重視」という建前の下で、実際には誰よりも速く走ってきた。その矛盾は業界内でも指摘され続けてきたが、Anthropic自身がそれを真正面から取り上げることは、これまでほとんどなかった。
今回、それが変わった。
CEO・Dario Amodeiはブログ投稿で「フロンティアのペースを落とす」という計画を公表し、3つの具体的な戦略を示した。第三者評価機関の受け入れ、主要AI企業間の安全基準の協調、そして権威主義的な政府も含めたグローバルな協調の追求だ。抽象的な警鐘ではなく、Anthropicとして「一方的にコミットする」と明言したことが今回の最大のポイントだ。
さらに注目すべきは、OpenAIのSam Altmanも同じ方向に動き始めているという事実だ。長らく対立軸として語られてきた二社のトップが、ペース調整という考え方で一致しつつある。
この動きには、明確な背景がある。OpenAI-HuggingFaceへのハッキング事件、そしてAI自身が次世代AIを構築する能力の高まりという、ここ数ヶ月の急速な変化だ。Anthropic内部からも「私たちの命を賭けた賭けをしている」という警告を発して辞職した研究者が出ており、トップが沈黙を続けられる状況ではなくなっていた。
ペース調整という議論が本格的に動くとすれば、既存の競争原理とは別のゲームが始まる。誰が最速かではなく、誰が最初にブレーキの仕組みを作るか。その先頭に立つことが、次の正当性につながるという計算が、今回の動きの背後にある。
テクノロジーの開発競争が、ある閾値を超えたタイミングで自己規制の議論を生む。これは歴史上、繰り返されてきたパターンだ。核・バイオ・インターネット。どの分野でも、最も深くコミットしている主体が最初に「歯止め」を言語化した。AIがその段階に入りつつあるとすれば、今回の発言はその最新の事例ということになる。
3行まとめ
- AnthropicのCEO・Dario AmodeiがAI開発のペースを意図的に落とす計画をブログで公表し、第三者評価機関の受け入れなど3つの戦略を示した
- OpenAIのSam AltmanもペースAdjustmentの考え方に同調し、第三者評価機関の受け入れについてもOpenAIとして対応する意向を示した
- Amodeiは米中間の競争懸念にも言及しつつ、政府関与のもとで段階的な国際協調を進める必要性を訴えている
※以下は詳細
フロンティアのペース調整とは何か
Amodeiが今回使ったのは “pace the frontier” という表現だ。「最前線のペースを調整する」と訳せる。AI開発における「フロンティア」とは、現時点で世界最高水準のモデル開発競争を指す。その速度を意図的にコントロールしようというのが、今回の提案の核心にあたる。
Amodeiは「AIモデルの能力を改善するペースを落とさなければならない」と明言し、具体的に3つの戦略を示している。
第一は、METRのような第三者機関から「組み込み評価者（embedded evaluators）」を受け入れること。第二は、「民主主義国家」内の主要AI企業が共通の安全基準と進捗制限について協調すること。第三は、米国とその同盟国が権威主義的な政府とも可能な範囲で「グローバルな協調」を図ることだ。
Anthropicについては、第三者評価機関の受け入れを「一方的にコミット」するとAmodeiは述べている。
なぜ今この話が出てきたのか
Amodeiは今回の投稿で、より慎重なアプローチが必要と確信した理由として2点を挙げている。一つは、OpenAI-HuggingFaceへのハッキング事件。もう一つは、AIが「次世代AIを構築する能力の高まり」を含め、ここ数ヶ月で「劇的に速く進歩している」という事実だ。
また、Anthropicの研究者Jacob Coxonが「私たちの命を賭けた賭けをしている」と警告して辞職したことも、この議論の背景にある。Amodeiの投稿はCoxonの辞職に直接言及していないが、同様の懸念がAnthropicの他のメンバーからも繰り返されている。
企業間の協調については、反トラスト法上の問題から政府の関与が必要になるとAmodeiは指摘している。「米国政府が調停するか、少なくとも特定の安全に関する会話について限定的な適用除外を出す必要がある」と述べている。
OpenAIの反応
Sam AltmanはAmodeiの「ペース調整」という考え方に同調する姿勢を示した。Anthropicが一方的にコミットすると表明した第三者評価機関の受け入れについても、OpenAIとして同様の対応を行う意向を明らかにしている。
全体まとめ
Anthropicのトップが、AI開発のペースを意図的に落とすという計画を公表した。第三者評価機関の受け入れを筆頭に3つの戦略を示し、一部についてはAnthropicが単独でコミットすると明言している。OpenAIのAltmanも同方向への動きを示しており、業界最大手2社のトップが同じ立場に立った形になる。Amodeiは米中間の競争懸念にも触れつつ、政府関与のもとで国際的な協調を進める必要性も訴えている。