出典：SiliconAngle
技術的な転換点には、決まって「作った側からの警告」が先行する。原子炉の設計者が核拡散を恐れ、インターネットの設計者がプライバシーの消滅を予言し、ソーシャルメディアのエンジニアが依存性の問題を告発した。いずれも外部の批評家ではなく、その技術を最もよく理解している人間が、自分たちの手で作ったものに対して声を上げた。
今、AIの世界で同じことが起きている。
AnthropicやOpenAI、Google、Metaといった企業で働く研究者ら1,134人が連名で公開書簡を発表した。内容は、自動化されたAI開発プロセスを意図的に減速させるための技術的・制度的ツールの整備を、米国政府が国際的な取り組みとして支援することを求めるものだ。
注目すべきは、誰が署名しているかだ。Anthropicの共同創業者、OpenAIのチーフサイエンティスト、MetaのMeta AIユニット幹部。つまりフロンティアモデルの開発を実際に牽引している人々が、その開発を「意図的に遅らせる仕組みが必要だ」と言っている。業界の外から規制を迫られているのではなく、ハンドルを握っている側が自らブレーキを求めている。
背景にあるのは、AIがAI自身の開発を加速させるサイクルの加速だ。モデルが高度化するほど、次のモデルの開発にそのモデルが使われるようになる。このフィードバックループが速度を増すにつれ、「作られたものを人間が理解・制御できる能力」が追いつかなくなるリスクが現実味を帯びてくる。書簡はその危機感を正面から言語化している。
歴史的に見れば、こうした内部からの警告は二つの結末をたどってきた。一つは、警告が制度的な変化を生み、技術の普及速度と安全管理の整備がある程度バランスをとる展開。もう一つは、警告が形式的に受け取られ、速度が優先され、問題が顕在化してから事後的に対処する展開だ。
今回の書簡が以前と異なるのは、署名者が「すでに減速を可能にするツールが存在する」とは言っていない点だ。必要な技術的手段がまだ存在しないと明示した上で、その開発支援を求めている。つまりこれは、現時点でブレーキがない車を走らせ続けている状態に対する警告だ。
研究者たちがこのタイミングで動いた背景には、政策的な窓口が開きつつあることもある。同時期にGoogle DeepMindのDemis Hassabis氏が新たなAI安全リスク対応イニシアチブの設立を提唱し、経済学者グループが強力な規制を求める声明を出し、AI企業がオープンソースモデルの取り扱いをめぐって政策立案者に直接働きかけている。一つの孤立した声ではなく、業界全体から制度整備を求める圧力が同時多発的に高まっている局面にある。
技術の加速と制御能力のギャップが広がるほど、最初にそのギャップを埋めようとした側が次のスタンダードを作ることになる。今回の書簡が持つ意味は、そこにある。
3行まとめ
- AnthropicやOpenAI、Google、Metaなど主要AI企業の研究者ら1,134人が、自動化されたAI開発を意図的に減速させるツールの整備を米国政府に求める公開書簡を発表した
- 書簡はAIがAI自身の開発を自動化・加速させるサイクルについて「人間の理解・制御能力を急速に超えていく現実のリスクがある」と明記している
- 署名者たちは減速を実現するための技術的手段が現時点では存在しないとも指摘しており、その開発支援を政府に求めている
※以下は詳細
署名者の顔ぶれ
公開書簡に署名した1,134人は全員、現時点で最高水準とされるフロンティアAIモデルを開発する企業の従業員だ。AnthropicのCEOであるDario Amodei氏、同社の共同創業者数名、OpenAIおよびMetaのMeta AIユニット・Thinking MachinesのチーフサイエンティストらAI分野の著名人が名を連ねている。大手企業だけでなく、Thinking Machines Inc.やロンドンを拠点とするInherent Laboratories Ltd.といったベンチャー支援のAIラボのスタッフも署名に加わっている。
書簡の具体的な要求内容
書簡が求めているのは、自動化されたAI開発のフロンティアを意図的に減速させるために必要な技術的・制度的ツールの開発を、米国政府が国際的な取り組みとして支援することだ。署名者たちはこうした減速を実現するために必要なツールが現時点では存在していないと指摘している。書簡はまた、AI能力の開発が「生み出されるシステムを理解・制御する私たちの能力を急速に超えていく現実のリスクがある」と記している。
同時期に広がる関連する動き
この公開書簡は、研究者・専門家たちがAI政策の変更を求める近年の傾向の一環でもある。NvidiaをはじめとするAI企業はオープンソースAIモデルの禁止をしないよう米国の政策立案者に働きかけており、経済学者グループはより強力なAI規制を求める声明を発表している。Google DeepMindのCEOであるDemis Hassabis氏も今月初め、米国政府が新たなAI安全リスク対応イニシアチブを立ち上げることや、新しいLLMの広範なリリース前にリスクを評価する標準化機関の設立を提唱するエッセイを公開している。
全体まとめ
AI開発の最前線にいる研究者1,134人が、自動化されたモデル開発を意図的に減速させるための新ツールと仕組みの整備を米国政府に求める公開書簡を発表した。書簡はAIがAIの開発を加速させるサイクルについて安全管理が追いついていないと明示しており、減速に必要な技術的手段が現時点では存在しないとも指摘している。同時期にDemis Hassabis氏の提言や経済学者グループの声明など、業界・学術の複数方面から制度整備を求める動きが重なっている。