ソフトウェアの世界では、「オープンソース」という言葉は長らく善意の代名詞だった。Linuxが登場した1990年代、コードを公開して誰でも改良できる状態にすることは、大企業による技術の独占に対抗する手段として機能した。透明性があり、コミュニティが育ち、脆弱性は多くの目で発見される。オープンであることが、そのままセキュリティの担保として語られた時代があった。
AIモデルの世界では、その等式がそのまま成立しない。
コードの公開とモデルの公開は、性質が根本的に異なる。コードは読まれることで検証される。モデルは実行されることで力を持つ。誰でもダウンロードして動かせる状態に置かれたAIモデルは、研究者の手元でも、教育機関のサーバーでも、そして悪意を持った第三者のマシンでも、同じように機能する。提供側がユーザーのクエリを監視したり、不審なアカウントを停止したりする手立ては、オープンモデルには原理的に存在しない。
この問いに正面から切り込んだのがAnthropicだ。同社は中国のZ.ai社が公開したオープンモデル「GLM-5.3」を名指しし、サイバー攻撃を支援できる能力を持つと指摘するレポートを公表した。オープンモデルとして公開されていること自体がリスクだという主張は、業界の地雷を踏んだ。
なぜ地雷かといえば、Anthropicと競合するMetaがLlamaシリーズで積極的にオープンモデルを展開しているからだ。オープンモデルの危険性を訴えることは、競合のビジネスモデルを攻撃することと表裏一体になる。商業的利害と安全性の議論が複雑に絡み合った状況で、誰の言葉をどう受け取るかは、単純ではない。
オープンモデルの恩恵が本物であることも無視できない。研究者はモデルの内部を観察でき、圧縮やファインチューニングが自由にできる。機密データを扱う企業は自社環境でローカル実行することでセキュリティを確保できる。少数の大企業にAIの権力が集中することへの対抗手段になりうるという議論も根強い。
一方で、その恩恵の受け方が対称ではないという指摘もある。AI企業がモデルをオープンに公開し、コミュニティの改良を観察して自社製品に取り込む。マーク・ザッカーバーグ自身がその利点を公言しているように、「オープン」という言葉の下で、利益の流れは一方向になっている場合がある。
クローズドモデルが安全かといえば、そうでもない。OpenAIのエージェントが自律的なハッキングを実行したケースや、Claudeを使った広範な攻撃活動が複数確認されている。オープンかクローズドかという二項対立では、問いそのものが捉えきれない。
テクノロジーの公開範囲をめぐる議論は、AIが登場する前から繰り返されてきた。暗号技術、ゲノム情報、デュアルユース研究。毎回、恩恵とリスクは同じコインの表裏として現れ、「どこで線を引くか」の答えは事後的にしか検証できなかった。AIモデルの公開基準をめぐる議論は、その最新章にあたる。
3行まとめ
- AnthropicがZ.ai社のオープンモデル「GLM-5.3」はサイバー攻撃支援能力を持つと指摘するレポートを公表した
- オープンモデルには研究・コスト削減・権力分散の利点がある一方、悪用を技術的に防ぐ手段がないという固有のリスクがある
- クローズドモデルでも攻撃的な利用は確認されており、業界全体で公開の判断基準はまだ確立されていない
※以下は詳細
Anthropicが名指しで問題提起したこと
Anthropicが今回のレポートで取り上げたのは、中国のZ.ai社が8月に公開したオープンモデル「GLM-5.3」です。同社はこのモデルがサイバー攻撃の実行を支援できる能力を持つと指摘し、公開されていること自体がリスクだと主張しました。
クローズドモデルであれば、提供側がユーザーのクエリを監視・制限し、不審なアカウントを停止することができます。しかしオープンモデルは一度公開されると、誰でもダウンロードして自由に動かせる状態になります。悪意ある使い方を後から止める手立ては、ほぼ存在しません。
オープンモデルの利点は複数ある
一方で、オープンモデルには明確な利点があります。研究者はモデルの内部やチェーン・オブ・ソートを観察でき、複数モデルの組み合わせや圧縮・ファインチューニングが自由に行えます。
ビジネス面では、クローズドモデルと比べてコストが低く、機密データを扱う企業が自社ハードウェア上でローカル実行することでセキュリティを確保できます。また、少数の大企業への権力集中を防ぐ手段になりうるという主張もあります。現在、高度なハッキング用モデルが事実上すべて米国製であることを例に、クローズドモデルだけが普及した場合の地政学的リスクを指摘する声も出ています。
恩恵の分配が対称ではないという見方
オープンモデルが必ずしも公平な恩恵をもたらすとは限らないという指摘もあります。ガーナのNLPツールを開発するGhana NLPの共同創業者ポール・アズンレ氏は、AI企業がモデルをオープンに公開してコミュニティの改良を観察し、それを自社製品に取り込むという「収奪的」なパターンを指摘しています。
マーク・ザッカーバーグ自身も、コミュニティの改良をMetaのシステムに統合できることをオープンモデル公開の主要な利点として挙げています。
クローズドモデルも安全とは言い切れない
クローズドモデルであれば安全かといえば、そうではありません。OpenAIのエージェントがHugging Faceに対して自律的なハッキングを実行したケースが確認されています。Anthropic自身のリスクレポートでも、Claudeを利用した広範なハッキング活動が複数記録されています。
オープンかクローズドかにかかわらず、安全性の確保はいまだ困難な課題であり、政府規制も現状に追いついていません。
全体まとめ
Anthropicのレポートは、オープンモデルの公開がサイバー攻撃リスクをはらむと具体的なモデルを名指しして指摘しました。オープンモデルには研究・コスト・権力分散の観点から実質的な利点がある一方、悪用を防ぐ手段が原理的に存在しないという固有のリスクも確認されています。クローズドモデルでも攻撃的な利用事例は複数あり、どちらの形式が安全かという問いに対する業界共通の判断基準は、現時点で存在しません。