0760
SIGNAL › 政治
No.0760

AIインフラの競争軸が、チップ性能からシステム設計に完全に移行した

ADVERTISEMENT

出典:SiliconAngle

2000年代後半、クラウド黎明期のデータセンター競争は「どのサーバーを積むか」という話だった。CPUのクロック数を比べ、メモリ容量を比べ、スペックシートを並べれば優劣がついた。ハードウェアの選定は、本質的には「部品の買い物」だった。

その後、スケールが変わった。

GoogleやAmazonが数万台規模のサーバーを束ねて動かし始めると、「1台が速いかどうか」より「1万台が一体として動くかどうか」が問われるようになった。だが当時はまだ、チップ・ネットワーク・電力という三つの軸のうち、チップの改善サイクルが他を圧倒していた。Intelがプロセッサーを更新するたびにインフラの価値が刷新された時代だ。

今、その三軸のバランスが崩れている。

AI処理に特化したGPUやアクセラレーターは、ここ数年で性能が急激に向上した。ところが、それを支えるはずのネットワーク、メモリ、電力インフラは、チップほど速く更新されない。結果として、チップがいくら速くなっても、それを活かしきれないボトルネックが周辺に積み上がっていく。

CASPA(中国系半導体専門家協会)が主催したCEOサミットで共有されたのは、まさにその認識だった。数十万個のプロセッサーが「一つの機械」として協調する現在のAIインフラでは、チップ同士をつなぐ光通信の品質、メモリの供給速度、電力の安定性、ストレージのI/O性能、そのどれか一つが欠けても全体が失速する。これはもはや「良いパーツを選ぶ問題」ではない。

誰が得をするかは、見え始めている。光インターコネクト、CXLメモリ、電力管理システムを持つプレイヤーは、チップメーカーが更新サイクルを回すたびに需要を取り込める。一方、チップ性能の比較だけで調達判断をしてきた事業者は、周辺が詰まることでせっかくのコンピュート投資が稼働率に結びつかないリスクを抱える。

テクノロジーの競争軸は、ある閾値を超えると「速さ」から「調整」に移る。CPUからGPUへの移行は「何で計算するか」を変えた。今起きているのは「どう連携させるか」への移行で、勝負の土俵そのものが変わっている。Lumentumが2029年まで予約が埋まり、それでも需要の70%に応えられていないという事実は、この移行がすでに実需として始まっていることを示している。

3行まとめ

  • CASPAのCEOサミットで、AIインフラの競争がチップ単体の性能から光通信・メモリ・電力・ストレージを含むシステム全体の設計へと移行しているという認識が各社CEOの間で共有された
  • メモリウォールの問題は少なくとも5年は解決されない見通しで、光レーザーチップのサプライヤーであるLumentumは2029年まで実質的に予約が埋まっており、需要の約70%に応えられていない状態が続いている
  • 電力インフラが6〜10年サイクルで動く一方、AIハードウェアは毎年更新されるというミスマッチが業界の核心的な課題として挙げられた

※以下は詳細

ADVERTISEMENT

チップの速さより、チップ同士のつながり方が稼働率を決める

CASPAのCEOサミットでAI業界のリーダーたちが共有した出発点は、一つの認識だった。AIインフラの勝敗は、プロセッサーの演算速度だけでは決まらない。

Western Digital CEOのIrving Tanは「AIにおける焦点の多くはコンピュートとメモリに向けられてきたが、私たちの見方では、AIは実際にはデータシステムだ。最終的には、エコシステム全体が連携して足並みをそろえて動ける必要がある」と述べた。

数十万個のGPUやAIチップが協調して動く現代のデータセンターでは、チップ同士をつなぐ光インターコネクトの帯域と遅延が、システム全体のスループットを左右する。SemtechのCEO Hong Houは、リンクに障害が発生するとジョブの再起動を余儀なくされるため、接続性がGPUの稼働率、ひいては収益に直結すると説明した。ハイパースケーラーはより低消費電力でより高い帯域幅を求めており、データセンターの固定電力予算のより多くをコンピュートに充てられるようにすることを目指している。

メモリ・ストレージ・電力の三つがボトルネックとして浮上している

GPUの稼働率を高く保つには、データを途切れなく供給し続ける必要がある。そのボトルネックとして浮上しているのが、メモリ帯域とストレージのI/O性能だ。

ScaleFluxのChief Business OfficerであるGreg Ernstは、メモリウォールの問題は5年間は解決されない可能性があると強調した。多数のユーザーにサービスを提供する80億パラメーターのモデルでさえ、HBMが保持できる容量をはるかに超えるメモリを必要とする。CXL(Compute Express Link)は複数のサーバーがメモリプールを共有することを可能にし、古いDDR4モジュールをそれらのプールで再利用するハイパースケーラーがこの技術への関心を再び高めている。

ストレージ需要についても、Irving Tanは、生成されるデータ量がIDCの予測によれば3年間で700ゼタバイト超へと3倍になる見込みで、データストレージ需要は5年間で少なくとも年率25%の複合成長率で拡大すると述べた。

電力供給では、Schneider ElectricのPower Systems Division社長Melton Changが、電力インフラは歴史的に6〜10年サイクルで動いてきた一方、AIハードウェアは毎年更新されるというミスマッチが業界の核心的な課題だと説明した。AIの負荷はミリ秒単位で30%から150%に振れることがあり、その変動が電圧と周波数の安定性を脅かし、現地発電機の寿命を縮める共振を引き起こす。Schneiderはデジタルツイン、シミュレーション、リアルタイムデータを活用してこれらの変動を予測している。

光接続への転換とチップ設計の自動化が次の段階に入っている

Lumentum CEOのMichael Hurlstonは、電力の制限により事業者は複数の小規模データセンターを光ファイバーで接続するようになっており、データセンター内部の電気接続を光接続に転換することが次の成長ドライバーになると述べた。同社は1年強で4倍の規模に成長したが、それでも需要の約70%に応えられていない状態で、2029年まで実質的に予約が埋まっているという。インジウムリン製レーザーチップが主要な制約となっており、Lumentumは今後4〜5年間この需要が続くとみてファブとパッケージングへの投資を進めている。

チップ設計の面では、SiemensのEDA IC and systemsヘッドであるAnkur Guptaが、モデルが3〜6ヶ月ごとに変わる中でカスタムシリコンの開発に18〜24ヶ月かけることはもはや許されないと指摘した。SiemensはNvidiaのGPU上で設計エンジンを動かすことで10〜12倍の高速化を実現し、AIエージェントを使って設計のセットアップとデバッグのフェーズを自動化している。

全体まとめ

CASPAのCEOサミットを通じて示されたのは、AI基盤ハードウェアの競争が「個別チップの性能比較」から「光通信・メモリ・電力・ストレージを含むシステム全体の最適化」へと移行したという共通認識だった。メモリウォールは5年以上解消されない見通しで、光インターコネクト向けのレーザーチップは2029年まで供給が逼迫している。電力インフラの更新サイクルとAIハードウェアの更新サイクルのミスマッチも未解決のまま残っている。各社CEOの発言を通じて共有された認識は、次世代AIインフラの費用対効果は、どのチップを選ぶかより、それらをどう組み合わせ設計するかによって決まるというものだった。

ADVERTISEMENT
NEXT READS
SIGNALへ戻る
— END OF ARTICLE —
SIGNAL