出典:NVIDIA Blog
AIの歴史を振り返ると、その処理の「居場所」は常に時代を映してきた。1960年代、コンピューターは大学や政府機関の地下室にあった。処理能力を持つ機械は重く、高価で、特定の場所に縛られていた。その後、パーソナルコンピューターが登場し、処理能力は個人の机の上に降りてきた。2000年代以降はクラウドが台頭し、今度は手元のデバイスの処理能力を問わず、インターネットの向こうにある巨大なサーバー群が計算を引き受けるようになった。
そして今、また別の移動が起きている。
AIの処理が、現場のデバイスそのものの中に入り始めている。工場の床に置かれたロボット、病院の診察室、信号のない山間部を走る自律走行車。これらはいずれも、クラウドへの通信が前提では動かせない、あるいは動かしたくない環境だ。データをネットワーク越しに送れば遅延が生じる。電波が届かない現場では使えない。医療や製造の現場では、データを外部に出すこと自体がコンプライアンス上の問題になりうる。
こうした制約に対してNVIDIAが用意しているのが、Jetsonプラットフォームだ。
Jetsonが体現しているのは「エッジAI」と呼ばれる考え方で、処理をクラウドに委ねるのではなく、デバイス自体がAI推論を行う。クラウド依存をゼロにすることで、通信遅延もなく、ネット環境も不要になる。実際に公開されているデモでは、音声・ビジョンアシスタントがAPIキーも外部通信も使わず、ローカルのGPUアクセラレーションだけで動作している。
注目すべきはその物理的なサイズだ。Jetsonはハンドバッグに収まるほど小さい。これは単なる利便性の話ではない。教室、研究室、小規模な製造現場など、これまで大型インフラの導入が難しかった場所に、AIを持ち込めるようになることを意味する。
その象徴的な出来事として、著名AIインベスターのSarah Guoが自身の動画でJetsonを取り上げた。Guoは「Conviction」の創業者であり、AIポッドキャスト「No Priors」のホストとして知られる人物だ。彼女が強調したのは、Jetsonが「パワーとポータビリティを一つのプラットフォームで提供する」という点だった。
誰が注目するかは、そのテクノロジーが次にどこへ向かうかを教えてくれる。エッジAIはこれまで産業用途の文脈で語られることが多かったが、著名なVCがコンシューマー向けのメッセージで発信したという事実は、この領域の裾野が広がっていることを示している。
クラウドが「処理能力の民主化」をもたらしたように、エッジAIは「処理の自律化」をもたらしつつある。依存するインフラがなくなるほど、AIは現実の場所に深く入り込んでいく。
3行まとめ
- NVIDIAのJetsonプラットフォームは、クラウド不要でデバイス単体がAI推論を実行できるエッジAI向け製品として展開されている。
- 著名AIインベスターのSarah Guoが動画でJetsonを紹介し、ロボティクスや産業向けの物理世界対応AIプラットフォームとして位置づけた。
- Jetson Orin Nano Super、Jetson AGX Orin、Jetson AGX Thorの3モデルが用意されており、用途や処理規模に応じて選択できる。
※以下は詳細
クラウドに送らずに動くAI
従来のAI活用では、データをインターネット経由でクラウドに送り、処理結果を受け取る形が一般的だった。この方式には三つの制約がある。通信遅延が発生すること、ネット環境のない現場では使えないこと、データを外部に出せない業種では導入が困難なことだ。
Jetsonはこの前提を変える。デバイス単体でAI推論が完結するため、クラウドへの依存がない。公開されているデモプロジェクトでは、音声・ビジョンアシスタントがAPIキーなし・外部通信なしで、すべてローカルのGPUアクセラレーションにより動作している。
NVIDIAはJetsonを、ロボット・自律マシン・あらゆる産業での現場AIプロジェクトを動かすプラットフォームと位置づけている。
サイズが変える導入可能な場所
Jetsonの特徴は処理性能にとどまらない。物理的にハンドバッグに収まるほど小さく、場所を選ばずに設置・携行できる。
この小ささが意味するのは、これまでAI導入が難しかった環境へのリーチだ。教室、研究室、メイカースペースといった小規模な現場でも、大型インフラなしにAIを動かせるようになる。NVIDIAは、学生が初めてのロボティクスプロジェクトを動かす場合から、研究者が自律システムの限界を押し広げる場合まで、幅広い用途での活用を想定している。
Sarah GuoがJetsonを取り上げた内容
「Conviction」創業者であり、AIポッドキャスト「No Priors」のホストを務めるSarah Guoが、自身の動画でJetsonプラットフォームを紹介した。
Guoは動画の中で、Jetsonが忙しい開発者にパワーとポータビリティの両方を一つのプラットフォームで提供すると述べた。物理世界とあらゆる産業向けに構築されたエージェント対応AIプラットフォームとして紹介しており、すべてがハンドバッグ一つに収まる点を強調した。学生・教授・研究者それぞれの用途において、次世代のインテリジェントロボットの構築・学習・展開を可能にするものとして位置づけている。
3モデルのラインアップ
Jetsonには処理規模に応じた3モデルが用意されている。
エントリー向けの「Jetson Orin Nano Super」は67TOPSの処理性能を持つ。中位モデルの「Jetson AGX Orin」は275TOPSに対応する。フラッグシップの「Jetson AGX Thor」は最大2070 FP4テラフロップスの処理性能を持ち、より高度なAIワークロードへの対応を想定している。
全体まとめ
NVIDIAのJetsonプラットフォームは、AIをクラウドから切り離し、現場のデバイス単体で推論処理を完結させるエッジAI向け製品だ。Jetson Orin Nano Super(67TOPS)、Jetson AGX Orin(275TOPS)、Jetson AGX Thor(最大2070 FP4テラフロップス)の3モデルが用意されており、用途と処理規模に応じて選択できる。著名AIインベスターのSarah Guoが動画でJetsonを紹介し、ロボティクスや自律マシンをはじめとする産業向けプラットフォームとしての活用を発信している。開発者向けの情報は順次公開されている。