Nvidia が RTX グラフィックス チップで PC 上のローカル AI を強化

Nvidia は、PC 上の AI の注目を Microsoft と Qualcomm に委ねるつもりはありません。このアメリカのメーカーは、ローカル AI アプリケーションでのパフォーマンスを大幅に向上させる新しいドライバーを使用して、RTX グラフィックス チップの能力を実証する予定です。

最近の発表を受けて、PC の世界は数日間大混乱に陥っています。マイクロソフトこれは、新しい Copilot+ ラベルの支援の下、「PC AI」時代の幕開けとなります。多数のサービスや機能を統合した新しい種類のパーソナルコンピュータ人工知能オペレーティング システムの中心に位置し、PC の使用方法と操作方法に革命をもたらすことを約束します。そして、あなたが初期の愛好家であっても、頑固な懐疑論者であっても、単に好奇心旺盛であっても、Microsoft が提示する多様なユースケースに無関心になることはできません。

この革命を開始するために、レドモンドの会社は主にアメリカ人によって設計された真新しいプロセッサに依存することに決めました。クアルコム、Snapdragon X EliteとX Plus。これらのチップには 2 つの大きな特徴があります。1 つは由緒ある x86 ではなく Arm アーキテクチャに従って設計されており、iA、有名な NPU (フランス語でニューラル プロセッシング ユニットまたはプロセッシング ユニット ニューロン) にリンクされた演算に特化したユニットが含まれています。 45 TOPS の計算能力を提供できます。これは、オールインワン タイプのプロセッサ (システム オン チップ、またはシステム オン チップ用 SoC) としてはこれまで到達できなかったレベルです。

その発表とCopilot+ PC の発売したがって、マイクロソフトは、少なくともエコシステムにおいては、人工知能がクアルコム、アーム、NPU と密接に関連しているという考えを広めています。窓。ただし、人工知能に関して高いパフォーマンスを提供できる唯一のプレーヤーやテクノロジーはこれらだけではありません。また、ゲーマーによく知られている、巨大な、超強力なグラフィックス カードの両方を指す、RTX プラットフォームを通じて、この分野で特に効果的なコンポーネントを、何年も前から他社に先駆けて設計およびマーケティングしてきた Nvidia も考慮する必要があります。サーバー用の強力なプロセッサーと開発用のソフトウェア ツールのセット。

Nvidia R555 Game Ready: AI 機能のローカル実行を強化する新しいドライバー

これは、AI PC 時代の幕開けにおける新たな戦争の兆候です。一般の人々が生成型 AI ツールを少なくとも部分的に発見し、採用した今、これらのサービスをクラウドからユーザーのマシンに移行する時期が来ています。これが、PC Copilot+ ラベルと、スーパーチャージされた NPU を搭載した Snapdragon X シリーズ プロセッサの全体の目的です。しかし、AI 専用のハードウェア コンポーネントの点で現在のチャンピオンとしての地位を確立している Nvidia は、この移行に後れをとるつもりはないようで、最前線に戻るつもりのようです。

Microsoft の年次開発者カンファレンスである Microsoft Build の一環として、メーカーが発表したばかりですRTX グラフィックス カード用の Nvidia Game Ready R555 ドライバーのリリースでは、開発者にとってもユーザーにとっても、AI 関連のパフォーマンスが大幅に向上することが約束されています。「新しい NVIDIA R555 Game Ready ドライバーを使用すると、大規模言語モデル (LLM) [...] が最大 3 倍高速に実行されるようになりました。」

このレベルのパフォーマンスを提供するために、新しいドライバーは、ONNX ランタイムと DirectML という 2 つのソフトウェア コンポーネントのサポートを提供します。このコンポーネントの機能は 2 つあります。つまり、最大数の計算をGPUCPU (ONNX ランタイム) ではなく、オペレーティング システム (DirectML) から GPU を一種の NPU として認識できるようにすることで、開発者による RTX テクノロジの特定の実装を必要とせずに、すべての AI アプリケーションが直接 GPU に対処できるようになります。

したがって、このドライバーの目的は、ローカル AI 実行のパフォーマンスを大幅に向上させることと、開発者やアプリケーションが GPU の計算能力をより利用しやすくすることの両方です。 Nvidia は、その主張を裏付けるために、新しい R555 ドライバーを使用した 3 つの大規模言語モデル (LLM) の推論 (トレーニングではなく実行) で得られたパフォーマンスの向上を以前と比較して示す小さなグラフを公開しました。たとえ測定が非常に高価であまり一般的ではないハイエンド カードである RTX 4090 GPU で実行されたとしても、この進歩は確かに印象深いようです。

これらの数値は同社自身によって提供されたものであるため、RTX 回路のさまざまなモデルやさまざまな LLM に依存する AI アプリケーションを使用して、これらの結果を実際の状況で検証する必要があることに留意すると、このコミュニケーションは少なくとも 1 つのことを確認します。 Nvidia は、サーバーと AI モデルのトレーニングの分野に存在することに満足することは望んでいませんが、ローカル AI サービスをマシン上で直接実行する側面において主要なプレーヤーとしての地位を確立したいと考えています。ユーザー。

RTX 回路は、すでに、そして数年間にわたり、AI に基づいた数多くの具体的なアプリケーションを提供してきました。たとえばビデオ ゲームでは、DLSS は、機械学習に基づいた一連のスケーリング、画像生成、グラフィック レンダリングの改善技術を統合します (ディープラーニング）。最近発表された Nvidia ACE テクノロジは、ラージ言語モデル (LLM) を使用して、ゲーム内のノンプレイヤー キャラクターとのインタラクティブな対話をリアルタイムで生成します。クリエイティブ面では、RTX チップは、Adobe Premiere、DaVinci Resolve、Blender などの非常に人気のあるアプリケーションの多くの AI ツールを高速化します。そしてアプリエヌビディアブロードキャストは、RTX チップを搭載した PC 上で、オーディオとビデオ、さらには驚くべきエフェクトの多数のリアルタイム処理を提供します。

したがって、RTX エコシステムにはすでに AI の具体的な用途が数多くあり、生成 AI が一般的に流行するかなり前から登場しており、新しい Game Ready R555 ドライバーはその動作をさらに改善します。 Nvidia のチップは、Copilot+ で Windows に統合されたものを超えて、幅広い人工知能アプリケーションを強化できるため、これは興味深い見通しです。パブリッシャーや開発者がこれらのツールを活用して、ゲーム分野、プロのクリエイティブ アプリケーション、グラフィックス、3D、オーディオおよびビデオなどの AI ベースの新機能で RTX チップの力を活用することが期待されています。

RTX を搭載した AI: Copilot+ PC よりも強力?

実際、Nvidia RTX グラフィックス チップは、Qualcomm Snapdragon X シリーズであっても、将来の Intel Lunar Lake や AMD Strix であっても、NPU を搭載したプロセッサよりもはるかに高いレベルの AI 推論パフォーマンスを提供します。この違いを理解するには、現在の Intel Core Ultra は最大 34 兆演算/秒 (TOPS) に達し、Snapdragon X Elite および X Plus は 45 TOPS、ラップトップ バージョンでは RTX GPU 4050 を搭載しています。シリーズ最小モデルですが、すでに 194 TOPS に達しています。そして、デスクトップ版の巨大な RTX 4090 については、最大 1,300 TOPS まで上昇します。

したがって、これらの優れたスコアは、Microsoft が PC Copilot+ の称号を主張するために設定した最低要件 40 TOPS をはるかに上回っています。ただし、この過剰な電力には代償が伴い、単純な NPU を搭載したプロセッサよりもはるかに多くのエネルギー消費が発生します。そして、エネルギー効率におけるこのギャップは、まさにその主な特徴が非常に低いエネルギー消費であることを主な特徴とするArmアーキテクチャのチップであるSnapdragon Xシリーズによってさらに拡大しています。

したがって、Nvidia の RTX GPU のコンピューティング能力により、最も重くて最も要求の厳しい AI アプリケーションに問題なく取り組むことができるとしても、その消費電力の観点からは、エネルギー効率が重要な要素であるポータブル PC 分野で最適な候補にはなりません。力。

Microsoft が PC 用の Copilot+ ラベルの定義で念頭に置いていると思われる側面と、同社が現時点ではこの名前を Snapdragon X シリーズ プロセッサを搭載したマシンのみに限定している理由の 1 つです。で先週月曜日の発表:「最初の Copilot+ PC は Snapdragon X Elite と Snapdragon を搭載して発売されます」。

ただし、同社は次の段落で次のように付け加えています。「新しい Copilot+ PC エクスペリエンスは間もなくリリースされます。このプロセッサと NVIDIA GeForce RTX や AMD Radeon などの強力なグラフィック カードを組み合わせた新しいデバイスが間もなく発売され、さらに幅広いユーザーが Copilot+ PC にアクセスできるようになります。」したがって、Copilot+ と名付けられた PC の範囲は進化する予定であり、Nvidia RTX グラフィックス カードを搭載したマシンは、省電力の中央プロセッサと関連付けられていれば、有名なゴマを獲得できる可能性があることを、私たちは非常に明確に理解しています。

したがって、Nvidia の RTX GPU が Copilot+ AI 機能をローカルで実行するのに必要な十分なコンピューティング能力を備えている場合、ラベルの取得自体は Nvidia の管理を逃れ、完全に Microsoft に依存します。これは、確かに真の技術的というよりは政治的および商業的な考慮事項によるものです。

ただし、覚えておくべき考え方は次のとおりです。AI の新しい用途に興味がある場合、Nvidia RTX グラフィックス カードを搭載したコンピューターを所有しており、Copilot+ PC に関する Microsoft の発表を聞いて疑念を抱いている方は、ご安心ください。お使いの PC は決して時代遅れではないため、新しい生成 AI アプリケーションをローカルで使用するために、NPU を備えたプロセッサを搭載した新しいコンピューターを買い占めて購入する必要はありません。現在、メディアの注目が Arm や NPU などの特定の用語に集中しているとしても、これらの新しい用途を推進し、パーソナル コンピューティングの継続的な変革をサポートするために、同様に深刻で関連性のある技術的な道筋は他にもあります。