TOPS とは何ですか? AI にとってなぜ重要ですか?
簡単にお答えします。TOPS（Tera Operations per Second）は、AI搭載PCにおけるニューラル・プロセッシング・ユニット（NPU）の性能を測定、簡略化、そして宣伝するために用いられる用語です。TOPSは完璧な指標ではなく、システムがAIタスクをどれだけ効率的に処理できるかは多くの変数によって左右されます。それでもなお、NPUの速度と競合製品との比較を簡潔に表す指標となります。
AI PC の世界に足を踏み入れると、新しいハードウェアと機能を説明する新しい用語や頭字語が数多く登場します。
多くの最新のノートパソコン、そして今では AMD の Ryzen PRO 8000 が発表されたデスクトップには、AI 固有のパフォーマンスを向上させるニューラル プロセッシング ユニット (NPU) を含むプロセッサ (CPU) が搭載されていることに気付いたかもしれません。
NPUの登場により、パフォーマンスを測定するための新たな指標が必要となり、「TOPS」という用語が登場します。AI搭載PCが市場を飽和させ続ける中で、今後TOPSという言葉を耳にする機会が増える理由を以下に説明します。
最近の更新
2024年6月5日： Intel「Lunar Lake」CPU、AMD Ryzen AI 300 CPU、Qualcomm Snapdragon Xチップ、Copilot+に関する情報を追加してこのガイドを更新しました。— Cale Hunt
TOPSとは何ですか？
TOPSはテクノロジー業界では新しい用語ではありませんが、ハイエンドAIノートPCの台頭により、最近は主流の注目を集めています（定義はまだ曖昧ですが、要するに最新のCPU、GPU、NPUを搭載したPCのことです）。Windows CentralエディターのRebecca Spear氏が、NPUとGPUの違いについて素晴らしい記事を書いていますので、詳しくはそちらをご覧ください。
TOPSは、システムが1秒間に何兆回の演算を実行できるかを表します。TOPSはシステム全体のパフォーマンスを測定するために使用できますが、特定のハードウェアごとに分割することもできます。
例えば、NVIDIAのデスクトップ向けグラフィックスカード（GPU）RTX 4090は、ゲーム用途でもAIタスクの高速化でも、1,300TOPSを超えるパフォーマンスを提供します。これは現在市場で最もパワフルなGPUの一つですが、それでもこの数値は少々難解です。NVIDIAのモバイルGPUでさえ、AIワークロード向けに最大1,000TOPSのパワーを提供できます。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
Intel Meteor LakeとLunar Lake
インテルのノートPC向けCore Ultra「Meteor Lake」CPUは、 CPU、統合GPU、NPUを含む全体で34TOPSの性能を発揮し、そのうち約11.5TOPSがNPUのみで占められています。次世代のインテル「Lunar Lake」モバイルチップは、「NPU 4」と呼ばれるNPUの性能を最大48TOPSまで引き上げると予想されています。
IntelはLunar Lakeの発表に伴い、パフォーマンスをより適切に表すための新しい用語を導入しました。プラットフォームTOPS（「PTOPS」）は、CPU、GPU、NPUの合計パフォーマンスを計算するために使用されます。ピークTOPS（「pTOPS」）は、NPUなどの個々のパーツのパフォーマンスを表すために使用されます。
それを念頭に置いて、Intel は、Lunar Lake チップは 48 pTOPS の NPU を提供し、すべてのコンポーネントを考慮するとチップ全体では 120 PTOPS になると述べています。
台湾・台北で開催された2024 Intel Tech Tourで、Intelは、要件が緩和されれば、将来的にはCopilot+の機能がMeteor Lake NPU（約11.5 pTOPS）でも実行可能になると示唆しました。これは非常に難しい課題のように思えますが、今後の展開は時が経てば明らかになるでしょう。
AMD Ryzen 8040とRyzen AI 300
AMDのRyzen 8040モバイルCPUは、最大16TOPSのNPU性能を提供し、Intelの「Meteor Lake」チップをわずかに上回ります。プロフェッショナル向けにNPUを搭載したAMD Ryzen PROデスクトップAPUも提供されており、こちらも16TOPSのNPUを搭載しています。これらのチップは現在発売中ですが、AI性能に興味のある方は、Computex 2024で発表されたAMD Ryzen AI 300ハードウェアをぜひチェックしてみてください。
AMD の Zen 5 アーキテクチャをベースに構築された 2 つの新しいモバイル CPU には、フラッグシップの Ryzen AI 9 HX 370 と AMD Ryzen AI 9 365 が含まれており、それぞれ 50 TOPS のパワーを持つ NPU を備えています。
Ryzen AI 300 チップを搭載したラップトップは、Acer、ASUS、HP、Lenovo、MSI から今年後半に発売される予定です。
Qualcomm Snapdragon XとCopilot+
Microsoft と Qualcomm は提携し、2024 年 5 月 20 日に Copilot+ を発表しました。Copilot+ は、Windows 11 に搭載される Windows Recall、ライブ キャプション、ローカルでの画像およびテキスト作成などの高度な AI 機能のセットを表す包括的な用語です。Copilot+ PC ブランドは、少なくとも 40 TOPS の強力な NPU を活用してこれらの機能をローカルで実行できるノート PC に使用されます。
Qualcommは5月20日、Snapdragon X EliteおよびSnapdragon X Plusチップを搭載したCopilot+ラップトップを多数発表しました。ほぼすべての主要ラップトップブランドが発表したこれらのWindows on ARMデバイスは、45TOPSのHexagon NPUを搭載しており、2024年6月18日より市場に登場する最初のCopilot+ PCとなります。
Intelの次世代「Lunar Lake」とAMDのRyzen AI 300チップは、後日Copilot+機能にアクセスできるようになります。
今後登場するCopilot+デバイスについては、Computex 2024でNVIDIAのRTX対応デバイスが今年後半にCopilot+に対応予定であることが発表されました。NVIDIAは、Copilot+に対応するASUS製RTXノートPC 5機種とMSI製ノートPC 1機種を披露しました。これらの機能はRTX 40シリーズのモバイルハードウェアで初めて搭載されます。
AI パフォーマンスが TOPS で測定されるのはなぜですか?
TOPSはNPUの性能を分析する際に、必ずしも全体像を示すものではありません。チップメーカーは自社製品の宣伝にTOPSを活用していますが、これは主に性能を分かりやすく示し、購入者が何が得られるのか理解しやすくするためです。
次世代ゲーム機の登場がまだ目前に迫っていた2020年にTFLOPSが大流行したように、TOPSはシステムパフォーマンスを簡素化し、より多くの人々に訴求するために利用されています。競合製品の2～3倍のTOPSを実現できるNPUは、理論上は魅力的に見えますが、この指標には本質的なニュアンスが欠けています。
一見すると「大きい数字は良い、小さい数字は悪い」という状況ですが、NPUのパフォーマンスに影響を与える要因は他にもたくさんあります。理論的には、例えば100TOPSのNPUを特定のタスク向けにチューニングすると、別のタスク向けにチューニングされた200TOPSのNPUよりも優れたパフォーマンスを発揮する可能性があります。
PCの全体的なパフォーマンスを測定するには、一般的に具体的なベンチマーク数値と抽象的な観察結果に集約されます。例えば、当社のノートパソコンのレビューでは、専用のテストソフトウェアを用いて得られた確かな数値を数多く提供していますが、同時に、実際の使用状況におけるシステムのパフォーマンスに関する、より一般的な「感触」も提供しています。
NPUのテストも、今後検討していくべき課題です。NPUのみを対象としたベンチマークは既に存在しており、特定のタスクにおける電力消費量を測定するための良い出発点となります。
したがって、TOPS は NPU のパフォーマンスを判断するための最適な指標ではないとしても、購入者に AI PC を大まかに比較できる基準を提供します。
TOPS を気にするべきでしょうか?
TOPSを測定することは、NPUを比較したり、NPUが特定のツールを処理できるかどうかを判断したりするための迅速かつ簡単な方法です。ただし、TOPSはNPUのパワーに関して最終的な指標と見なすべきではありません。多くのニュアンスが関係しており、今後の作業に最適なハードウェアを確実に入手することが重要です。
TOPSを気にするべきでしょうか？それは状況によります。メール、ウェブブラウジング、生産性向上といった用途でPCを頻繁に使用するのであれば、NPUとそのパフォーマンス測定方法について気にする必要はまずないでしょう。しかし、新しいノートパソコンを購入する場合は、生活を楽にするAIツールの要件に注意する必要があるかもしれません。
一方、AI搭載PCの新興分野に興味をお持ちであれば、NPUとその性能をTOPSで測定する手法は既にご存知でしょう。ただし、TOPSは完璧な指標ではなく、チップメーカーが自社製品を比較・宣伝するための簡便な手段であることをご承知おきください。
Cale Huntは、ノートパソコン、PC、アクセサリ、ゲームなどについて9年以上執筆してきた経験をWindows Centralに持ち込んでいます。Windowsが動作する、あるいは何らかの形でハードウェアを補完するデバイスであれば、彼がその存在を知っていたり、記事を書いたり、すでにテストに取り組んでいる可能性は十分にあります。