マイクロソフトの新しい軽量AIモデルは、スマートフォンで実行できるほど小さいにもかかわらず、GPT-3.5と同等の性能を備えています。

Howero
abmhh
0 comments

マイクロソフトの新しい小型AIモデルは、ChatGPTやCopilotといったツールを支える大規模モデルと競合できる。（画像提供：ベン・ウィルソン｜Windows Central）

知っておくべきこと

Microsoft には、Phi-3 Mini と呼ばれる新しい軽量 AI モデルがあります。
Phi-3 Mini は、Microsoft がリリースする 3 つの小型モデルのうちの 1 つで、他の 2 つは Phi-3 Small と Phi-3 Medium です。
Microsoft は、子供が物語を聞いて学ぶのと同じようなカリキュラムを使用して Phi-3 Mini をトレーニングしました。
AI モデルをトレーニングするための子供向けストーリーが十分にないため、Microsoft は法学修士に Phi-3 Mini を教えるための子供向けの本を作成させています。
Microsoft は、Phi-3 Mini は GPT-3.5 と同等の機能を備えているが、フォームファクターが小さいと述べています。

Microsoftから新しい軽量AIモデルが登場しました。GPT-3.5と同等の性能を、はるかに小型でありながら、いくつかの分野で実現すると期待されています。Phi-3 Miniは、GPT-4や他の大規模言語モデル（LLM）よりもはるかに少ないデータで学習しますが、Llama 2などの大規模モデルを上回るパフォーマンスを発揮します。また、モデルが小型であるため、Webを必要とせず、スマートフォンやノートパソコンでも実行できます。

マイクロソフトは研究論文でPhi-3の詳細を公開しました。その後、The Vergeはモデルに関する洞察とマイクロソフトからのコメントを掲載しました。

Phi-3 Miniは、3.3兆トークンで学習された38億パラメータの言語モデルです。Phi-3 Miniに関する研究論文では、このモデルの鍵の一つは学習用データセットであると説明されています。Phi-3 Miniは、2023年12月にリリースされたPhi-2のスケールアップ版です。

Microsoft によれば、Phi-3 Mini は新しい軽量 AI モデルの 10 倍の大きさのモデルと競合できるとのことです。

軽量モデルはMicrosoftだけのものではありません。Google、Anthropic、Metaもそれぞれ小型モデルを提供しています。Phi-3 Miniが他のモデルと比較して際立っている点は、その学習方法です。Microsoft Azure AIプラットフォーム担当バイスプレジデントのEric Boyd氏はThe Vergeに対し、「カリキュラム」を用いて学習したと述べています。同氏によると、Microsoftは、子供が寝る前に物語を聞くことで学習する様子から着想を得たとのことです。

Phi-3 Miniのトレーニングには子供向けの物語の数が制限されていたため、Microsoftはいくつか作らなければなりませんでした。「子供向けの本が足りないので、3,000語以上のリストを用意し、法学修士（LLM）にPhiに教えるための『子供向けの本』を作ってもらいました」と、ボイド氏はThe Vergeに語っています。

Phi-3 Miniのようなモデルは、GPT-4やLLMを置き換えるものではありません。むしろ、小規模なモデルは特定のタスクやユースケースに焦点を当てることができます。小規模なモデルは、社内データを学習に利用する企業にも役立ちます。

Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。

ローカルAI

マイクロソフトコパイロット — 一部のPCでは、クラウド経由ではなくローカルでMicrosoft Copilotを実行できるようになります。（画像提供：Windows Central | Jez Corden）

LLMは今後も存在し続けるでしょうが、ローカルAIは人工知能の次なる進化形です。AI搭載PCはMicrosoft Copilotをある程度ローカルで実行できるようになるでしょう。また、組織はWeb接続を必要とせずにAIを活用する方法の開発に取り組んでいます。Phi-3 Miniのような小型モデルは、スマートフォン、ノートパソコン、その他の小型デバイスでも動作できるほど小型です。

Intelは次世代Lunar Lake CPUを発表した際、AIタスクにおいて100TOPS（1兆演算/秒）の性能を発揮し、NPUは45TOPSを占めると発表しました。Copilotをローカルで動作させるには少なくとも40TOPSのNPU性能が必要となるため、この数値は重要です。QualcommのSnapdragon X Eliteは45TOPSのNPU性能を備えているため、このプロセッサでCopilotをローカルで動作させることも可能になります。

テクノロジー大手はLLMやその他のAIモデルの一般公開を競い合っていますが、AI技術を活用できるハードウェアが登場し始めたばかりです。Phi-3 Miniのような小型モデルは、特殊なケースや、CopilotなどのAIツールをローカルで実行するためのパフォーマンス要件を満たさないデバイスで活躍するでしょう。

ショーン・エンディコットはWindows Centralのテクノロジージャーナリストで、Windows、Microsoftソフトウェア、AI、PCを専門としています。Windows 10と11からChatGPTのようなAIツールの台頭まで、主要なリリースを取材してきました。ショーンのキャリアはLumia 930から始まり、アプリ開発者との強いつながりを築きました。執筆活動以外では、アメリカンフットボールのコーチも務めており、チームの運営にMicrosoftのサービスを活用しています。ノッティンガム・トレント大学で放送ジャーナリズムを学び、X（@SeanEndicott_）とThreads（@sean_endicott_）で活躍しています。