ChatGPTの運用には1日あたり70万ドルの費用がかかるため、マイクロソフトは独自のAIチップを開発したいと考えている。

知っておくべきこと

• 新たなレポートによると、ChatGPT の運営には 1 日あたり約 70 万ドルの費用がかかるとのことです。
• 最近、マイクロソフトが独自の AI チップを開発していると噂されています。
• マイクロソフト独自のチップによりコストを3分の1以上削減できる可能性がある。

AIは現在、大流行しており、何百万人ものユーザーがChatGPTを日々利用しています。これほど需要が高いため、ChatGPTの運用にかなりの費用がかかるのは当然のことです。調査会社SemiAnalysisのチーフアナリスト、Dylan Patel氏は、ChatGPTの運用コストがOpenAIにとって現在1日あたり70万ドル、つまり1クエリあたり36セントであると推定しています。

これは巨額の金額であり、需要の増加に伴い、マイクロソフトを含むAI企業はAIサービスを維持するためにNVIDIAなどの企業からGPUを大量購入する必要があるという事実も、状況を悪化させています。業界アナリストは、OpenAIが商業活動を支援するために、今年中にNVIDIA GPUを3万台追加発注する必要がある可能性があると推定しています。

独自のAIチップを開発すればコスト削減につながる可能性があり、まさにマイクロソフトがそれを実行しているようです。マイクロソフト独自のAIチップはコードネーム「Athena」と呼ばれ、既に社内の厳選されたグループでテストが行​​われているほど完成度が高いと報じられています。同社は来年、Azure AIサービスに独自のAIチップを配布する予定です。

業界関係者によると、MicrosoftがNVIDIAを完全に置き換えるとは考えておらず、むしろ依存度を低下させるとみられている。ChatGPTはAzureサービス上で動作するため、コスト削減はOpenAIにとってChatGPTの低コスト化につながるだけでなく、Azureをホストとして選択する他のAIサービスもより低コストで実行できるようになる。

Googleが自社のAI製品「Bard」の発売で失敗に終わった後、Microsoftはここ数ヶ月、AIへの積極的な取り組みを進めてきました。先日、Google社員の中にはBardに信頼を寄せていない者もおり、MicrosoftのBing AIへの取り組みに対抗するためにGoogleがBardの市場投入を急いだと感じているとの報道もありました。