イーロン・マスクのxAIは、わずか122日でColossusを開発しました。10万基のNVIDIA H100 GPUを搭載した「世界最強のAIトレーニングシステム」は、Grokを「あらゆる基準で最も強力なAI」にするかもしれません。

Howero
abmhh
0 comments

イーロン・マスク（画像提供：テスラ）

知っておくべきこと

イーロン・マスクの xAI チームは、10 万個の NVIDIA H100 GPU を搭載した Colossus をリリースしました。
同社は、今後数か月以内に NVIDIA H100 および H200 GPU を 50,000 個追加して、システムの容量を 2 倍にすることを計画しています。
Colossus は、Grok 3 をあらゆる基準で最も強力な AI にトレーニングするのに役立ちます。

少し前に、イーロン・マスク氏は、xAIのチームが「世界で最も強力なAIトレーニングクラスター」を使用してGrok AIのトレーニングを開始し、AI搭載チャットボットを「あらゆる基準で世界で最も強力なAI」にする詳細な計画を立てていることを発表しました。

イーロン・マスク氏は先日、世界最強のトレーニングシステムが正式に稼働したと発表しました。Colossusスーパーコンピュータと呼ばれるこのシステムは、10万基のNVIDIA H100 GPUを搭載し、トレーニングに使用されます。同社は今後数ヶ月以内に、さらに5万基のNVIDIA H100およびH200 GPUを追加し、システムの機能を拡張する予定です。

今週末、@xAIチームはColossus 10万台規模のH100トレーニングクラスターをオンライン化しました。開始から完了まで、わずか122日で完了しました。Colossusは世界で最も強力なAIトレーニングシステムです。さらに、数ヶ月以内に規模が倍増し、20万台（H200クラスター5万台）になる予定です。素晴らしいですね…2024年9月2日

イーロン・マスク氏によれば：

今週末、チームはColossus 100k H100トレーニングクラスターをオンラインにしました。開始から完了まで、わずか122日で完了しました。Colossusは世界で最も強力なAIトレーニングシステムです。さらに、数か月以内に規模が2倍の200k（H200は50k）に拡大する予定です。チーム、Nvidia、そして多くのパートナー/サプライヤーの皆様の素晴らしい仕事ぶりに感謝いたします。

テネシー州メンフィスを拠点とするこのプロジェクトを完成させるために要した費用の詳細は依然として不明ですが、NVIDIAのH100は約3万ドルです。これは、このテクノロジー界の大物がGPU調達に費やすと推定される30億～40億ドルとほぼ一致しています。ご存知の通り、AIベンチャー企業は、その技術革新と冷却水のために、膨大な電力を消費しています。

テスラが今年AI関連支出を行うと私が述べた約100億ドルのうち、約半分は社内向けで、主にテスラが設計したAI推論コンピューターと、すべてのテスラ車に搭載されているセンサー、そしてDojoです。AIトレーニング用スーパークラスターの構築には、NVIDIAのハードウェアが約…2024年6月4日

Grok 2は最近、XプレミアムおよびXプレミアムプラス加入者限定で、画像とテキスト生成機能を備えて出荷されました。検閲なしのLLMとして高く評価されているこのLLMは、15,000基のGPUを用いて学習されました。Colossusのリリースにより、Grok 2の後継機は学習に100,000基を超えるNVIDIA H100 GPUを利用できるようになるため、今後の展開は非常に有望です。

関連: Grok 2はAnthropicのClaude 3.5 SonnetやGPT-4-Turboよりも優れたパフォーマンスを発揮します

Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。

イーロン・マスク氏は、あらゆる指標で最も強力なAIとなるGrok 2の後継機を12月までに出荷する計画です。これは、Xのデータがユーザーの同意なしにデフォルトでAIモデルの学習に使用されていることが発覚し、プライバシーへの懸念が高まる中でのことです。規制当局はこの件を調査中ですが、Xが法的根拠を示せなければ、世界全体の年間売上高の最大4%に相当する罰金を科される可能性があります。

🎒新学期のお得な情報📝

🕹️Xbox Game Pass Ultimate (3 か月) | CDKeys で 29.99 ドル (20 ドルお得!)
🎮Lenovo Legion Go (Z1 Extreme) | Best Buy で 599.99 ドル (100 ドルお得!)
🎧Sony WH1000XM5 ANC ヘッドフォン | Best Buy で $329.99 ($70 お得!)
🕹️Starfield プレミアムアップグレード (Xbox & PC) | CDKeys で $27.69 ($7 お得!)
📺LG UltraGear OLED 曲面モニター 39 | Amazon で 996.99 ドル (503 ドルお得!)
💻HP Victus 15.6 ノートパソコン (RTX 4050) | Walmart で 599 ドル (380 ドルお得!)
🕹️God of War: Ragnarök (PC、Steam) | CDKeys で $52.09 ($8 お得!)
💻Lenovo ThinkPad X1 Carbon | Lenovo で $1,481.48 ($1,368 お得!)
🎧Bose QuietComfort ANC ヘッドホン| Best Buy で 249.00 ドル（100 ドルお得！）
🎮 Seagate Xbox Series X|S カード (2TB) | Best Buy で 229.99 ドル (130 ドルお得!)
🕹️Hi-Fi RUSH (PC、Steam) | CDKeys で $8.99 ($21 お得!)
🖱️Razer Basilisk V3 有線マウス | Best Buy で $46.99 ($23 お得!)
🖥️Lenovo ThinkStation P3 (Core i5 vPro) | Lenovo で $879.00 ($880 お得!)

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。