イーロン・マスクの自由奔放なGrok-2 AIは、億万長者を社会ののけ者にし、誤った情報を拡散していると報じられている…

今年初め、億万長者でありXのオーナーでもあるイーロン・マスク氏は、xAIがGrok AIを12月までに「最強のAI」へと進化させる準備を進めていることを示唆しました。マスク氏は、同社が「世界最強のAIトレーニングクラスター」と呼ばれるメンフィス・スーパークラスターを用いて、このAIツールのトレーニングを進めていることを強調しました。このトレーニングクラスターは、単一のRDMAで接続された10万個の液冷式NVIDIA H100グラフィック・プロセッシング・ユニット（GPU）を搭載しています。

しかし、xAIがGrokの学習に強力なクラスター以上のものを活用していることが判明しました。Xはひっそりと新しいアップデートをリリースし、デフォルトで有効になっていたユーザーのデータを使ってチャットボットを学習できる設定を追加しました。この設定を無効にすることは可能ですが、変更はWeb版のみに限定されており、モバイルユーザーが無効にすることは困難でした。

これにより、このプラットフォームはアイルランドデータ保護委員会（DPC）の調査対象となり、ユーザーの同意なしにチャットボットの学習にユーザーデータを使用することの法的根拠を示さなかった場合、全世界の年間売上高の4%に上る罰金を科されるリスクがありました。同時に、この物議を醸しているAIツールが、米国大統領選挙の真っ最中に誤情報を拡散するために利用されていたとの報道もありました。

論争とデータプライバシーへの懸念の中、多くのXユーザーがソーシャルメディアでGrokを「世界で最も楽しいAI」「このクラスで最もベースがしっかりしていて、検閲されていないモデル」と称賛しました。おそらく、MicrosoftのImage Creatorのような、厳しい検閲によってロボトミー手術を受けたように見える他のAIツールと比較されるのでしょう。

ちなみに、Grok AIは以前はプレミアム会員限定でした。しかし、イーロン・マスク氏は最近、Grok-2をすべてのXユーザーにリリースしました。新しいモデルは元のモデルを彷彿とさせますが、同社はより高速で正確であると主張しています。

しかし、ローンチ以来、ユーザーからの投稿がソーシャルメディアに殺到し、様々な活用事例が共有されています。中には、その「超リアル」な画像生成能力を称賛し、「検閲に関してははるかに制限が少ない」と指摘する声もあります。

Grok-2に対するさまざまな反応

興味深いことに、XがGrok-2を全ユーザーに無料で提供すると発表した直後、チャットボットのパフォーマンスが低下した事例を指摘する声が上がり始めました。ユーザーは、パフォーマンスの低下と「ひどく遅い」速度は、プラットフォームが全ユーザーに無料でアクセスできることが原因だと主張しました。

Fast Companyの最近のレポートでは、「ユーザーがGrok-2を使って、数え切れないほどの誤った、偽善的な、あるいは分断を招く発言を生成させた」という事例が挙げられています。AI搭載のチャットボットが誤情報を拡散したり、商標登録されたコンテンツを生成したりする事例は、新しい現象ではありません。

今年初め、ポップスターのテイラー・スウィフトの露骨な性的画像がAIによって生成され、同意なしに人物の画像を作成する人工知能の使用をめぐって激しい議論と対立が巻き起こりました。マイクロソフトのCEO、サティア・ナデラ氏は、この事件は「憂慮すべき、そして恐ろしい」ものだと述べました。これらの露骨な性的画像がMicrosoft Designerによって生成されたかどうかは依然として不明ですが、マイクロソフトはプラットフォームの最新アップデートをリリースし、ツールが逸脱するのを防ぐための対策とポリシーを強化しました。

同メディアの報道によると、Grok-2の応答は、望ましい結果を得るために操作可能であることが明らかになった。チャットボットの応答は文脈を無視して共有できるため、出力はあたかもオリジナルの回答であるかのように見せかけられる。

テイラー・スウィフトのファンがチャットボットに「TTPD」の略称を尋ねたところ、AIツールは「The Toilet Paper Department」と答えてしまいました。これは実に面白い話です。というのも、このユーザーはテイラー・スウィフトの最新アルバム『 The Tortured Poets Department』のことを言っていたからです。

同様の結果を再現しようとしましたが、結果は異なりました。最初の推薦は確かにテイラー・スウィフトの最新アルバムでした。Grok AIは推論について以下の説明を示しました。

TTPDが使用される文脈によって、どの意味が当てはまるかが決まります。しかし、最近のポップカルチャー、特にテイラー・スウィフトのファンやソーシャルメディアでは、彼女のアルバムを指すことが最も一般的です。

また、頭字語の意味として「Texas Tech Police Department」と「Third Party Property Damage Liability」も挙げられた。

他の場所では、ユーザーがGrok AIにこの物議を醸している億万長者について説明させようと試みましたが、その答えは少し意外なものでした。「Twitterでイーロン・マスクを説明する際にほとんどのユーザーが使う一言」という質問に対する答えは「バカ」でした。別の例では、あるユーザーがチャットボットに、なぜこのテスラのCEOはあんなにバカなのかと尋ねていました。

チャットボットは、マスク氏の短気で理不尽な職場管理スタイルに関する報告を指摘した。また、マスク氏がナルシストで共感力に欠けているとみなされていた事例をいくつか指摘した。

さらに興味深いのは、Grok-2が、イーロン・マスク氏が先日終了した米国大統領選挙中に誤情報の拡散に加担したという過去の報道を裏付けた点です。また、マスク氏が移民、健康、自然災害などについて誤情報を拡散した事例も挙げています。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。