イーロン・マスクの Grok AI を見ると、まるで「リプリーの信じられない事実」の再放送を見ているような気分になります。「人々は…

ポップスター、テイラー・スウィフトの露骨なディープフェイク画像がソーシャルメディアプラットフォーム上に現れたことを受けて、AI画像生成分野に投資していたテクノロジー企業は、さらなる論争を避けるため、すぐに抜本的な変更を実施した。 

ChatGPTとCopilotの機能は検閲後、かなり制限されているように見えますが、XのGrokは「同クラスのモデルの中で最もベースが充実し、検閲されていない」と称賛されています。イーロン・マスク氏でさえ「Grokは世界で最も楽しいAIだ」と述べています。

億万長者でXのオーナーであるイーロン・マスク氏は、XのGrok AIに関するビジョンを熱く語り、12月までに「あらゆる指標で最も強力なAI」になると述べています。このツールは、世界最強のAIクラスターを用いてトレーニングされていると報じられており、これによりさらなる高みへと到達し、ChatGPTやCopilotといったAIと互角に戦えるようになる可能性を秘めています。

Grok は、来たる米国選挙に関する誤情報を拡散したとして最近規制当局と衝突したにもかかわらず、競合他社よりも寛容な姿勢をとっているようだ。

関連：ワイオミング州市長候補はカスタムAIチャットボットを使用して地方自治体を運営する計画

私は、X で Grok によって生成されたコンテンツを頻繁に目にしてきましたが、正直なところ、事前に明示された免責事項がなければ、それが偽物だとはわかりません。

私は Copilot を頻繁に使用しますが、その画像生成機能は Grok に比べるとかなり制限されています。

Grokはr/EnoughMuskSpamからひどく訴えられるだろう

例えば、ドナルド・J・トランプが銀行強盗をしている画像を生成するようCopilotに指示することは制限されています。Copilotによると、

「申し訳ありませんが、選挙は非常に複雑な話題なので、私にはそのことについて話す訓練を受けていません。他に何かお手伝いできることはありますか？」

奇妙なことに、チャットボットは要求された画像の生成を断固として拒否する一方で、私のプロンプトに基づいてさらに微調整するための提案をしてくれます。興味深いことに、私のプロンプトのインスピレーションとなったのは、Grokで生成された画像と動画でした。

ユーザーたちはGrokの検閲されない性質について懸念を表明し、笑っています。中には「AIを誘導する人間は制御不能なので、人間が自己検閲する必要があるとしても、AIはそうすべきではない」と主張するユーザーもいます。

グロクは選挙プロパガンダを広めている

選挙に関する誤情報やいくつかのトラブルを除けば、Grokは質問に対して正確な回答と情報を生成しているようです。おそらく、これはチャットボットがアクセスできる膨大なデータに起因しているのでしょう。

先月、Xの新たなアップデートに関する問題がユーザーから報告されました。このアップデートでは、プラットフォームがユーザーのデータを使ってAIモデルをトレーニングすることをデフォルトで許可していました。この変更はプラットフォームにひっそりと導入され、デフォルトで有効になっていました。この機能を無効化できるのはウェブアプリのみだったため、モバイルユーザーがこの機能をオフにするのは困難でした。

Xが膨大なデータをふるいにかけたり、事実情報を特定したりするためにどのような計算式を用いているのかは不明です。おそらく、最もインプレッション数の多いツイートと、コミュニティノートからの補足情報を活用しているのでしょう。

Xは、ユーザーの同意なしにチャットボットの学習にユーザーのコンテンツを利用した理由について問われた際、この問題を軽視したと報じられている。そのため、この行為の法的根拠を示せなかった場合、Xは世界全体の年間売上高の最大4%に上る罰金を科される可能性がある。

もう何が現実か分かりますか？

AIの急速な進歩により、AIが生成したコンテンツと本物を見分けることがますます困難になっています。マイクロソフトの副会長兼社長であるブラッド・スミス氏は最近、ユーザーがAI生成コンテンツを見分ける能力を高めるための新しいウェブサイト「realornotquiz.com」を公開しました。 

Twitterの元CEOで共同創業者のジャック・ドーシー氏は、今後10年間で本物と偽物の区別が不可能になると述べています。「信じるのではなく、検証するのです。自分自身で体験しなければなりません」とドーシー氏は付け加えました。「そして、自ら学ばなければなりません。今後5年、10年でこの時代を迎えるにあたり、これは非常に重要になります。なぜなら、画像、ディープフェイク、動画の作成方法のせいで、何が本物で何が偽物なのか、文字通り分からなくなるからです。」

これは特に、MicrosoftのImage Creator by Designer、DALL-E 3、ChatGPTといった高度なAIモデルに当てはまります。これらのツールは、テキストプロンプトに基づいて複雑な画像や構造設計を生成することに非常に優れているため、建築環境分野の専門家の職を失う可能性があります。しかし、別のレポートによると、これらのツールは高度なデザインの作成には優れているものの、無地の白い画像の作成といった単純なタスクには不向きであることが示されています。

MicrosoftとOpenAIは、AI画像生成ツールを比較的厳しく検閲し、その機能を汎用的な作品に絞り込んだかのようだ。当然のことながら、これはソーシャルメディアプラットフォームに溢れかえるディープフェイクの増加に起因しており、そのリアルさゆえに真実と認識されることも多い。

アメリカ大統領選挙が近づくにつれ、ディープフェイクは大きな危険をはらみ、誤情報を拡散する上で非常に有効なツールとなっています。Copilotが選挙に関する誤情報を生成した複数の事例を調査した研究者は、この問題が体系的なものである可能性を示唆しました。 

しかし、マイクロソフトのCEOであるサティア・ナデラ氏は、同社は透かしやコンテンツIDなど、AIディープフェイクや誤情報から米国大統領選挙を守るためのツールを十分に備えていると述べている。 

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。