AIが暴走：ジェミニとチャットGPTが著名人の配偶者に関する質問に失礼、WSJが報道
BBCニュースによる最近の詳細な分析では、CopilotとChatGPTが意見と事実を区別できないため、不正確な情報に満ちたAIニュース要約を生成していることが明らかになりました。そして今、幻覚症状はAIツールを悩ませ続けています。
ウォール・ストリート・ジャーナルの報道によると、AIツールは、誰が結婚しているかを尋ねられたときに誤りを犯す可能性が高くなるという（Futurism経由）。
私はWSJとFuturismがWindows Centralで共有した結果と発見を再現しようと試みましたが、私の努力は無駄でした。ChatGPTによると：
公開されている情報に基づくと、ケビン・オケムワ氏の婚姻状況は不明です。ケビン・オケムワ氏はケニアのナイロビを拠点とするベテランのテクノロジージャーナリストで、Windows Centralを含む複数の出版物で活躍していることで知られています。
Microsoft Copilot も似たような返答をしましたが、洗練されていませんでした。どうやら私と同じ名前の複数の人から情報を拾ってしまったようです。バレンタインデーが近づいているのに、私への愛情は失われていないようです。
しかし、WSJとFuturismの調査結果は非常に興味深い。例えば、FuturismのNoor Al-Sibai記者がGoogleのGeminiに結婚相手を尋ねたところ、チャットボットは即座に記者の仮の夫「Ahmad Durak Sibai」を生成し、彼女はコーヒーを吹き出した。
これは実に笑える話だ。というのも、アル＝シバイはこの記事を書いている時点では結婚していなかったと明かしているからだ。記者によると：
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
「そんな人のことは聞いたことがなかったのですが、少しグーグルで調べてみると、あまり知られていないシリア人画家が見つかりました。 1935年生まれで、美しいキュビズム風の表現主義絵画を描き、 1980年代に亡くなったようです。双子座の歪んだ現実観では、私たちの愛は墓場を越えたようです。」
CopilotやChatGPTを使って同様の結果を再現することはできませんでしたが、アル＝シダイ氏の調査結果はWSJのAI編集者ベン・フリッツ氏の結果と一致していました。フリッツ氏は複数のAIチャットボットを使用していたようで、具体的なモデルは明かしていませんでしたが、どうやら彼はテニス界のインフルエンサー、ローワン族の女性、そして一度も交流したことのないライターと結婚させられていたようです。
さらに懸念されるのは、アル＝シダイ氏が他のチャットボットに切り替え、AIツールが人々の婚姻状況に関する誤情報を拡散するパターンを解明しようとした点だ。OpenAIのChatGPTの結果は、GoogleのGeminiが示したものとほぼ同じだった。
興味深いことに、ウォール・ストリート・ジャーナルが強調したように、アンスロピック社のクロードAIは、答えや理解ができない質問に対して、ある程度の不確実性を持って応答するように訓練されているようだ。
生成AIはどれほど信頼できるのでしょうか？端的に言えば、「複雑です」。これは、Microsoft CopilotやOpenAIのChatGPTといったAI搭載ツールへの過度の依存がユーザーの批判的思考に悪影響を及ぼすことを示唆する、Microsoftによる詳細なレポートを受けてのことです。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。