Google は、AI による概要の誤りの責任を、コンテキスト トピックの「データ不足」と… に転嫁しています。

知っておくべきこと

• 先週、Google の Overview AI 機能が、石や接着剤を食べることを推奨するなど、誤解を招くような応答を生成しているのが発見されました。
• 同社によれば、ウェブ上の特定のトピックに関するデータの欠落や情報の欠落が、この機能が誤解を招く検索結果を生成する事例に大きく寄与しているという。
• Google は、AI 概要を表示すべきでない無意味なクエリの検出メカニズムを改善し、ツールのユーザー エクスペリエンスを向上させました。

あらゆる大手テクノロジー企業がAIの壮大な競争に急速に参入している。しかし、多くの場合忘れ去られたり無視されたりしており、そのスピードは必ずしも完璧な実行につながるわけではない。マイクロソフトは、OpenAI技術に数十億ドルを投資した後、この技術で概ね順調な航海を続けている。同社のこの分野での成功は、最新の決算報告で明確に示されており、時価総額は3兆ドルを超え、現在、アップルを抜いて世界で最も価値のある企業となっている。 

残念ながら、先週の「AI Overviews」の騒動を見る限り、GoogleがMicrosoftのAIにおける成功と足跡を追おうとする露骨な試みは失敗に終わったようだ。AIの駆動力としてRedditコンテンツの独占権を最近取得したにもかかわらず、この機能は奇妙なことに、石や接着剤を食べること、さらには自殺することさえ推奨しているのが見られた。

Google AI Overviews は狂ってしまったのか？

Googleは最近、AI機能に何が起きたのか、そしてそれがクエリに対して誤解を招く情報やレコメンデーションを生成する一因となったのかを浮き彫りにする新しいブログ記事を公開しました。Google検索責任者のリズ・リード氏は、AI概要機能は、広く普及しているチャットボットやLLM製品とは異なり、トレーニングデータに基づいて応答を生成する機能であると述べています。この機能は、Googleのウェブランキングシステムに統合されたカスタマイズされた言語モデルによって実現されています。これにより、関連リンクを含む、厳選された高品質の検索結果をユーザーに提供します。

Google 検索のリーダーによると:

AIオーバービューは、他のLLM製品のように「幻覚」を起こしたり、事実を捏造したりすることはありません。AIオーバービューが誤った結果を出す場合、通常は他の理由によるものです。クエリの解釈ミス、Web上の言語のニュアンスの解釈ミス、あるいは利用可能な有益な情報が不足している場合などです。

AI概要機能による誤った「異常な」検索結果について言及したリード氏は、この機能は精度向上のために最適化されており、リリース前に徹底的なレッドチームテストを含む広範なテストを実施したと述べた。また、検索責任者は、誤った結果を生み出すことを意図した可能性のある「無意味な」検索をチームが発見したと示唆した。

リード氏はまた、ソーシャルメディアプラットフォームで広く共有されているスクリーンショットの一部が捏造されたもので、Googleが妊娠中の喫煙といったトピックで危険な検索結果を返したとユーザーに誤解させていると指摘した。同社はそのような事実はないとしており、ユーザーには確認のためにこのツールを使って同様の検索を試してみることを推奨している。

Googleは、この機能が一部の検索に対して不正確なAI概要を提供していたことを認めました。興味深いことに、Googleは「これらは主に、人々が通常行わない検索クエリに対するものだった」と主張しています。さらに同社は、この機能を使って「石を何個食べればいいのか？」を調べている人々のスクリーンショットが話題になる前は、実際にそのような質問をする人はいなかったと述べています。

さらに、Googleは、こうしたトピックを扱う質の高いコンテンツが限られていると述べ、この現象をデータの空白と呼んでいます。「他の例として、ディスカッションフォーラムからの皮肉や荒らし的なコンテンツを含むAI概要が見られました。フォーラムは多くの場合、信頼できる直接的な情報の優れた情報源となりますが、チーズをピザにくっつけるのに接着剤を使うといった、あまり役に立たないアドバイスにつながる場合もあります。」

Google はこれらの重大な問題に対処するために何を行っていますか?

Google は、必ずしもクエリを 1 つ 1 つ修正するわけではないが、コア検索システムに対するアップデートと「12 個の技術的改善」を通じて幅広いクエリに対応するいくつかの対策を強調している。これには次のものが含まれる。

• Google は、AI 概要を表示すべきでない無意味なクエリに対するより優れた検出メカニズムを導入し、検索結果に風刺やユーモアのコンテンツが含まれることを制限しました。
• また、質の高い検索結果を促進するために、クエリへの応答の一部としてユーザーが生成したコンテンツの使用も制限しています。
• Google は、AI 概要が役に立たないと判断されたクエリに対して制限を発動しています。
• 同社は、ニュースと健康に関する強力なガードレールがすでに備わっていると述べている。 

最後に、Google は、ツールのユーザー エクスペリエンスと外部レポートに基づくフィードバックを追跡し、エクスペリエンスの改善方法などに関する決定に役立てることも示しています。 

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。