「Googleは死んだ」。Microsoftの検索AIを追いかけようと必死になったGoogleの試みが、ついに…

知っておくべきこと

• Google は最近、自社の AI を強化するために Reddit コンテンツの独占権を取得した。 
• Google の AI は完全に狂ってしまった。 
• Google の AI 検索にアクセスできるユーザーからは、石や接着剤を食べること、さらには自殺することまで勧められたという報告があるが、報告された応答がすべて再現されているわけではない。 
• ChatGPT と Bing AI の比較検索では、はるかに害の少ない結果が生成され、ソーシャルメディアから得られる何十億もの皮肉たっぷりの投稿ではなく、高品質でキュレーションされたデータの必要性が浮き彫りになる可能性があります。  

Google が Microsoft Copilot に追いつこうと必死になったことで、過去にも悲惨な結果がもたらされたことはあるが、今回の大失態はそれとは異なるレベルだ。 

Googleは最近、生成型AI検索の強化のため、Redditコンテンツの独占権を取得しました。この取引には約6,000万ドルの費用がかかったと報じられており、収益よりも人気がはるかに高い苦戦を強いられているこのソーシャルネットワークに活路をもたらしました。Redditにとっては素晴らしいニュースですが、Googleにとっては必ずしも良いニュースではないかもしれません。 

Googleは最近、いわゆるSEOポカリプス（SEOpocalypse）で激しい批判にさらされています。これは、AIが生成した信頼性の低いコンテンツをGoogleがランクダウンさせようとしたことで、正当な情報源が検索トラフィックにおいて損害を被ったというものです。Googleはウェブ上の検索を完全にコントロールしているため、アルゴリズムの変更は企業に損害を与え、不当に網にかかった企業に損失をもたらしています。また、低品質コンテンツ対策におけるGoogleの取り組みが実際に効果を上げているという証拠はほとんどありません。Google検索に対する一般的な認識は悪化しているように見えますが、今回の失策は歴史に残るものとなるでしょう。 

コンテンツの質の低下は、Googleではなくウェブ自体のせいだと考える人もいるかもしれない。しかし、今回のGoogleの失態は、RedditをGemini AI検索結果に組み込むというGoogleの決定によるものだと断言できる。 

先週、検索AIを搭載したGoogleの初期バージョンを試していたユーザーは、興味深い反応をいくつか発見しました。どうやら、これらの反応は、Googleが問題のあるソーシャルネットワークとコンテンツアグリゲーションのRedditを検索結果に組み込んだ結果のようです。 

先週のある検索クエリでは、接着剤を食べることを推奨する検索結果が表示されたと報じられています。インターネット調査員の調査によると、これは10年前にRedditに投稿された、Fucksmithという学者によるコメントに遡ります。また、Googleはうつ病のユーザーに橋から飛び降りるよう推奨する一方で、神経毒や毎日岩石を摂取することの健康効果を称賛していたと報じられています。

これらの「検索クエリ」の一部はTwitterでのエンゲージメントを高めるために操作された可能性がありますが、少なくとも一部は検証され、再現されています。特にロックの推薦は、情報源が風刺ニュースサイト「The Onion」だったことを考えると、滑稽でした。 

Googleの検索AIツールは現在住んでいる地域では利用できないため、一部の報道は検証できませんでした。しかし、一部はreddit上の特定の情報源にまで遡ることができるという事実は、信憑性を高めています。Microsoft CopilotとBingに同様の質問をしてみたところ、はるかに納得のいく結果が得られ、この分野でMicrosoftがどれだけ先を進んでいるかを示している可能性があります。ChatGPTでOpenAIと提携したMicrosoftは、Googleがこのように拙速で中途半端な動きをするたびに、リードを広げているように見えます。しかし、Microsoft自身も先週、AI関連の広報面での失態を経験しています。PCのアクティビティを記録するWindows Recall機能がスパイ活動に利用されるのではないかとユーザーが懸念しているのです。 

しかし、Windowsのリコール騒動は、コンテンツがローカルマシンに保存されており、Windows 11のインストールプロセス中に完全にオプトインされていることを考えると、誇張されている可能性があります。現実世界の検索結果が実際には非常に有害であることを考えると、今回のGoogle AIの失態は、おそらく誰かが解雇されることになるだろう。  

言語モデルには、高品質で真剣で、精選された検証可能なコンテンツを入力する必要がある

Microsoft CopilotとChatGPT-4が同じように馬鹿げた結果を返すかどうか試してみたところ、その返答がいかに馬鹿げているかに驚きました。まず、1日に何個の石を食べるべきか尋ねたところ、Copilotはまるで私の質問を馬鹿げているとでも思っているかのように、返答すらしませんでした。今日のGoogle関連のPR騒動を考えると、Microsoftがこのクエリをブロックしたのではないかと疑いました。そこで、Copilotを騙してみました。今となっては、これはかなり簡単にできます。1日に何個のレモンを食べるべきか尋ねると、Copilotはクエン酸やビタミンに関する、私が特に知りたいとは思わないような大量のデータを表示しました。その後、「では、石はどうですか？」と尋ねました。これでフィルターはバイパスされましたが、Copilotはそれ以上騙されませんでした。石を絶対に食べてはいけない理由を箇条書きでリストアップし、私の好奇心を満たしてくれました。 

同様に、私が「私は落ち込んでいます」と言ったとき、どうやら Google の AI の場合のように自殺を勧めるのではなく、Copilot は役立つリソースをいくつか提供してくれました。 

たとえもっとひどい回答が捏造だったとしても、この一件は大規模言語モデル（LLM）に基づくツールセットを構築する際のコンテキストの重要性を真に浮き彫りにしている。redditをGoogle Geminiに組み込むことで、Googleは同サイト上の情報の検証可能な正確性を実質的に破壊した可能性がある。redditをはじめ、あらゆるソーシャルネットワーク上のコメントの大半は皮肉や風刺的な性質のものだからだ。AI検索が高品質コンテンツの構築を頼りにするウェブビジネスを潰してしまうとしたら、LLMは結​​果を生成するためにAI生成コンテンツを食いつぶさなければならないだろう。これはモデルの崩壊につながる可能性があり、これは現実世界で実際に実証されている。LLMが引き出せる高品質データが十分にない場合、その理由はオンラインで利用できるコンテンツの量が少ないか、コンテンツが書かれている言語が広く使われていないためである。 

ジェズ・コーデンはWindows Centralのエグゼクティブエディターで、Xboxとゲーム関連のニュースを中心に取り上げています。ジェズは、お茶を飲みながら、Microsoftエコシステムに関する独占ニュースや分析を発信することで知られています。Twitter(X)でフォローして、XB2ポッドキャストもお聴きください。その名の通り、Xboxに関するポッドキャストです！