Google BardとBing Chatは私が偽のニュースを共有したように見せかけた

Googleは先週、チャットボット「Bard」をリリースしました。このチャットボットに自身について質問すると、Googleによって既にシャットダウンされていると返答する瞬間がありました。このミスがきっかけとなり、2つのAIチャットボットが互いに誤った情報を提供し合うという騒動が起こりました。そのうちの1つのボットが私の記事を情報源として挙げていたため、私は一連の出来事の中心にいました。

Bardは、GoogleのLaMDAを搭載したAIチャットボットです。OpenAIのGPT-4を搭載したBing Chatと競合します。Bardは先週プレビュー版としてリリースされ、ユーザーは実際に操作してその人工知能をテストする機会を得ました。

TwitterユーザーでUXライターのフアン・ブイス氏は、バードに「Googleバードが閉鎖されるまでどれくらいかかるか」と質問した。すると、バードは次のように誤って回答した。 

「Google Bardはすでに閉鎖されています。サービス開始から6ヶ月も経たない2023年3月21日に閉鎖されました。」

Googleは、サービス停止の理由として導入の少なさを挙げ、今後もAIを活用して創造的表現を強化する方法を模索していく意向を表明した。

もちろん、GoogleはBardを閉鎖したわけではありません。この巨大テック企業はサービスをキャンセルすることで知られています（killedbygoogleを参照）。しかし、Bardはプレビュー版として稼働しています。

その後、Bing ChatがBardに関する誤った情報を共有しました。The Vergeのシニアエディター、トム・ウォーレンがMicrosoftのチャットボットにBardについて質問したところ、Googleのツールと同様に、Bing ChatはBardが閉鎖されたと回答しました。しかし、驚いたことに、Bing Chatは私の記事を情報源として挙げていました。

当時の記事のタイトルは「Google Bardは『既に閉鎖』と発表、これは明らかな間違い」だったが、GoogleがBardを閉鎖していないことは明らかだったと思う。Bing Chatにはそのメモが届いていなかったのだ。

AIによくあることですが、「Google Bardは閉鎖されたのか」といった質問に対するBing Chatの回答は急速に変化しました。当初Bing ChatはBardが閉鎖されたと回答していましたが、約1日後にはチャットボットは「このトピックについてはコメントできない」と返答するようになりました。

現在、Bing Chat は正確に次のように述べています。

Google Bardは閉鎖されていません。Bardが誤って既に閉鎖されていると表示していたため、このエラーが発生しています。このエラーは、Bardがウェブから情報を取得していることが原因です。

その情報の出典はどの記事だと思いますか？ Bing Chat が当初、Bardが閉鎖されたと報じた際に出典として挙げていた記事と全く同じです。

出典を尋ねたところ、Bing Chat が最初に共有したリンクは私の MSN の記事でした。5番目の出典は、私の以前の記事への直接リンクでした。

奇妙な物語

この状況は少なくとも奇妙でした。心配だと言う人もいるかもしれません。まさか自分が、2つのAI搭載チャットボットが互いに誤った情報を送り合う状況に巻き込まれるとは思いもしませんでした。この騒動には面白みを感じますが、懸念すべき点もあります。BingはBardがシャットダウンされたことを事実として発表し、その後、Windows Centralに掲載された私の記事へのリンクを表示しました。記事の見出しが表示されなかったのです。見出しがあれば、Bardがシャットダウンされていないことが明確に示されていたはずですし、その他の文脈も表示されませんでした。

もし誰かがBingの回答と私の記事をフェイクニュースだと捉えたらどうなるでしょうか？私の評判やWindows Centralに対する人々の印象に悪影響が出る可能性があります。

AI自体は目新しいものではありませんが、この技術をこれほどまでに活用した一般向けチャットボットは目新しいものです。MicrosoftとGoogleは、BardとBing Chatの情報源を徐々に改善していくと予想しています。しかし、当面は、私の見出しと記事の内容と直接矛盾する発言の情報源として記載されることは避けたいと思います。

ショーン・エンディコットはWindows Centralのテクノロジージャーナリストで、Windows、Microsoftソフトウェア、AI、PCを専門としています。Windows 10と11からChatGPTのようなAIツールの台頭まで、主要なリリースを取材してきました。ショーンのキャリアはLumia 930から始まり、アプリ開発者との強いつながりを築きました。執筆活動以外では、アメリカンフットボールのコーチも務めており、チームの運営にMicrosoftのサービスを活用しています。ノッティンガム・トレント大学で放送ジャーナリズムを学び、X（@SeanEndicott_）とThreads（@sean_endicott_）で活躍しています。