マイクロソフト・コパイロットに耳を傾けるな。デイビッド・アッテンボローとウィリアム・シャトナーは今も生きている

知っておくべきこと

• 今年亡くなった著名人について尋ねられた場合、Microsoft Copilot はまだ存命の人物のリストを共有することがあります。
• 私のテストでは、Copilot は生存者と過去数年間に亡くなった人々のリストを共有しました。
• Copilot や Google Bard などの AI チャットボットは、事実に基づいた正確な情報を共有することに問題があり、しばしば「幻覚」を起こします。

Microsoft Copilotがまたしても誤った情報を公開しています。2024年に亡くなった著名人について尋ねると、Copilotはサー・デイビッド・アッテンボローなど、存命の著名人を挙げています。報道されていない悲痛なニュースがない限り、アッテンボローは健在です。

実際、今週初め、レスターシャー州のある学校に彼からの手紙が届きました。アッテンボロー氏は最近の世論調査で英国文化人のトップにも選ばれました。故エリザベス女王が文化アイコンに選ばれたように、この称号は亡くなった人に与えられることもありますが、アッテンボロー氏は生前にこの栄誉を受けました。

この現象は複数のユーザーによって発見され、X（旧Twitter）やその他のプラットフォームで拡散しました。ウィリアム・シャトナーは、大丈夫かと尋ねられた際、「自分の死について読んだ後、大丈夫ではない」と冗談めかして答えました。The Vergeは、アッテンボロー氏を故人として表示するなど、他の例も紹介しました。私自身のテストでも同様の結果を目にしました。Copilotは、生存者を死亡者として表示するだけでなく、過去の死亡者数名を2024年に誤って表示していました。

これは、AIが事実を誤認した最新の例に過ぎません。Copilotは過去にも米国大統領選挙に関する虚偽の情報を共有しました。Copilotの基盤となるChatGPTは、リリース以来、知能が低下していると考える人もいます。チャットボットの初期の頃、当時はBing Chatとして知られていたCopilotは、奇妙で不気味な応答を共有していました。

AIチャットボットが偽情報を拡散するのを実際に経験したことがあります。昨年、Google Bardがサービスを停止したと誤って発表した件について記事を書きました。その後、Bing Chatが私の記事をスキャンし、Google Bardが停止したと誤って解釈しました。この出来事は、チャットボットがチャットボットに情報を提供するという恐ろしい状況を垣間見せてくれました。

AIは論理や推論にしばしば苦労します。AIの仕組みを考えれば、これは驚くべきことではありません。Copilotのようなツールは実際には知的ではありません。人間のような推論スキルを使っていません。プロンプトの表現につまずいたり、質問の重要な情報を見逃したりすることが多々あります。AIが風刺を理解するのに苦労していることも加われば、誤情報を生み出す危険なレシピが出来上がります。

AIを修正する

マイクロソフトは昨日、Copilotのメジャーアップデートを発表しました。このアップデートは、AIアシストをよりパーソナルでインタラクティブなものにすることを目的としています。シニアエディターのザック・ボウデンは、「マイクロソフトは、新しいCopilotを単なるAIツール以上のものとして捉えてほしいと考えています。好きな人にデートに誘う方法を聞いたり、仕事の愚痴を言ったり、あるいは何でもないことを話したり、友人のように接してほしいと考えています。なぜなら、それが人間というものだからです」と説明しています。

新しいCopilotには、「Copilot Voice」などの機能が搭載されており、チャットボットとのやり取りを会話のように感じられるようになっています。また、話し合うトピックを提案したり、日々のニュースの要約を共有したりすることも可能です。

新しいインターフェースと音声機能は、Copilotをよりパーソナルなものにするのに役立つかもしれませんが、人間であれデジタルであれ、友人が虚偽の情報を共有したり、生きた文化的象徴が死んだと主張したりするのは避けたいものです。トレーニングをもっと重ねれば、私たちのデジタルの友人はより事実に基づいたものになるかもしれません。

ショーン・エンディコットはWindows Centralのテクノロジージャーナリストで、Windows、Microsoftソフトウェア、AI、PCを専門としています。Windows 10と11からChatGPTのようなAIツールの台頭まで、主要なリリースを取材してきました。ショーンのキャリアはLumia 930から始まり、アプリ開発者との強いつながりを築きました。執筆活動以外では、アメリカンフットボールのコーチも務めており、チームの運営にMicrosoftのサービスを活用しています。ノッティンガム・トレント大学で放送ジャーナリズムを学び、X（@SeanEndicott_）とThreads（@sean_endicott_）で活躍しています。