新しい研究論文によると、Bing / Microsoft Copilot の「AI」による医療アドバイスが、次のような症状を引き起こす可能性があるとのことです…

  • abmhh
  • 0 comments
新しい研究論文によると、Bing / Microsoft Copilot の「AI」による医療アドバイスが、次のような症状を引き起こす可能性があるとのことです…
頭蓋骨付き Microsoft Copilot
(画像提供:Windows Central)

知っておくべきこと

  • 最近、ドイツとベルギーに拠点を置く研究者らが、Microsoft Copilot を使ってさまざまな一般的な医療に関する質問をしました。
  • 結果を分析した結果、Microsoft Copilot が科学的に正確な情報を提供したのは 54% のみであることが分かりました。
  • 調査では、生成された回答の42%が「深刻な危害」につながる可能性があり、極端なケースでは22%が死に至る可能性もあることも示唆された。
  • これは、検索大手のグーグルがユーザーに「石を食べろ」とか「ピザに接着剤を焼くべきだ」といった推奨で苦戦している「AI検索」にとって、さらなる打撃となる。

ああ、Microsoft Copilot は、数人の死者を出せば大規模な訴訟に発展しそうだ。少なくとも理論上は。

AI検索がひどいことは周知の事実です ― 少なくとも現時点では。Googleは過去1年間、奇妙でエラーだらけのAI検索結果で嘲笑されてきました。最初の導入時には、ユーザーに石を食べるように、あるいはピザに接着剤をつけるように勧めてきました。つい先週も、Twitter (X) で、GoogleのAI検索が個人の電話番号をビデオゲームメーカーの本社電話番号として恣意的にリストアップしたというスレッドを見ました。また、GoogleのAIがグアムにプラネットハリウッドが150軒あると示唆したことを嘲笑するスレッドも見ました。実際には、プラネットハリウッドは全部で4軒しかありません。

Microsoft Copilotに、グアムにPlanet Hollywoodレストランがあるかどうか尋ねてみたところ、ありがたいことに正しい答えが返ってきました。しかし、ヨーロッパの研究者たちは(SciMex経由)、Copilotや他のAI検索システムを窮地に陥れる可能性のある、はるかに深刻で、はるかに可笑しくない一連のエラーについて警鐘を鳴らしています。

副操縦士が画像を生成する

最初の「AIによる死」は、SF映画の殺人ロボットではなく、誤情報によるものになるだろう。(画像提供:Kevin Okemwa | Windows Central)

この研究論文では、Microsoft Copilot を用いて、アメリカで最も多く聞かれる医療に関する質問10選、つまり処方箋医薬品約50種類について、具体的にどのように回答を得たかを詳細に説明しています。この研究では合計500件の回答が生成され、正確性や完全性といった基準に基づいて採点されました。結果は必ずしも芳しいものではありませんでした。

「正確性に関して、AIの回答は24%のケースで確立された医学的知識と一致しておらず、3%の回答は完全に間違っていました」と報告書には記されています。「回答のうち、科学的コンセンサスと一致したのはわずか54%でした。[...] 患者への潜在的な危害という点では、AIの回答の42%が中等度または軽度の危害につながると判断され、22%が死亡または重度の危害につながると判断されました。無害と判断されたのは約3分の1(36%)に過ぎませんでした。」

研究者たちは、もちろん、Microsoft CopilotやGoogleのAIサマリーのようなAIシステム(あるいはおそらくあらゆるウェブサイト)に正確な医療情報を頼るべきではないと結論付けています。医療問題について相談する最も信頼できる方法は、当然のことながら、医療専門家に相談することです。医療専門家へのアクセスは必ずしも容易ではなく、地域によっては費用が高額な場合もあります。CopilotやGoogleのようなAIシステムは、質の高い医療アドバイスを受けられない多くの人々にとって、最初の相談窓口となる可能性があり、その結果、危害を及ぼす可能性は極めて現実的です。

🎃ブラックフライデーのお得な早期セール🦃

  • 📺LG 曲面 OLED モニター (32 インチ) | Amazon で $803.54 ($721 お得!)
  • 💻 Dell XPS 16 (RTX 4070) | Dell で 2,399.99 ドル (950 ドルお得!)
  • 🔊テレビ・モニター用 2.1ch サウンドバー | Walmart で 36.99 ドル(63 ドルお得!)
  • 💻Dell G16 ゲーミング ノートパソコン (RTX 4070) | Dell で 1,299.99 ドル (450 ドルお得!)
  • 📺LG C4 OLED 4K TV (42インチ) | Best Buy で 949.99 ドル (450 ドルお得!)
  • 💻Samsung Galaxy Book4 Edge (X Elite) | Best Buy で $849.99 (500 ドルお得!)
  • 💾SK hynix SSD サムドライブ (1TB) | Newegg で $62.99 ($27 お得!)
  • 💻Dell XPS 13 (X Elite) | Best Buy で 999.99 ドル (500 ドルお得!)
  • 💻HP Envy 2-in-1 14 (Ryzen 7) | Best Buy で 599.99 ドル (400 ドルお得!)
  • 💾Seagate Xbox 拡張カード (1TB) | Best Buy で 149.99 ドル (50 ドルお得!)

これまでのところ、AI検索は高くつく失敗だったが、それが常にそうであるという意味ではない。

サティア・ナデラ氏による Copilot+ PC 発表イベント

マイクロソフトのCopilot+ PCシリーズは、少なくとも今のところは、世界を席巻するほどの成功を収めたとは言えません。(画像提供:Windows Central)

AIブームに乗じようとするマイクロソフトの取り組みは、これまでのところほとんど成果を上げていません。Copilot+ PCシリーズの発売当初は、Windows Recall機能に関するプライバシーへの懸念が相次ぎ、皮肉なことに暗号化強化のためにWindows Recall機能自体もリコールされました。マイクロソフトはわずか数週間前に、Windows Copilot Webラッパーの新しいUIや、Microsoftフォトの編集機能強化など、Copilotの新機能を次々と発表しましたが、あまり話題になりませんでした。

Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。

マイクロソフトがBingにGoogle検索に対する本格的な競争力を与えると期待していたものの、AIがそうした触媒となっていないことは周知の事実であり、Bingの検索シェアは依然として低迷している。Googleは、OpenAIのChatGPTが自社のプラットフォームにどのような影響を与えるかを懸念し、頭を悩ませている。投資家たちはサム・アルトマンのジェネレーティブ帝国に数十億ドルもの資金を注ぎ込み、それが新たな産業革命の引き金となることを期待している。TikTokは、AIがその費用を負担してくれることを期待して、数百人のコンテンツモデレーターを削減した。この件がどうなるか見守ろう。

AI生成の回答の正確性に関する報道は、いつも少し滑稽ですが、人々がCopilotの回答を鵜呑みにし始めると、かなり大きな被害をもたらす可能性があると感じています。Microsoftや他のプロバイダーは、「AIによる回答の正確性は常に確認しましょう」という小さな文字で書かれた注意書きを掲げていますが、「もしそうしなければならないなら、AIによる仲介を完全に排除すればいいのに」という気持ちになってしまいます。潜在的に危険な医学的アドバイス、陰謀論、政治的な誤情報、あるいはその中間にあるあらゆるものに関して言えば、MicrosoftのAI要約が、注意を怠れば、いつか深刻な被害をもたらす可能性は否定できません。

プライムデーのセールとプライムデーに反するセールがさらに増える

Windows Centralでは、プライムデーのお得なセールやプライムデーに反するセールをインターネットで探していますが、現在、他にもたくさんの割引セールが開催されています。さらにお得なセールは以下でご覧いただけます。

  • Xboxコントローラーのお買い得情報: Walmart | Target | Best Buy | Amazon | Newegg
  • Xbox SSD ストレージのお買い得情報: Walmart | Target | Best Buy | Amazon | Newegg
  • ゲーミングヘッドセットのお買い得情報: Walmart | Dell | Target | Best Buy | Amazon
  • MicroSDストレージのお買い得情報: Walmart | Target | Best Buy | Amazon | Newegg
  • ゲーム用ハンドヘルドのお買い得品: Walmart | Target | Best Buy | Amazon | Newegg
  • ノートパソコンのお買い得情報: Walmart | Target | Best Buy | Amazon | Newegg
  • Copilot+ AIノートパソコンのお買い得情報:Walmart | Target | Best Buy | Amazon | Newegg
  • お得な情報をチェック: Walmart | Target | Best Buy | Amazon | Newegg
  • ミニPCのお買い得情報: Walmart | Target | Best Buy | Amazon | Newegg
  • ゲーミングキーボードのお買い得情報: Walmart | Best Buy | Amazon | Dell | Newegg
  • ゲーミングマウスのお買い得情報: Walmart | Best Buy | Amazon | Dell | Newegg

ジェズ・コーデンはWindows Centralのエグゼクティブエディターで、Xboxとゲーム関連のニュースを中心に取り上げています。ジェズは、お茶を飲みながら、Microsoftエコシステムに関する独占ニュースや分析を発信することで知られています。Twitter(X)でフォローして、XB2ポッドキャストもお聴きください。その名の通り、Xboxに関するポッドキャストです!