Microsoft が AI 幻覚に対処するための新しい修正ツールを発表したが、当初は懸念も — 「…

知っておくべきこと

• Microsoft は AI の幻覚を防ぐための新しい修正ツールを発表しました。
• 専門家は、このツールはテクノロジーに影響を及ぼしている問題の一部に対処できるかもしれないが、正確さを完璧に解決するものではなく、重大な問題を引き起こす可能性もあると主張している。
• さらに研究者らは、このツールは熱心なAIユーザーの間で誤った安心感を生み出し、誤​​った出力や誤情報に対する安全策だと認識される可能性があると主張している。 

マイクロソフトは最近、セキュリティ、プライバシー、信頼性の向上を目的とした、人工知能（AI）の新たな安全機能をいくつか発表しました。その中には、「Correction（訂正）」と呼ばれる新しいツールも含まれています。ご想像のとおり、このツールはテキストベースのプロンプトへの回答を生成する際に、誤りや事実誤認を検出することでAIの誤りを修正するように設計されています。

この新しいツールは、MicrosoftのAzure AIコンテンツセーフティAPIの一部であり、MetaのLlamaやOpenAIのGPT-4oなど、複数のテキスト生成AIモデルで利用できます。TechCrunchの取材に対し、Microsoftの広報担当者は、このツールは小規模および大規模の言語モデルに基づいており、信頼できるソースからの出力をファクトチェックできると明らかにしました。

しかし、専門家たちは、このツールがAIの幻覚症状に対する特効薬ではないかもしれないと警告している。ワシントン大学の博士課程学生であるOS・キーズ氏は次のように述べている。

「生成AIから幻覚を排除しようとするのは、水から水素を排除しようとするようなものです。それは、この技術の仕組みにとって不可欠な要素なのです。」

幻覚はAIの唯一の問題ではない

Bing Chat（現Microsoft Copilot）の初期には、ユーザーはツールのユーザーエクスペリエンスに不満を表明し、誤った出力を理由に挙げていました。Microsoftは、チャットボットを混乱させる可能性があるため、長文チャットを防止するために文字数制限を導入しました。幻覚症状の発生は大幅に減少しましたが、必ずしも問題がなくなったわけではありません。

例えば、GoogleのAI概要機能は最近、石や接着剤を食べること、さらには自殺を推奨する行為が見つかっています。同社はすぐにこの問題を修正し、「データの空白」と偽造されたスクリーンショットに責任を転嫁しました。

しかし、マイクロソフトの広報担当者は、新しい修正ツールはアプリ開発者が「ユーザーの不満と潜在的な評判リスク」を軽減するのに役立つため、AI生成コンテンツの信頼性と信用性を大幅に向上させると主張している。広報担当者は、このツールがAIを悩ませている精度の問題に対処するわけではないことを認めているものの、出力結果を根拠となる文書と整合させるとしている。

キーズ氏は、この修正ツールはAIに影響を与える問題の一部に対処できるかもしれないが、同時に新たな問題も生み出すだろうと主張している。中には、このツールが誤った安心感を生み出し、AIによって生成された事実に反する情報をユーザーが真実だと誤解してしまう可能性があると主張する者もいる。

新しい Correction ツールが熱心な AI ユーザーにどう受け入れられるか、そしてそれが AI の幻覚を検出する上で役立ち、最終的に AI が生成した応答の信頼性を高めるかどうかを見るのは興味深いでしょう。

一方、マイクロソフトは最近、Copilot Academyを発表しました。これは、ユーザーがCopilotの機能を最大限に活用できるように設計された新しいプログラムです。別のレポートによると、マイクロソフトのCopilot部門で最も多く寄せられる苦情は、このAIツールがOpenAIのChatGPTほどうまく機能していないというものです。マイクロソフトは、ユーザーがその機能を想定通りに活用していないことが原因だと主張しています。

🎃ブラックフライデーのお得な早期セール🦃

• 🕹️Xbox Game Pass Ultimate (3 か月) |  CDKeys で $31.59 ($17 お得!)
• 💻Samsung Galaxy Book4 Edge (X Elite) |  Best Buy で $899.99 ($450 お得!)
• 🎮Razer Wolverine V2 Chroma (Xbox & PC) |  Amazon で 99.99 ドル (50 ドルお得!)
• 🕹️Starfield プレミアム アップグレード (Xbox & PC) |  CDKeys で $27.69 ($7 お得!)
• 💻ASUS Vivobook S 15 (X Elite) |  Amazon で 955 ドル (345 ドルお得!)
• 🕹️ファイナルファンタジーXVI (PC、Steam) |  CDKeys で $43.79 ($6 お得!)
• 💻Lenovo ThinkPad X1 Carbon |  Lenovo で $1,481.48 ($1,368 お得!)
• 🎮 Seagate Xbox Series X|S カード (2TB) |  Best Buy で 249.99 ドル (110 ドルお得!)
• 🕹️Hi-Fi RUSH (PC、Steam) |  CDKeys で $8.49 ($22 お得!)
• 💻HP Victus 15.6 (RTX 4050) |  Walmart で 599 ドル (380 ドルお得!)
• 🫙Seagate HDD Starfield Edition (2TB) |  Best Buy で 79.99 ドル (30 ドルお得!)
• 🖱️Razer Basilisk V3 有線マウス |  Best Buy で $44.99 ($25 お得!)
• 🕹️Days Gone (PC、Steam) |  CDKeys で 10.19 ドル (39 ドルお得!)
• 🖥️Lenovo ThinkStation P3 (Core i5 vPro) |  Lenovo で $879.00 ($880 お得!)

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。