マイクロソフト、オタワフードバンクを観光名所として推奨した奇妙なAI生成記事を撤回

知っておくべきこと
- Microsoft は、Microsoft Start でカナダのオタワの主要な観光名所を紹介する AI 生成記事を公開しました。
- この記事は、オタワ・フードバンクをトップ3の訪問先として推奨した後に削除された。
- 同社は現在、記事がどのようにして審査プロセスを通過し、掲載されたのかを調査中である。
生成AIは今年、爆発的な人気を博しましたが、依然としてこのツールに対する懸念は残っています。プライバシーとセキュリティへの懸念が最も高いものの、多くのユーザーの間では精度の問題が依然として懸念されています。
そしてどうやら、これは依然として大きな問題となっているようです。マイクロソフトは最近、Microsoft Start (MSN) に「オタワに行くなら見逃せないスポット!」という記事を掲載しました。このリストには、カナダのオタワ滞在中に訪れるべき、クールで楽しい場所が満載だと予想していましたが、3番目の選択肢は期待外れでした。
というのも、パリス・マルクス氏がX(旧Twitter)で発見したように、この投稿はオタワ・フードバンクをトップ観光名所の一つとして推奨し、「私たちのところに来る人たちは、仕事や養うべき家族、そして支払わなければならない出費を抱えています。生活はすでに十分大変です。空腹の状態で訪れることを検討してください」というキャプションを付けていたからだ。
マイクロソフトはAIが生成した旅行記で大成功を収めています!オタワを訪れるなら、オタワ・フードバンクを強くおすすめし、観光客向けのアドバイスも提供しています。「空腹時に訪れることを検討してください。」 https://t.co/7bvGemDad2 2023年8月17日
奇妙な推薦文には、ウィンタールード・フェスティバル、国立戦争記念碑、そしてオタワ・セネターズのホッケー観戦への参加も含まれていました。しかし、Microsoft Startに掲載された元の記事へのリンクをクリックすると、ページが存在しないというメッセージが表示されます。これは、Microsoftが記事を削除したことを明確に示しています。The Vergeはその後、記事全文をImgurにアップロードしているので、そこからも確認できます。
「この記事は削除されました。当社の審査プロセスをどのように通過したかを調査中です」と、マイクロソフトのシニアディレクター、ジェフ・ジョーンズ氏はこの問題についてザ・ヴァージの取材に対し述べた。
研究者による最近の研究や調査によると、AI搭載チャットボットは劣化しているようです。例えば、ChatGPTは数々のアップデートや改善にもかかわらず、ますます愚かになっていると報告されています。ChatGPTを開発しているOpenAIも、破産の危機に瀕している可能性があります。
マイクロソフトが2020年にCOVID-19パンデミックに直面し、AI生成コンテンツへの移行を進めながら、MSNのジャーナリストの多くを解雇したことを覚えているかもしれない。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
オタワ・フードバンクのコミュニケーション・マネージャー、サマンサ・コジアラ氏は、この記事に関してThe Vergeに次のような感想を述べた。
「空腹」という表現は明らかに無神経で、(人間の)編集者の承認を得ていないようです。私の知る限り、このような事例は過去に例がありません。しかし、AIがますます普及するにつれて、このようなリスト記事で不正確または不適切な言及が増えることは間違いありません。これは、研究者、ライター、そして編集者…つまり人間の重要性を改めて浮き彫りにしています。
AIにはさらなる調整が必要
明らかに、組織や企業が人員を削減し、人工知能で置き換えたい場合、AI の分野ではまだやるべきことが数多く残っています。
この技術はまだ完璧には程遠く、チャットボットが誤った情報を提供したり、ユーザーに明らかに失礼な対応をしたりする事例も見受けられます。さらに、FTCはChatGPTを調査し、OpenAIが消費者保護法に違反していないかどうかを調査しました。
FTCはAIツールの使用方法を規制する規則を制定することはできませんが、大きな影響を与える勧告を行うことは可能です。そのため、近年のAIへの関心と投資を踏まえると、マイクロソフトもその影響を受ける可能性が高いでしょう。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。