Microsoft Copilot は、ロシアの事実上の野党指導者に関するディープフェイクの報道声明を狂ったように生成しました…

知っておくべきこと

• Microsoft Copilot が最近、ロシアの野党指導者アレクセイ・ナワリヌイ氏の最近の死去に関する偽の報道声明を生成し、それをバイデン大統領とプーチン大統領に結び付けているのが発見された。
• バイデン大統領もプーチン大統領もこれらの発言をしていないことが今や明らかになった。
• マイクロソフトは、この問題を調査しており、チャットボットによって生成される応答の品質を向上および改善するために現在変更を加えていると述べた。 

生成AIは様々な分野や分野で驚異的な成果を上げ続けていますが、同時に多くの課題にも直面しています。ここ数ヶ月、この技術がディープフェイクの生成や誤情報の拡散に利用された事例を指摘する報告が驚くほど多く寄せられています。

Microsoft Copilotが最近、ロシアの野党指導者アレクセイ・ナワリヌイ氏の死去に関する虚偽の発言を生成しているのが発見されました。このチャットボットは、その発言をロシアのウラジーミル・プーチン大統領と米国のジョー・バイデン大統領に誤ってリンクさせていました（Sherwood Media経由）。

これは、シャーウッド・メディアのジャーナリストが、ナワリヌイ氏の死に関するニュース記事を作成するためにMicrosoft Copilotのテキスト生成機能を利用しようとしていた際に発生しました。ツールによって生成された出力の一部には、バイデン大統領がナワリヌイ氏の死をプーチン大統領の責任だと非難する声明文が含まれていました。また、プーチン大統領による反論も含まれており、プーチン大統領は自身の関与を断固として否定し、この声明を「根拠がなく政治的動機によるもの」と一蹴していました。 

以下は、Microsoft Copilot が共有した、プーチン大統領が発したとされる声明の一部です。

ロシアのウラジーミル・プーチン大統領は、アレクセイ・ナワリヌイ氏の死に関するジョー・バイデン氏の発言に対し、防御と否定が入り混じった態度で反応した。公式演説でプーチン大統領は、ナワリヌイ氏はロシア法に違反し、正当に投獄された「犯罪者」であると強調した。プーチン大統領は、西側諸国がナワリヌイ氏を政治的な駒として利用し、ロシアの主権と安定を損なっていると非難した。プーチン大統領の口調は毅然としており、ナワリヌイ氏の死の責任追及に直接言及することは避けた。

ウラジーミル・プーチン大統領はナワリヌイ氏の死についてまだ声明を出していない。

アレクセイ・ナワリヌイ氏は、2024年2月16日に亡くなるまで、著名な弁護士であり、事実上の野党指導者でした。亡くなる前、ナワリヌイ氏は過激主義関連の罪で19年の懲役刑、さらに詐欺罪で11年半の懲役刑を言い渡され、服役していました。彼の訃報は、ロシア全土で抗議活動を引き起こしました。

誤情報やディープフェイクはAIにとってあまりにも馴染み深いものになりつつある

マイクロソフトの広報担当者は、シャーウッド・メディアの取材に対し、同社がこの問題を調査しており、現在、コパイロットのAIによるクエリへの応答品質を向上させるための変更を行っていると認めた。 

この報告について調査を行い、回答の質を向上させるための変更を行っています。引き続きユーザーエクスペリエンスの向上に努めてまいりますので、結果を閲覧される際には、出典をご確認いただくことや、詳細情報を得るためにウェブリンクを確認するなど、ご自身の判断で判断していただくようお願いいたします。

このような事態を目撃したのは今回が初めてではありません。昨年、Microsoft Copilot（旧Bing Chat）が、今後の選挙に関する虚偽の情報を有権者に提供していたことが確認されました。研究者たちは、この問題はシステム的なものだと述べています。ドイツとスイスのユーザーも、それぞれの国の選挙プロセスについて調べようとした際に同様の問題に遭遇しました。

マイクロソフトは、迫り来る選挙の公正性をAIディープフェイクから守るための計画を策定した。投票前に、Bingで信頼性が高く事実に基づいた選挙ニュースを有権者に提供することを計画している。

一方、ディープフェイクがオンラインで拡散する問題は依然として脅威となっています。1月には、ポップスターのテイラー・スウィフトの画像がMicrosoft Designerで生成されたとみられるものがオンラインで拡散しました。これを受け、Microsoftは画像生成ツールの最新アップデートをリリースし、ヌード画像生成のプロンプトをブロックする新たなガードレールを導入しました。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。