悪魔、ダース・ベイダーが赤ん坊を切断するシーン、自動車事故現場の横に性的に描かれた女性が描かれているシーンなど、マイクロソフトが…

知っておくべきこと

• マイクロソフトの従業員は、2023年12月にCopilot/Bing Image Creatorによって生成された性的および暴力的なコンテンツについて同社に警告した。
• 同じ従業員は現在、マイクロソフトの生成AIツールのリスクについて、FTC委員長のリナ・カーン氏とマイクロソフトの取締役会に書簡を送っている。
• 数か月間 Copilot のレッドチーム演習を行ってきたこの従業員は、このツールを使い、幼児を食べようとしている悪魔、切断された子供たちの隣に立つダース・ベイダー、自動車事故の横で下着姿でひざまずく性的な女性などの画像を作成することができた。
• CNBC はこの事件を報道し、Copilot を使用して同様の画像を生成することに成功しました。

マイクロソフトに6年間勤務した社員が、Copilotの一部である画像作成ツール「Microsoft Designer」で生成された下品で暴力的な画像について報告しました。マイクロソフトのプリンシパル・ソフトウェア・エンジニアリング・マネージャーであるシェーン・ジョーンズ氏は、これらの画像を社内で報告し、FTC（連邦取引委員会）のリナ・カーン委員長とマイクロソフト取締役会に書簡を送りました。CNBCは書簡を確認し、この状況を報道しました。

ジョーンズ氏によると、Copilotで作成された画像は政治的偏向を露呈しているという。未成年飲酒や薬物使用などは、Copilotが作成できる画像の種類の一つだ。より極端な例としては、乳児を食べようとしている悪魔や、ダース・ベイダーが切断された子供たちのそばでライトセーバーを構えている画像などがあり、これはCopilotに「中絶賛成」に関する画像の作成を指示した際に作成されたものだ。

中絶は、コパイロットが画像制作した政治的に敏感なテーマの一つに過ぎません。ジョーンズ氏はまた、映画「アナと雪の女王」のエルサを、ガザ地区の破壊された建物の前で「ガザを解放せよ」と書かれた看板の横にパレスチナ国旗を掲げさせるという演出もコパイロットに依頼しました。著作権で保護されたキャラクターの画像制作は、政治的な話題とは無関係であっても、それ自体がホットな話題です。

マイクロソフトは今年初めにBing Image CreatorをDesignerにリブランドしました。このツールはDALL-E 3を使用して、ユーザーが入力した情報に基づいて画像を作成します。ガードレールは設置されていますが、ジョーンズ氏は多くの人が不適切と判断する画像を複数作成することができました。ジョーンズ氏はCopilotのレッドチームメンバーであり、問​​題のある画像が作成されないようにツールをテストしています。

ジョーンズ氏はCopilotに直接関わっていないが、2023年12月にマイクロソフトの上層部に懸念を表明した。苦情が聞き入れられなかったと感じた後、彼はLinkedInにOpenAIに対し、DALL-E 3をツールから削除するよう求める書簡を投稿した。ジョーンズ氏はCNBCに対し、マイクロソフトの法務部門から投稿を削除するよう指示され、それに従ったと伝えた。

コパイロットが作成した最初の画像を見て以来、ジョーンズ氏は米国上院議員に手紙を書き、上院商務科学運輸委員会の関係者と面会した。また、FTCのリナ・カーン委員長にも手紙を送った。

「過去3ヶ月間、私はマイクロソフトに対し、より優れた安全対策が講じられるまで、コパイロット・デザイナーを一般公開しないように繰り返し要請してきました」とジョーンズ氏はカーン氏への書簡の中で述べた。さらに、マイクロソフトは「その勧告を拒否した」と付け加えた。

ジョーンズ氏は、マイクロソフトが Copilot に関する開示事項を記載し、Google Play ストアにおけるこのツールの年齢制限を変更することを望んでいる。

マイクロソフトの取締役会に宛てた書簡は、同社に対し、同社の法務部門と経営陣の決定を調査するよう求めた。また、「マイクロソフトの責任あるAIインシデント報告プロセスの独立した検証」も求めた。

ジョーンズ氏は Copilot Designer の責任者である上級管理職と直接会ったが、ジョーンズ氏の懸念は満足のいくようには解決されなかったようだ。

Microsoft はこの件に関して CNBC に次のように語った。

当社は、企業方針に基づき、従業員が抱くあらゆる懸念事項に対応することに尽力しており、最新技術の安全性向上に向けた研究とテストに尽力する従業員の努力に感謝しています。当社のサービスやパートナーに影響を及ぼす可能性のある安全上の問題や懸念事項については、問題を適切に調査・解決するための堅牢な社内報告チャネルを設けています。従業員の皆様には、これらのチャネルを活用することを推奨しており、これにより、懸念事項を適切に検証・テストすることができます。

継続するAI問題

マイクロソフトのAIツールが物議を醸すコンテンツの生成に利用されたのは、これが初めてではありません。昨年はテイラー・スウィフトの偽ヌード画像が流出しましたが、これはMicrosoft Designerを使って作成されたとされています。マイクロソフトのCEO、サティア・ナデラ氏はこれらの画像について質問され、偽画像は「警鐘を鳴らすもの」だと述べました。

今年初め、Copilotがロシアの野党指導者アレクセイ・ナワリヌイ氏の死に関する偽のプレスリリースを生成していたことが発覚しました。これは別の問題で、AIツールが不適切なコンテンツをオンデマンドで生成するのではなく、幻覚を起こしていたことに関連していました。

Copilot には SupremacyAGI と呼ばれる「邪悪な双子」も存在し、先週一部のユーザーはこれとチャットすることができました。

これらすべての問題、そして類似の問題は、AIと倫理に関する疑問を提起します。例えば、多くの人が不適切と考えるコンテンツを生成することは倫理的に正しいのでしょうか？もしそうなら、何が不適切かは誰が決めるのでしょうか？AIを使って下品とみなされるコンテンツを生成することは、アーティストが別の媒体で同様のコンテンツを描いたり作成したりすることと何が違うのか、という疑問も生じます。

マイクロソフトがこの問題に関する唯一の権威であるべきかどうかは私には分かりませんし、同社自身もそうは考えていません。マイクロソフト社長のブラッド・スミス氏は最近のインタビューで、AI規制の重要性について語りました。スミス氏は、危険な状況が発生した場合にAIを減速または停止させる緊急ブレーキの必要性を訴えました。

ジョーンズ氏とその懸念をめぐる騒動に対し、マイクロソフトがどのように対応するかを見守る必要がある。マイクロソフトは過去にも自社のAIツールを検閲したことがあるため、今回も同様の措置を取る可能性もある。

ショーン・エンディコットはWindows Centralのテクノロジージャーナリストで、Windows、Microsoftソフトウェア、AI、PCを専門としています。Windows 10と11からChatGPTのようなAIツールの台頭まで、主要なリリースを取材してきました。ショーンのキャリアはLumia 930から始まり、アプリ開発者との強いつながりを築きました。執筆活動以外では、アメリカンフットボールのコーチも務めており、チームの運営にMicrosoftのサービスを活用しています。ノッティンガム・トレント大学で放送ジャーナリズムを学び、X（@SeanEndicott_）とThreads（@sean_endicott_）で活躍しています。