AIが生成したテイラー・スウィフトの性的画像は「憂慮すべき、恐ろしい」とマイクロソフトCEOのサティア・ナデラ氏は語るが…

知っておくべきこと

• マイクロソフトのCEO、サティア・ナデラ氏はNBCナイトリーニュースに対し、テイラー・スウィフトを性的に表現するAI生成の偽画像が登場していることについて語った。
• ナデラ氏は状況を「憂慮すべき、ひどい」ものとし、マイクロソフトや他の企業は行動を起こす必要があると述べた。
• ある報道によると、テイラー・スウィフトの画像生成には Microsoft Designer が使用されたとのことだが、この情報は確認されていない。

最近、テイラー・スウィフトのAI生成画像がオンライン上に登場しました。この偽写真の性的な性質は、AIを用いて同意なしに人物の画像を作成することをめぐって論争を引き起こしました。生成されたコンテンツが性的に露骨であったという事実は、議論をさらに複雑にしています。

マイクロソフトのCEO、サティア・ナデラ氏はNBCナイトリーニュースのインタビューでこの状況について語り、AIを誘導し悪用を防ぐために何ができるかについて語った。

ナデラ氏は、2024年1月30日に全編が放送されるインタビューで次のように述べた。

2つ言いたいことがあります。1つ目は、繰り返しになりますが、私たちの責任とは何か、つまり、より安全なコンテンツが生み出されるよう、テクノロジーの周囲にあらゆるガードレールを設ける必要があるということです。やるべきことは山ほどあり、すでに多くのことが行われているのです。そして、特に法律、法執行機関、そしてテクノロジープラットフォームが連携すれば、私たちは自分たちが考えている以上に、そして自分たちが思っている以上に、多くのことを管理できると思います。

テイラー・スウィフトの偽画像が「警鐘を鳴らす」かどうか、そして何ができるのかとの質問に対し、ナデラ氏は「まず第一に、これは本当に憂慮すべき、恐ろしいことです。ですから、私たちは行動を起こさなければなりません」と述べた。

ポルノ画像を作成するマイクロソフトのツール

AI業界の最大手企業の一つであるマイクロソフトのツールが、テイラー・スウィフトの偽画像に関係している可能性があることが判明しました。404 Mediaの報道によると、「女性への虐待画像を扱うTelegramグループ」のメンバーが、マイクロソフトのAI搭載画像作成ツールを使用して、スウィフトの偽画像を作成したとのことです。

Microsoftは最近、Bing Image CreatorをImage Creator from Designerに名称変更しました。404 Mediaの報告では、Telegramグループのメンバーがどのツールを使用していたかは特定されていませんが、Bing Image CreatorまたはImage Creator from Designerだった可能性が高いです。

このツールにはポルノ画像が作成されないようにするためのガードレールが設置されていますが、AI ツールを騙して禁止されているはずのコンテンツを作成する方法があります。

AI生成ポルノに対してマイクロソフトは何ができるでしょうか?

多くの人が、政府がAI生成ポルノを規制すべきかどうかに注目するでしょう。マイクロソフトの役割と責任も、おそらく議論の的となるでしょう。しかし、私はマイクロソフトがAI生成画像に関して何ができるのか、そして既にどのような対策が講じられているのかに焦点を当てたいと思います。

ナデラ氏が示唆したように、マイクロソフトはコパイロットなどのAIツールが作成できるコンテンツの種類を制限するガードレールを設けることができます。こうしたガードレールは既に設置されていますが、もちろん回避策は存在します。人々は、無害な楽しみからリベンジポルノの作成まで、あらゆる目的でAIの制限を回避しています。マイクロソフトはガードレールを追加し、制限を厳しくすることもできますが、それでも同社のAIツールは、同社が承認しないコンテンツの作成に利用される可能性が常に高いのです。

何が適切であるかを誰が決めるかについては、より大きな道徳的議論がありますが、それについては専門家に任せたいと思います。

たとえマイクロソフトが自社のツールによるポルノ画像やその他の物議を醸す画像の生成を阻止する方法を見つけたとしても、他にも利用可能なAIツールは存在します。マイクロソフトのCopilotやGoogleのBardといったWebベースのAIツールは使いやすいですが、利用可能なAIツールはこれだけではありません。

では、マイクロソフトはユーザーが本物の画像と偽造写真を区別できるようにするために何ができるでしょうか？このテクノロジー大手は、AI生成画像を識別する技術の開発を支援することができます。OpenAIは、AI生成画像を99%の信頼性で識別できると主張するツールの開発に取り組んでいます。

一部のソーシャルメディアサイトでは、既に同様のツールを使ってセンシティブな画像をスキャンし、フラグを立てています。もちろん、これらのツールも完璧ではありません。X（旧Twitter）はテイラー・スウィフトの偽画像の拡散を阻止するのに苦労しました。

ショーン・エンディコットはWindows Centralのテクノロジージャーナリストで、Windows、Microsoftソフトウェア、AI、PCを専門としています。Windows 10と11からChatGPTのようなAIツールの台頭まで、主要なリリースを取材してきました。ショーンのキャリアはLumia 930から始まり、アプリ開発者との強いつながりを築きました。執筆活動以外では、アメリカンフットボールのコーチも務めており、チームの運営にMicrosoftのサービスを活用しています。ノッティンガム・トレント大学で放送ジャーナリズムを学び、X（@SeanEndicott_）とThreads（@sean_endicott_）で活躍しています。