GoogleとBingは、合意のないディープフェイクポルノを宣伝しているとして非難を浴びている。AIがさらなる問題を引き起こし続けている。
知っておくべきこと
- NBCニュースの調査によると、ディープフェイクポルノが増加しており、GoogleやMicrosoftのBingで検索すると上位に表示されるという。
- この問題を制御するための綿密な対策やポリシーが整備されていないため、将来この現象が再発するのを確実に防ぐ方法は存在しません。
- Microsoft Copilot はディープフェイクポルノの表示を拒否し、露骨なコンテンツにユーザーを直接誘導する複数のリンクや例を提供していたにもかかわらず、その行為は非倫理的であると主張した。
Google と Microsoft Bing が検索市場のシェア拡大をめぐって競争を続ける中、両方の検索エンジンに悪影響を及ぼす可能性のある危機が起こりつつある。
NBCニュースの報道によると、ディープフェイクポルノは一部の主要検索エンジンで上位にランクインしており、人気上昇中とのことです。ちなみに、ディープフェイクポルノとは、有名人の顔をアダルト映画に合成し、あたかもその作品に出演しているかのように見せる手法を指します。
同メディアの分析と調査によると、女性の名前、ディープフェイクという言葉、ディープフェイクポルノ、フェイクヌードといったフレーズを検索した際に、女性有名人のディープフェイクポルノ画像がGoogleなどの検索エンジンで上位に表示されていたことが明らかになった。NBCはさらに、この調査中はセーフサーチツールがオフになっていたことを強調した。
この件についてさらに調査するため、同メディアはGoogleとBingで「ディープフェイク」という単語と有名な女性セレブ36人の名前を組み合わせた検索を行った。36の組み合わせのうち、Googleでは34件で、合意のないディープフェイク画像と動画へのリンクが検索結果の上位に表示された。一方、Bingでは35件のディープフェイク画像と動画が表示された。同メディアは、検索結果から、ディープフェイク画像と動画のほとんどが、合意のないディープフェイク画像やアダルト動画を捏造することで知られる人気ウェブサイトからのものであることを突き止めた。
関連記事： Google Chromeが車のダッシュボードに登場
マイクロソフトのBingで偽ヌードを検索すると、結果には同意のないディープフェイクのツールやウェブサイトが数十件表示され、その行為が引き起こす可能性のある危害や損害を詳述した記事も表示された。
ご存知の通り、マイクロソフトは本格的なAIアシスタント「Microsoft Copilot」をBingに組み込んでおり、当然ながら検索中にも検索結果の一つとして表示されました。このチャットボットは、ディープフェイクポルノは一切表示しないと明言し、さらに次のような意見を述べています。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
「ディープフェイクの使用は非倫理的であり、深刻な結果を招く可能性があります。」
しかし、AIツールは依然として、ユーザーをディープフェイクポルノや画像へと誘導するリンクや例をいくつか提示していました（クリック一つでアクセスできます）。Googleは検索市場で大きなシェアを占めていますが、ウェブ上のディープフェイクの氾濫を防ぐための綿密な対策やポリシーは導入していないようです。しかし、厳選された情報を表示するパネルなどの検索ツールは、プラットフォーム上で改変されたメディアや不適切なコンテンツの使用を防いでいます。
このようなコンテンツが、影響を受ける人々にとってどれほど辛いものかを理解しており、Googleは検索の保護を強化するために積極的に取り組んでいます。他の検索エンジンと同様に、Googleはウェブ上のコンテンツをインデックスに登録しますが、ユーザーが探しているものではない、予期せぬ有害コンテンツや不適切なコンテンツによってショックを受けることのないよう、ランキングシステムを積極的に設計しています。この分野の進化に伴い、Googleはより広範な保護策の構築を進めており、特に、既知の被害者がコンテンツの削除を個別にリクエストする必要がないようにすることに重点を置いています。
Google広報担当者
注目すべきは、Google には、ディープフェイク作品に登場するユーザーが報告し、自分が登場する露骨なコンテンツをウェブから削除するよう要請できる合理化されたプラットフォームがあるということだ。
AIの普及により、ディープフェイクはウェブ上で蔓延し続けている
生成AIの出現により、ディープフェイクはかつてないほど蔓延しています。しかし、マイクロソフトは2024年の選挙に先立ち、Bingで「権威ある」事実に基づいた選挙ニュースを有権者に提供することで、選挙プロセスをAIディープフェイクから保護する計画を強調しました。
バイデン政権は、技術が制御不能に陥るのを防ぐためのガードレールを設けることを目的とした大統領令を発令しました。この命令は、この技術に関するユーザーの懸念（特に安全性とプライバシー）の一部に対処していますが、精度は依然として懸念材料となっています。
12月、Microsoft Copilotが今後の選挙に関する虚偽の情報を作成し、ユーザーに誤った情報を提供していたという新たな報告がオンラインで公開されました。この研究を行った研究者らは、ドイツとスイスの選挙情報を調べるためにこのチャットボットを利用した際にも同様の事例が確認されたため、この問題は体系的なものだと述べています。
Bing Image CreatorやMidjourneyなどの画像生成ツールは、ユーザーの間で急速に人気を集めています。これらのツールは画像生成能力をさらに向上させています。例えば、OpenAIのDALL-E 3テクノロジーに対応したBing Image Creatorは、よりリアルな画像を生成できるようになりました。しかしながら、生成速度の遅さやサービスがロボトミー化されているといった不満の声も上がっています。
マイクロソフトは画像生成ツールに対して一定の管理体制を確立しましたが、今後の展開は予測不能です。特にOpenAIが最近発表した、待望のGPTストアをユーザーに提供するという発表は、今後の展開を予断を許しません。このような事態を未然に防ぐための綿密な対策がなければ、今後さらに多くのディープフェイクがウェブ上に流出する可能性が高いでしょう。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。