ChatGPT と DALL-E 3 AI 生成画像には現在透かしが入れられていますが、OpenAI はそれが「万能薬ではない」と認めています…
知っておくべきこと
- OpenAI は最近、ChatGPT または DALL-E 3 テクノロジーを提供する API を使用して生成された画像に透かしを入れることを発表しました。
- これにより、ユーザーはこれらの AI ツールを使用して生成された画像を識別し、実際の写真と明確に区別できるようになります。
- この変更は画像にのみ適用され、AI によって生成された音声やテキストには影響しません。
AIディープフェイクや誤情報がウェブ上で蔓延する中、OpenAIはこの問題への対策を発表しました。ChatGPTまたはDALL-E 3テクノロジーを提供するAPIを使用して生成された画像には、今後透かしが追加されます。透かしによって画像がAIによって生成されたことがユーザーに伝わるため、OpenAIは透明性の向上を目指しています。
透かしには、画像の生成日時やC2PAのロゴなど、詳細な情報が含まれます。しかし、OpenAIは、コンテンツの出所と真正性に関する連合（C2PA）をDALL-E 3技術とChatGPTに組み込むことが「出所の問題に対処するための万能薬」ではないことを認めています。同社はさらに、次のように強調しています。
C2PAのようなメタデータは、出所に関する問題に対処するための万能薬ではありません。誤って、あるいは意図的に簡単に削除される可能性があります。例えば、今日のほとんどのソーシャルメディアプラットフォームは、アップロードされた画像からメタデータを削除しており、スクリーンショットを撮るなどの操作によってもメタデータが削除される可能性があります。したがって、このメタデータが欠落している画像は、ChatGPTまたは当社のAPIで生成されたものである場合とそうでない場合があります。
なお、この変更により、これらのツールを使用して生成される画像のファイルサイズがわずかに影響を受ける可能性があります。ただし、画像の品質には影響しません。C2PAメタデータがAI生成画像のサイズに及ぼす影響は以下のとおりです。
- API経由のPNGの場合、3.1MB → 3.2MB（3%増加）
- API経由のWebPの場合、287k → 302k（5%増加）
- ChatGPT経由のWebPが287k→381k（32%増加）
この変更は来週、2024 年 2 月 12 日にモバイル ユーザー向けに展開される予定です。
透かしは正しい方向への一歩ですが、それで十分でしょうか?
生成AIの魅力の一つは、テキストベースのプロンプトを使って、わずか数秒でリアルな画像を生成できるという点です。DesignerのImage Creator（旧Bing Image Creator）やChatGPTなど、この特定の目的のために設計されたAI搭載ツールは、時とともに進化を続けています。
しかし、すべてが楽しくて魅力的なわけではありません。MicrosoftのDesigner版Image Creatorは、OpenAIのDALL-E 3テクノロジーを活用しており、画像生成能力を次のレベルに引き上げました。確かに、このAIツールは以前のバージョンと比べて、より見栄えの良い画像を生成します。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
残念ながら、このツールが不快で露骨なコンテンツを生成するために使用されたという報告がオンライン上で増加したため、この騒動は長くは続かなかった。そのため、マイクロソフトは悪用を防ぐため、ガードレールを設置し、画像生成ツールの検閲を強化することを余儀なくされた。
これらの措置はツールに対する制御を確立する上で重要な役割を果たしますが、一部のユーザーは、Microsoft が検閲をやり過ぎて、最終的にツールをロボトミー化したと感じました。
関連： Googleの新しい画像生成ツールで出力を微調整できる
数週間前、有名なポップスター、テイラー・スウィフトの露骨な画像がソーシャルメディアプラットフォーム上で拡散したが、後に真実が明らかになり、それらはMicrosoft Designerを使用して生成されたと思われるAIディープフェイクであることが明らかになった。
こうしたツールが検閲を受ければ受けるほど、その機能を十分に調査して活用することが難しくなるようです。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。