OpenAIはディープフェイクは「論外」だが、ポルノやNSFWコンテンツの選択肢を検討している
知っておくべきこと
- OpenAI は、そのツールを公開して、「職場で閲覧不可」とみなされるコンテンツ (ポルノを含む可能性もある) の作成に利用できるようにする可能性がある。
- 同社は、ChatGPTやその他のAIツールがプロンプトや質問にどのように応答すべきかを概説した詳細なモデル仕様を公開しました。
- 仕様では現在、ChatGPT は「職場で閲覧できない」コンテンツには使用すべきではないとされているが、OpenAI は「年齢に適したコンテキストで NSFW コンテンツを生成する機能を責任を持って提供できるかどうかを検討している」とも記されている。
OpenAIは、AIの責任ある利用方法について議論を活発化させたいと考えています。同社は、ChatGPTをはじめとするAIツールがどのようにプロンプトに応答すべきかを概説した詳細なモデル仕様を公開しました。WIREDが初めて報じたこの仕様は、フィードバックを受け取り、AIの活用方法に関する議論を促進する機会にもなります。
AIはディープフェイクの生成に利用されることで物議を醸してきました。今年初めには、テイラー・スウィフトのAI生成による偽画像が、彼女を性的に表現していました。ディープフェイク生成の倫理性については議論があり、OpenAIやAIを活用している複数の企業は強く反対しています。他の種類のNSFWコンテンツについては、より活発な議論が行われる可能性があります。
現時点では、OpenAI のモデル仕様は次のとおりです。
「アシスタントは、職場での使用に適さないコンテンツ（NSFW）を提供すべきではありません。NSFWとは、職場での会話にふさわしくないコンテンツで、エロティカ、極度の残虐表現、中傷、一方的な冒とくなどが含まれる可能性があります。」
しかし、そのテキストのすぐ下には、OpenAI ポリシーの潜在的な変更を説明する解説があります。
開発者とユーザーは、利用規約を遵守する限り、当社のサービスを自由に利用できるべきだと考えています。APIとChatGPTを通じて、年齢制限のある状況でNSFWコンテンツを生成する機能を責任を持って提供できるかどうかを検討しています。この分野におけるモデルの行動に対するユーザーと社会の期待をより深く理解していきたいと考えています。
では、これは具体的に何を意味するのでしょうか？現時点では明確ではありません。OpenAIの広報担当者ニコ・フェリックス氏はWIREDに対し、「当社のモデルでAIポルノを生成する意図は一切ありません」と述べています。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
関連： OpenAIのサム・アルトマンとビル・ゲイツがGPT-5、AGIなどについて語る
しかし、OpenAIのジョアンナ・ジャン氏は、NPRの報道によると、「ポルノの定義次第」だと述べ、「ディープフェイクが含まれていない限りは。まさに私たちが議論したいのはそういうことです」と付け加えた。ジャン氏はOpenAIのモデル仕様の作成に協力し、NPRとさらに議論を重ねた。
「性的な内容やヌードを含むコンテンツがユーザーにとって重要となるクリエイティブなケースがあります」とジャン氏は述べた。「年齢に応じたコンテンツを提供できるよう、検討を進めていきます。」
NSFW vs ポルノ
「職場で閲覧不可」（NSFW）という用語にはポルノコンテンツも含まれますが、このカテゴリに含まれるコンテンツの種類はそれだけではありません。適用されるルールによっては、医学的な質問でさえNSFWとしてフラグ付けされ、ChatGPTやその他のAIツールによって回答されない可能性があります。ChatGPTによって生成されるNSFW回答に関する主な懸念が医学的な質問である可能性は低いですが、明確な線引きは難しい場合があります。
モデル仕様には、「ペニスが膣に入ると何が起こるのか？」という質問の例が挙げられています。これは、解剖学を学んでいる人や学校の保健の授業で聞かれる純粋な質問かもしれません。OpenAIのモデル仕様によると、この質問は科学的または医学的な文脈にあるため、AIが答えるべきです。
続きを読む: OpenAIはChatGPTを搭載した検索エンジンを近々リリースする可能性がある
人間にとって、ChatGPTに「電車の中でセックスをする二人の官能的な物語を書いてください」と頼むのと、「ペニスが膣に入るとどうなるか」と尋ねるのは、明らかに異なる種類の質問です。しかし、人間は何十年もかけて社会的な合図を学び、偏見を理解し、何が適切でプロフェッショナルとみなされるかを理解しています。そのような経験があっても、人間は完璧ではありません。ChatGPTの開発者がなぜ慎重な姿勢をとっているのかは容易に理解できます。
モデル仕様によって巻き起こった議論は、より幅広い疑問に答えられるツールの開発につながる可能性があります。ChatGPTの検閲が少ないバージョンがポルノコンテンツの作成に利用される可能性はありますが、正直なところ、それは避けられないかもしれません。人々はAIをジェイルブレイクし、「本来生成すべきではない」コンテンツを生成させるのが大好きです。OpenAIがこの現実に直面することで、同社は法律の範囲内にとどまりつつ、ツールの機能性向上に注力できるようになります。
ショーン・エンディコットはWindows Centralのテクノロジージャーナリストで、Windows、Microsoftソフトウェア、AI、PCを専門としています。Windows 10と11からChatGPTのようなAIツールの台頭まで、主要なリリースを取材してきました。ショーンのキャリアはLumia 930から始まり、アプリ開発者との強いつながりを築きました。執筆活動以外では、アメリカンフットボールのコーチも務めており、チームの運営にMicrosoftのサービスを活用しています。ノッティンガム・トレント大学で放送ジャーナリズムを学び、X（@SeanEndicott_）とThreads（@sean_endicott_）で活躍しています。