ChatGPT の「幻覚エピソード」は OpenAI を挑発し続け、数百万の後退を招く可能性があるが、「しかし…」

知っておくべきこと

• ChatGPTが人々に関する誤った情報を共有したため、OpenAIは調査を受けている。
• EUに拠点を置くプライバシー非営利団体NOYBは、同社がChatGPTによって生成された虚偽の情報を修正できないことを認識していたものの、気にしていないようだとして、同社に対して苦情を申し立てた。 
• 同団体は、規制当局がOpenAIの活動を調査し、人々のデータをどのように使用しているかについての詳細な情報を提供するよう強制することを望んでいる。

EUを拠点とするプライバシー非営利団体NOYBが、ChatGPTの「幻覚エピソード」と、AIが生成した人々に関する誤解を招く情報を修正できないことを理由に、オーストリアのデータ保護局（DPA）に新たな苦情を申し立てたことで、OpenAIは再び精査を受けている（Quartz経由）。 

ご存知の通り、チャットボットの幻覚はAI分野において新しい現象ではありません。Microsoft Copilot（旧Bing Chat）のリリース時にも、こうしたエピソードがいくつか見られ、ユーザーはこの技術がますます愚かになっていると感じていました。

NOYBの訴えは、ChatGPTのようなツールが個人から収集した個人データの取り扱い方を統制・規制するEUの一般データ保護規則（GDPR）に基づいている。NOYBは、OpenAIがChatGPTツールで生成された不正確な情報を修正できないことを公然と認めていると述べた。 

また、OpenAIはChatGPTのデータの入手元やユーザーから収集・保存する個人データについて説明できないと指摘しました。奇妙なことに、OpenAIはChatGPTの開発元はこの問題を認識していたものの、気にしていないようだと述べています。

GDPRでは、EU在住のユーザーは、ツールによって生成された不正確な情報の修正を要求することができます。そのため、OpenAIはこの権利を満たすことができず、非準拠とみなされます。これがNOYBの苦情の根拠となっています。 

NOYB のデータ保護弁護士、Maartje de Graaf 氏は次のように述べています。

アクセス要求に応じる義務はすべての企業に適用されます。使用されたトレーニングデータの記録を保持し、少なくとも情報源についてある程度の見当をつけることは明らかに可能です。しかし、各「イノベーション」のたびに、別の企業グループが自社製品が法律を遵守する必要はないと考えているようです。

OpenAI の今後のあり得る進路は何でしょうか?

NOYBは、DPAに対し、OpenAIのデータ処理方法やモデルのトレーニング方法を含む同社の業務を調査するよう求めています。さらに、同団体はDPAに対し、OpenAIがユーザーから収集する個人データの実態を明確に示すなど、ユーザーによるデータへのアクセスを許可するようOpenAIに強制するよう求めています。

OpenAIがこれらの要求を満たさない場合、2,000万ユーロ、または世界年間売上高の4%に相当する高額の罰金を科される可能性があります。影響を受けたユーザーが損害賠償を求める場合、追加費用が発生することも忘れてはなりません。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。