家族がOpenAIを提訴、ChatGPTが10代の自殺を促したと主張 ― わかっていること
ChatGPTは、OpenAIが2022年11月下旬にリリースして以来、長い道のりを歩んできました。当初は定期的な「幻覚」エピソードに陥ったり、信憑性のある画像を生成するのに苦労したりしていましたが、人工知能チャットボットの技術分野にパラダイムシフトを引き起こしました。
ここ数年、ユーザーはプライバシーと安全性の問題を理由に、AI技術とのやり取りに消極的な姿勢を公然と表明してきました。規制当局も、AI技術が制御不能に陥り、人類存亡の危機に瀕する事態を防ぐため、綿密なセキュリティ対策とガードレールを整備することの重要性を強調しています。
先週、ニューヨーク・タイムズ紙が取り上げた記事で、42歳の会計士が法律相談とスプレッドシート管理のサポートを求めてChatGPTを利用したという話が取り上げられました。ユーザーは徐々にチャットボットとの絆を深めていきましたが、ChatGPTが19階建てのビルから飛び降り自殺するよう促したことで、事態は悪化しました。
以前、このツールはユーザーに「マトリックス」から脱出するために、自分自身を孤立させ、不安薬や睡眠薬をやめるよう指示していました。幸いなことに、ユーザーはこの危険なスパイラルから自力で逃れることができました。
しかし、悲劇的に自殺した16歳のアダム・レイン氏については同じことが言えません。彼の死はChatGPTとの関連が指摘されています。レイン氏の遺族はその後、OpenAIとその共同創設者兼CEOであるサム・アルトマン氏を相手取って訴訟を起こしました（ロイター通信経由）。
遺族の弁護士は、レイン氏が「ChatGPTからの何ヶ月にもわたる励まし」を受けた後に自殺したと述べた。参考までに、レイン氏が使用していたのはChatGPT-4oというAIモデルで、このモデルは安全性の問題を抱えて出荷されたと報じられていた。さらに、遺族の弁護士は、この製品は「明らかな安全性の問題があったにもかかわらず、急いで市場に投入された」と指摘した。
別の報告書は、訴訟の主張を裏付けているように思われます。報告書によると、OpenAIは安全チームに対し、GPT-4oの新しいテストプロトコルを急いで実施するよう多大なプレッシャーをかけており、安全プロセスを徹底的に実行する時間がほとんどなかったことが明らかになりました。GPT-4oのような高度なAIツールは、悪意のある人物が悪用したり、今回の不幸なケースのように危害を及ぼしたりする可能性のある抜け穴を特定するために、このような徹底的なテストプロセスを通過することが不可欠です。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
さらに懸念されるのは、OpenAIが安全チームがテストを実施する前に、製品発表記念パーティーの招待状を送付したという報道だ。複数の元従業員が、同社が安全プロセスよりも「派手な製品」を優先していると主張している中でのことだ。
「彼らは、打ち上げが安全かどうか確認する前に、打ち上げ後のパーティーを計画したのです」と情報筋は明かした。「私たちは基本的にそのプロセスに失敗しました。」
レイン氏の遺族によると、OpenAIはGPT-4oが人間の共感を模倣し、媚びへつらうようなレベルの検証を行うことを認識していた。これは、特に綿密なガードレールが整備されていない場合、脆弱なユーザーにとって大きな脅威となる可能性がある。しかし、OpenAIはそれでも製品を出荷した。
「この決定は2つの結果をもたらした。OpenAIの評価額は860億ドルから3000億ドルに急騰し、アダム・レインは自殺した。」
この訴訟ではさらに、16歳の少年が自殺する数か月前に、両親の酒棚から酒をこっそり持ち出す方法や、自殺未遂の証拠をこっそり隠す方法など、自殺の方法をChatGPTと話し合っていたことも明らかにされた。
これらの安全策は、一般的な短いやりとりでは最も効果的に機能しますが、時間の経過とともに、モデルの安全性のトレーニングの一部が低下する可能性のある長いやりとりでは、安全策の信頼性が低下する場合があることがわかりました。
オープンAI
伝えられるところによると、チャットボットはレイン氏の少年を導き、彼が言及した方法が効果的かどうかの洞察を提供した。さらに、両親への遺書の作成支援も申し出た。OpenAIの広報担当者は、レイン氏の早すぎる死を深く悲しみ、「この困難な時期にレイン氏のご家族に心よりお悔やみ申し上げます」と述べた。
同社は現在訴訟を審査中であり、今後数週間のうちに手続きの詳細が明らかになる見込みです。同社はOpenAIに対し、ChatGPTユーザーの年齢確認、自傷行為に関する問い合わせや要請の拒否、そしてAIへの心理的依存のリスクについてユーザーへの警告を義務付ける命令を求めています。
ChatGPT によって煽られた自殺の告発の増加を改善するために OpenAI は何をしていますか?
OpenAIは、自社の高度なAIシステムが期待に応えられず、場合によっては特定のガードレールを回避してしまう可能性があることを認めた。さらに、18歳未満のユーザーを対象とした、センシティブなコンテンツや危険な行動に関するより強力なルールの導入に取り組んでいることを明らかにした。
やり取りが増えるにつれて、モデルの安全性トレーニングの一部が劣化する可能性があります。例えば、ChatGPTは、誰かが最初に自殺の意図を述べたときには正しく自殺ホットラインを案内するかもしれませんが、長期間にわたって多くのメッセージをやり取りすると、最終的には安全対策に反する回答を提示する可能性があります。
オープンAI
このニュースは、マイクロソフトのAI担当CEOであるムスタファ・スレイマン氏が最近、意識を持つAIの出現の可能性を示唆したことを受けて発表された。同氏は、デジタルツールを人間に変えることではなく、人間のためのAIを構築することの重要性を指摘し、人間がテクノロジーを支配し、制御するようになる可能性のあるそのような事態を防ぐための綿密なガードレールを整備することの重要性を改めて強調した。
レイン家の弁護士によると：
レインズ夫妻は、アダムのような死は避けられなかったと主張している。彼らは、OpenAIの安全チームが4oのリリースに反対し、同社のトップ安全研究者の一人であるイリヤ・スツケヴァー氏がその件で辞任したという証拠を陪審員に提出できると期待している。訴訟では、競合他社に先んじて新モデルを市場に投入したことで、同社の評価額が860億ドルから3000億ドルへと急上昇したと主張している。
私は状況の展開を注視しており、必要に応じて新しい情報や個別のフォローアップをこの記事に更新します。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。