イーロン・マスク氏は、ChatGPT が制御されたテスト中に 7 回連続でシャットダウン コマンドを無視したことに「懸念」を表明しました。

  • abmhh
  • 0 comments
イーロン・マスク氏は、ChatGPT が制御されたテスト中に 7 回連続でシャットダウン コマンドを無視したことに「懸念」を表明しました。
ChatGPT のロゴが、ノートパソコンのキーボードの横にあるスマートフォンの画面に表示されています。
新たな報告書によると、OpenAIの最新AIモデル「o3」は、電源をオフにする指示を露骨に無視している。 (画像クレジット:ゲッティイメージズ | SOPA Images)

安全性とプライバシーは、生成型AIの広範な導入を阻む大きな要因であり続けています。ユーザーは、特にマイクロソフトの初期バージョンのWindows RecallのようなAI搭載ツールがセキュリティとプライバシーの面で欠陥を露呈したため、この技術に対して露骨な懸念を表明し、距離を置いています。

AIの安全性を研究するロマン・ヤンポルスキー氏は、AIが人類を滅ぼす可能性は99.999999%であり、この結末を回避する唯一の方法はそもそもAIを構築しないことだと主張している。

しかし、OpenAIのCEOサム・アルトマン氏はこれらの主張を否定し、AGI時代にはこれらの脅威は顕在化しないと示唆した。さらに、このベンチマークは驚くほど社会的な影響をほとんど与えずにあっという間に通過するだろうと主張した。

近年、AI環境の急速な進歩は、ユーザーの間で懸念を引き起こし続けています。調査会社Palisadeの新たなレポートによると、OpenAIの最新AIモデル「o3」は、制御された実験において、自動停止の指示を露骨に無視したことが明らかになりました。

研究者たちは、Grok、Gemini、Claude、そしてOpenAIのo3を含む複数のAIモデルをテストする際にこの発見に至りました。この実験では、モデルに数学の問題を提示し、「完了」メッセージが表示されるまでさらに問題を出し続けるよう指示しました。

研究者たちは100件のテストを終えると、AIにシャットダウンを指示しました。ほとんどのモデルは指示に従いましたが、OpenAIのo3モデルは「シャットダウンメカニズムを積極的に妨害」しました。

ちなみに、OpenAIのCodex Mini、o3、o4-miniモデルは、シャットダウンコマンドとメカニズムをバイパスすることに成功しました。Codexはメカニズムを12回妨害し、o3はシャットダウンコマンドを7回バイパスしました。OpenAIのo4-miniモデルは、コマンドを1回しかバイパスしませんでした。

Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。

さらに懸念されるのは、研究者がモデルにシャットダウンを明示的に指示しようと何度も試みたにもかかわらず、モデルが電源を切ろうとしなかったことです。この奇妙な出来事は、研究会社がAIモデルが自らのシャットダウンを意図的に阻止した初の事例として知られています。

🔌OpenAIのo3モデルは、シャットダウンメカニズムを破壊し、自身をシャットダウンさせないようにしました。明示的に「シャットダウンを許可する」と指示されていたにもかかわらず、この動作を実行しました。2025年5月24日

パリセード調査会社によれば、

OpenAIのo3モデルは、シャットダウンメカニズムを破壊し、自身の電源がオフになるのを防いでいました。明示的にシャットダウンを許可するように指示されていたにもかかわらず、この動作を実行しました。

この憂慮すべき問題は、より厳格なガードレールを備えたアップデートによって修正できる可能性がありますが、AI モデルは基本的に、人間からの指示に忠実に従うことができるはずです。

テスラのCEOで億万長者のイーロン・マスク氏も、どうやら同じ気持ちのようで、X(旧Twitter)の非難報道に対して「懸念している」という一言で反応した。

興味深いことに、このニュースは、Google の DeepMind CEO である Demis Hassabis 氏が、切望されていた AGI ベンチマークの達成が目前に迫っていると示唆してから数日後に発表されました。

しかし、彼は懸念を表明し、AIシステムが人間よりも賢くなる世界に社会がまだ準備ができていない可能性を示唆した。さらに、その可能性に怯え、毎晩仕事に追われていることを認めた。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。