OpenAIの元従業員は、幹部が優先する「AI界のタイタニック号」のような気分だと主張して退職した…

知っておくべきこと

• OpenAIは以前、安全性よりも派手な製品を優先しているとして非難を浴びたことがある。
• 元従業員も同社をAI界のタイタニック号と呼び、同様の意見を述べている。
• 元従業員は、OpenAIが重要かつ高度な対策を採用しなければ、同社の安全対策やガードレールではAIの制御や制御不能を防ぐことはできないと述べている。

OpenAIはここ数ヶ月、（議論の余地はあるものの）注目を集めている。そのきっかけは、安全管理チームの大半が同社を去ったことだった。その中には、安全文化や安全プロセスが後回しにされ、同社は派手な製品に注力していると示唆した元アライメント責任者のJan Leike氏も含まれていた。 

実は、OpenAIの元従業員であるウィリアム・サンダース氏も同様の意見を述べているようだ。今月初め、アレックス・カントロウィッツ氏のYouTubeポッドキャストに出演したサンダース氏は、次のように述べている。

「AI界のタイタニック号のような会社で働くなんて、本当に嫌だった。だから辞職したんだ。OpenAIで3年間働いていた間、時々自問自答していた。OpenAIが歩んできた道は、アポロ計画に近いのか、それともタイタニック号に近いのか？彼らは世界を変えるという軌道に乗っているのに、いざ何かをリリースするとなると、優先順位はプロダクト会社のようなものになってしまう。それが一番不安なことだと思うんだ。」

OpenAIのCEO、サム・アルトマン氏は、AGI（汎用人工知能）や超知能の実現など、同社が抱く野心と目標について、これまで隠すことなく語ってきた。別のインタビューでアルトマン氏は、これらのマイルストーンは必ずしも一夜にして劇的な変化をもたらすものではないと明かした。さらに、技術の進歩への関心は長続きせず、2週間程度のパニックを引き起こすだけかもしれないと付け加えた。

OpenAIの元スーパーアラインメント責任者は、同社の意思決定プロセスや、次世代モデル、セキュリティ、監視、準備、安全性、敵対的耐性などに関する中核的な優先事項について、OpenAIの幹部と意見が一致しなかったことを明らかにした。これが最終的に彼の退社につながった。 

物事の大きな流れから見れば、AIの進歩を止める大きな赤いボタンは存在しないとアルトマン氏が公然と認めているにもかかわらず、ChatGPTのメーカーが安全性よりも派手な製品を優先しているのは非常に懸念される。

安全性はOpenAIの最大の課題

AI分野の進歩は、安全性とプライバシーに関する懸念に大きく悩まされています。Windows Recallを覚えていますか？Microsoftにとってプライバシーの悪夢であり、ハッカーの楽園でした。レドモンドの巨人である同社は最近、Windows 11 Copilot+搭載PC専用の画期的な次世代AI機能を発表しました。ライブキャプション、Windows Studioエフェクト、そして目玉機能であるWindows Recallなどです。

理論上、そして理論上は、Windows Recall はクールで便利そうに思えました（議論の余地はありますが）。しかし、多くのプライバシー問題を抱えており、英国のデータ監視機関の注目を集めました。AI を活用したこの機能は激しい反発を受け、Microsoft は出荷前にリコールを実施しました。

OpenAIも同様の船に乗っていますが、規模はより大きくなります。サンダース氏はOpenAIの安全対策を悪名高いタイタニック号に例え、同社には「アポロ宇宙計画のアプローチ」を採用してほしいと述べています。ちなみに、この計画はNASAのプロジェクトで、アメリカの宇宙飛行士が11回の宇宙飛行と月面歩行を行いました。

彼はさらに、OpenAIは現在の対策に過度に依存しており、急速な進歩に鈍感になっているようだと付け加えた。OpenAIがアポロ計画のアプローチを採用すれば、大きな成果を上げることができるだろうと彼は述べている。

サンダース氏によると、タイタニック号の開発チームは船を沈没させないことに重点を置いていたため、万が一の災害発生に備えて十分な救命ボートを設置することを忘れていたという。その結果、準備不足と重要な安全対策の見落としにより、多くの人が命を落とした。

Business Insiderの取材に対し、サンダース氏はアポロ宇宙計画が数々の課題に直面したことを認めた。同時に、「AGIやいかなる新技術もリスクゼロで開発することは不可能だ」と付け加えた。「私が望むのは、企業がこれらのリスクを防ぐために、あらゆる合理的な措置を講じることだ」

サンダース氏は、大規模なサイバー攻撃や生物兵器開発につながる可能性のある「タイタニック号大惨事」が間もなく起こると予測しています。サンダース氏は、OpenAIはそのような事態を防ぐために、より多くの「救命ボート」への投資を検討すべきだと述べています。これには、新しいLLMのリリースを遅らせ、研究機関がモデルの早期リリースから生じる可能性のある潜在的な危険性や損害を評価するための十分な時間を与えることも含まれます。 

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。