OpenAIのCEOサム・アルトマン氏は、元調整リーダーが同社がGPT-4oのような「派手な製品」を安全性よりも優先していると示唆したことを受け、「実証済みのプレイブックはない」と認めた。

知っておくべきこと

• OpenAIは、最先端のGPT-4oを出荷した後、先週、数人の最高幹部を失った。
• 元従業員らは、OpenAIが安全対策を後回しにしながらAGIベンチマークの達成に力を入れていることに懸念を表明している。
• 噂によると、OpenAIは退職する社員に対し、会社を批判したり社内の事柄を暴露したりすることを防ぐために秘密保持契約に署名するよう強要し、さもなければ既得権益を失うリスクを負わせているという。しかし、CEOのサム・アルトマン氏はこの主張を否定している。

OpenAIは、新たな主力モデルGPT-4oによって、おそらく最大の技術的飛躍の瀬戸際にいるかもしれない。AIチャットボットが別のAIチャットボットと人間のような会話をする姿を目にすることになるなんて、誰が想像しただろうか？しかし、これはOpenAIのCEOサム・アルトマン氏がこの新モデルで約束する「魔法」のほんの一部に過ぎない。

音声、画像、テキストをリアルタイムで推論する機能を備えた新しいフラッグシップモデルは、同社発の大きなニュースの1つに過ぎません。驚くべきことに、ChatGPTの開発元であるOpenAIがGPT-4oモデルを発表した直後、同社の幹部数名が同社を去ったのです。 

金曜日、OpenAIのアライメント責任者、スーパーアライメントリーダー、そして幹部であるJan Leike氏がX（旧Twitter）で同社からの退社を発表しました。彼は、OpenAIが「私たちよりもはるかに賢いAIシステムを操縦し、制御する方法」を研究するのに世界最高の場所だと考えて入社したと明かしました。

ヤン氏は、次世代モデルにおける中核的な優先事項、セキュリティ、監視、準備、安全性、敵対的耐性、（スーパー）アライメント、機密性、社会への影響などをめぐって、OpenAIの経営陣と意見の相違があったことを明らかにした。元OpenAI従業員であるヤン氏は、これらの側面を正しく理解することは難しく、OpenAIが提起された問題のいくつかに対処するための正しい軌道に乗っていないと感じていた。 

「人間よりも賢い機械を作ることは、本質的に危険な試みです」とジャン氏は述べた。「OpenAIは全人類を代表して、大きな責任を担っています。」奇妙なことに、ジャン氏は安全文化とプロセスの両方が後回しにされ、「派手な製品」が優先されていると述べている。

最後に、ヤン氏は、人類がこの偉業の恩恵を受けるためには、OpenAIが安全第一のAGI企業になる必要があると示唆した。あるAI研究者は既に、p(doom)によるとAIが人類を滅ぼす確率は99.99%であると発表している。さらに、この研究者は避けられない破滅を回避する唯一の方法は、そもそもAIを作らないことだと明かした。 

世界はガードレールや規制のない AGI の準備ができているでしょうか?

OpenAI のトップ幹部であるサム・アルトマン氏とグレッグ・ブロックマン氏は、ディープラーニングのスケールアップ、ますます高性能化するシステムの安全な導入など、安全性と AGI ベンチマーク達成に向けた進捗状況を確認するためにすでに実施されているいくつかの対策を概説したヤン氏の発言に謝意を表した。

しかし、幹部らは次のように認めた。

AGIへの道筋を示す、実証済みの戦略書は存在しません。経験に基づく理解が、今後の方向性を見出す上で役立つと考えています。私たちは、大きなメリットを実現することと、深刻なリスクを軽減することの両方を重視しています。この役割を非常に真剣に受け止め、私たちの行動に対するフィードバックを慎重に検討します。

サム・アルトマンは過去に、AIの進歩を止める大きな赤いボタンは存在しないと認めている。 

イリヤ・スツケヴァー氏と@signüll氏は、先週OpenAIを最初に退社した社員の一人です。注目のスタートアップ企業からの退社に至った経緯についてはまだ詳細が明らかにされていませんが、スツケヴァー氏は「個人的に意義のある」プロジェクトに集中するために退社したと述べています。@signüll氏も退社理由を明かしていませんが、OpenAIの内部運営について少し触れ、サム・アルトマン氏を「天才的なマスタークラスの戦略家」と評しました。

シグニュル氏は、アルトマン氏がAppleおよびMicrosoftと結んだ戦略的契約を引用し、これらの主張を裏付けました。この契約により、OpenAIは無限のコンピューティングパワー、顧客、そして人類が生み出した最高のテクノロジーであるiPhoneへのChatGPTの進出の可能性という、まさに理想的な立場に立つことになります。OpenAIはすでにWindowsではなくmacOS専用のChatGPTアプリをリリースしています。同社は、クライアントの所在地を優先するためMacユーザー向けにアプリをリリースしたと説明しており、ChatGPTユーザーの大半がAppleデバイスを使用してサービスの機能を活用していることを示唆している可能性があります。

OpenAIは現在、コンシューマー向けとエンタープライズ向けの両方で、2大企業の間に位置しています。彼は、世界中の誰もが「AI」について考えるとき、OpenAIを事実上の名称として永遠に確立し、OpenAIのあらゆる弱点を強みに変えました。Googleを躍らせ、非常に不利な立場に追い込むことができる唯一の人物です。まさに驚異的な実行力です。

OpenAIの元従業員は、アルトマン氏がOpenAIとMicrosoftの契約において「非常に面白い条項」を作成したと報じられていることも明らかにした。シグニュル氏はさらに、MicrosoftがOpenAIの営利部門の株式49%を保有しているにもかかわらず、Microsoftが切望される超知能AGIベンチマークを達成すれば、知的財産権はゼロになると述べた。

OpenAIが念願のAGIステータスを獲得すれば、Microsoftは知的財産権を一切持たなくなり、49%の株式を保有しているにもかかわらず、経営権を失うことになる。報道によると、OpenAIとCEOのサム・アルトマンが全ての功績を担うことになるという。

元OpenAI従業員は口を閉ざすよう強いられる 

OpenAI の水面下で何が起こっているのか、さまざまな憶測が飛び交っており、調整および安全性の責任者を含むトップ幹部数名が突然同社を去ることを余儀なくされた。

最近、OpenAIを退職した元従業員は社内事情について沈黙を守っているが、Voxの報道によると、OpenAIの従業員は機密保持契約と中傷禁止契約を結んでおり、退職後もOpenAIやその運営方法を批判することができないことが明らかになった。これらの契約の対象であったことを認めることさえ、秘密保持契約違反となる。 

続きを読む:マイクロソフトとOpenAIの複雑な関係

NDAの条件に従わない従業員は、OpenAIにおける既得権益を失うリスクがあります。元OpenAI従業員のダニエル・ココタジオ氏もこの意見を裏付けており、NDAに署名せずにこの注目のスタートアップを去った後、既得権益を手放さざるを得なかったと述べています。彼は「AGIの頃に責任ある行動をとるという信頼を失ったため」に会社を去ったと述べています。 

しかし、OpenAIのCEOサム・アルトマン氏は、非中傷契約に署名せずに会社を辞めた元従業員が既得権益を失うという疑念を解消した。

アルトマン氏によれば:

以前の退出書類には、株式の消滅の可能性に関する条項がありました。私たちは何も取り戻せませんでしたが、いかなる書類やコミュニケーションにもそのような条項を記載すべきではありませんでした。これは私の責任であり、OpenAIの経営で心から恥ずかしい思いをした数少ない事例の一つです。このような事態が起きているとは知りませんでしたが、知っておくべきでした。」

アルトマン氏はさらに、OpenAIが離職契約書に署名しなかった従業員の既得株式の取得を差し控えたことは一度もないと述べた。また、標準的な退職手続きの修正に取り組んでいるチームもあると付け加えた。 

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。