元OpenAIのチーフサイエンティストが、ライバルの「派手な製品」優先ではなく、安全なスーパーインテリジェンスの構築に重点を置いた新しいAI企業を設立

知っておくべきこと

• 元OpenAI主任科学者イリヤ・スツケバー氏がSafe Superintelligence Inc.という新会社を設立する。
• 新会社は安全なスーパーインテリジェンスの構築に注力するが、OpenAI の安全プロセスと文化は後回しにされ、派手な製品を優先することになる。
• AIの進化や、マイクロソフトの物議を醸しているWindows Recall機能のようなツールの出現により、プライバシーとセキュリティは依然として重要な問題となっています。

OpenAIとそのCEOサム・アルトマンは、推論機能を備えた同社の「魔法の」主力モデルGPT-4oや、OpenAIのスーパーアライメントチームの解散など、さまざまな理由でここ数か月間注目を集めている。

先月、共同創設者兼チーフサイエンティストのイリヤ・スツケヴァー氏を含む数名のスタッフがOpenAIを退職しました。AIスタートアップからの退職を発表したスツケヴァー氏は、10年間同社に在籍した後、「個人的に意義のある」プロジェクトに集中するために退職すると述べました。

この個人的な意義を持つプロジェクトの詳細は、これまで謎に包まれていました。スツケヴァー氏は、Safe Superintelligence Inc.（SSI）という新会社を設立することを明らかにしました。同社は、AIの新時代において依然として重要な課題である安全なスーパーインテリジェンスの構築に主眼を置く予定です。

Sutskever 氏によれば、

「私たちは、一つの焦点、一つの目標、そして一つの製品をもって、安全なスーパーインテリジェンスを真摯に追求します。少数精鋭のチームが生み出す革新的なブレークスルーを通して、それを実現します。」

私たちは、安全性と能力を、革新的なエンジニアリングと科学のブレークスルーによって解決すべき技術的課題として、同時に捉えています。安全性を常に最優先に確保しつつ、能力を可能な限り迅速に向上させていく計画です。

当社は、一点に集中することで、管理経費や製品サイクルに気を取られることがなくなり、また、当社のビジネス モデルでは、安全性、セキュリティ、進歩がすべて短期的な商業的プレッシャーから隔離されています。」

Safe Superintelligence Inc.はOpenAIにとって最大の悪夢となるかもしれない

OpenAIは、主に誤った理由で注目を集めてきました。OpenAIとサム・アルトマンが超知能を目指していることは周知の事実ですが、その代償はどれほどのものなのでしょうか？かつてアライメント責任者、スーパーアライメントリーダー、そして幹部を務めたヤン・ライケも、サツケヴァーとほぼ同時期にOpenAIを去りました。 

ライケ氏は、次世代モデル、セキュリティ、監視、準備、安全性、敵対的堅牢性、（スーパー）アラインメント、機密性、社会的影響など、同社の中核的優先事項についてトップ幹部と何度も意見の相違があった後に退社したと述べた。 

ライケ氏は、ここが世界で最も研究に適した場所だと考えてOpenAIに入社したが、同社は安全プロセスや企業文化を無視し、派手な製品開発を優先しているようだ。「人間よりも賢い機械を作ることは、本質的に危険な試みです」とライケ氏は付け加えた。「OpenAIは全人類を代表して、大きな責任を担っています。」

2026年末までにAIは人間よりも賢くなる可能性があるという予測もあれば、AIが最終的にすべての仕事を奪い、仕事が趣味になるという報告もあります。人間よりも賢いテクノロジーが誕生したらどうなるでしょうか？それは、制御不能に陥り、人類と世界を支配してしまう可能性を意味するのでしょうか？

AIが一時的な流行に過ぎないかどうかは議論の余地がありますが、一つ確かなことがあります。それは、AIは急速に成長し、世界中で広く普及しているということです。NVIDIAのCEOであるジェンスン・フアン氏でさえ、自動運転車やヒューマノイドロボットを筆頭に、AIはまさに次の段階に到達しようとしていると述べています。 

Sutskever氏とSafe Superintelligence Inc.が安全なスーパーインテリジェンスを実現できれば、OpenAIに匹敵する存在となる可能性もある。AIの普及を阻んでいる主な問題は、プライバシーとセキュリティだ。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。