OpenAI の安全性研究者が安全上の懸念から退職を発表、一方 Anthropic の CEO は AI が人間の限界を超えると主張…
「私の意見では、AGIレースは非常にリスクの高い賭けであり、大きなリスクを伴います」と、OpenAIの安全性研究者であるスティーブン・アドラー氏は、4年間の勤務を経てAIスタートアップ企業からの退社を発表した際に述べた。「現在、AIのアライメントに関する解決策を持っている研究室はありません。そして、競争が速まれば速まるほど、誰も間に合うように解決策を見つけられる可能性は低くなります。」
アドラー氏のOpenAI退任メッセージで提起された安全性に関する懸念は、AI安全性研究者でルイビル大学サイバーセキュリティ研究所所長のローマン・ヤンポルスキー氏の、AIが人類を滅ぼす確率は約99.999999%であると主張する考えと一致している。
個人的なお知らせです。@openaiで4年間、安全性向上に取り組んできましたが、11月中旬に退職しました。危険な能力の評価、エージェントの安全性と制御、AGIとオンラインアイデンティティなど、多くの分野に携わる波乱万丈のキャリアでした。多くの部分が懐かしく思い出されます。2025年1月27日
正直なところ、最近のAI開発のスピードには本当に恐怖を感じています。将来、どこで家族を養うのか、あるいは老後のためにいくら貯金をするのかを考えると、どうしても疑問に思います。人類はそこまで到達できるのだろうか？今、私たちは非常に悪い均衡状態に陥っているように思えます。たとえある研究室が真に責任あるAGI開発を目指していたとしても、他の研究室は追いつくために手抜きをしてしまう可能性があり、その結果、悲惨な結果になるかもしれません。そして、これが全ての開発を加速させています。研究室には、この状況を食い止めるために必要な真の安全規制について率直に話し合ってほしいと思います。
元OpenAI研究者、スティーブン・アドラー
研究者のp(doom)値によると、避けられない破滅を回避する唯一の方法は、そもそもAIを開発しないことだ。OpenAIとソフトバンクが、高度なAIの進歩を促進するために全米各地にデータセンターを建設することを目指し、Stargateに5,000億ドルを投資したことで、この選択肢はもはや消え去ったのかもしれない。
アドラー氏は、安全性への懸念からChatGPTの開発元を去った最初の従業員ではありません。昨年、OpenAIのアライメント責任者、スーパーアライメントリーダー、そして幹部であったヤン・ライケ氏が退社を発表しました。元アライメントリーダーであるライケ氏は、次世代AIモデル、セキュリティ、監視などの主要な優先事項に関して、OpenAIの経営陣と意見が一致しなかったことを明らかにしました。
さらに懸念されるのは、ライケ氏が、AGIのような華やかな製品が前例となるにつれて、安全プロセスが後回しにされてきたと示唆した点だ。さらに、OpenAIはGPT-4oのリリースを急ぎ足で進め、安全テスト実施に1週間も割り当てていなかったと報じられている。関係者によると、OpenAIは安全チームがテストを実施する前に、製品リリース記念パーティーの招待状を送ったという。OpenAIの広報担当者は、GPT-4oのリリースが急ぎ足で、安全チームにストレスを与えたことを認めたものの、厳しい期限に間に合わせるために安全対策を怠ったわけではないと主張した。
アントロピックCEOは、AIが2037年までに人間の寿命を150年延ばすと語る
スイスのダボスで開催された世界経済フォーラムでの講演で、アントロピックのCEOであるダリオ・アモデイ氏は、生成AIによって人間の寿命が5年から10年以内に2倍になる可能性があると主張した（Xのtsarnick経由）。
「2026年か2027年までに、ほぼすべての分野でほぼすべての人間よりも優れたAIシステムが登場するだろうと私は推測しています。大きな可能性を感じています。」
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
アンスロピックのCEO、ダリオ・アモデイ氏は、2037年までにAIによって人間の寿命が150歳まで延びるだろうと述べている。pic.twitter.com/9AN3zRBxuq 2025年1月27日
同幹部は、テクノロジー、軍事、医療の分野における大きな進歩を強調した。AIが人間の生存を脅かすとの報道があるにもかかわらず、彼はAIが人間の寿命を延ばす可能性があると信じている。
Anthropic CEO の Dario Amodei 氏は次のように語っています。
推測するなら、これはあまり正確な科学ではありませんが、AIが本当にうまく機能すれば、生物学などの分野で5～10年で100年分の進歩を遂げられると思います。100年後に人類が生物学などの分野で何を達成できるかを考えれば、人間の寿命が倍増しても全くおかしくないと思います。そして、AIがそれを加速させることができれば、5～10年で実現できるかもしれません。これが壮大なビジョンです。アントロピックでは、そのビジョンを実現するための第一歩は何なのか、考えています。それを実現する技術が実現するまでには、まだ2～3年かかるでしょうから。」
アモデイ氏は「これはあまり正確な科学ではない」と認めている。これは、AIモデルの学習に必要な高品質なコンテンツの不足によりスケーリング則が始まったという主張がある中で、AIの進歩は異なる道を辿る可能性があることを意味する。興味深いことに、OpenAIのCEOであるサム・アルトマン氏は、AIは人類の破滅を含む、急速な進歩の結果を解決できるほど賢くなると主張している。
OpenAIはAGI開発に向けて邁進している。特にアルトマン氏が、チームがAGIの構築方法を理解しており、現在のハードウェアで予想よりも早く実現できると明言したことを受けて、その勢いは加速している。また、アルトマン氏は、OpenAIが超知能へと焦点を移す可能性を示唆した。超知能化は、科学的AIのブレークスルーを毎年10倍、つまり10年並みの革命的なペースで加速させる可能性がある。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。