「私たちには魔法がある、魔法ではない」: 研究者の p(doom) スケールは、AI が 99.999999% の確率で… を記録する。

知っておくべきこと

• サム・アルトマンは、AI は人類の破滅を含む、環境の急速な進歩の結果を解決できるほど賢くなると主張している。
• CEOは、AIが人類を滅ぼすことを防ぐ方法を研究者が見つけ出すことを期待している。
• アルトマン氏は、AGI が予想よりも早く実現される可能性を示唆し、さらに、表明されている安全上の懸念はその時点では現実化せず、社会への影響は「驚くほど小さい」まま過ぎ去るだろうと述べた。

生成AIの急速な進歩に伴うセキュリティとプライバシーへの懸念に加え、この分野におけるさらなる進歩の可能性は依然として大きなリスクです。Microsoft、Google、Anthropic、OpenAIといったトップテクノロジー企業は、この分野に多額の投資を行っていますが、その開発を統制するポリシーの欠如は非常に懸念されます。AIがガードレールを逸脱し、制御不能に陥った場合、制御を確立することが困難になる可能性があります。

ニューヨークタイムズのディールブックサミットで、超知能AIシステムがもたらす実存的脅威を回避する方法を誰かが見つけ出すと信じているかどうか尋ねられたとき、OpenAIのCEOサム・アルトマン氏は次のように述べた。

「研究者たちがそれを回避する方法を見つけてくれると信じています。世界で最も賢い人たちが取り組むべき技術的な問題がいくつかあると思います。私は生来少し楽観的すぎるところがあるのですが、彼らは必ず解決してくれると信じています。」

さらに幹部は、その頃には AI が危機を自ら解決できるほど賢くなっているかもしれないと示唆した。

さらに懸念されるのは、別の報告書で、AIが人類を滅ぼす確率がp(doom)で99.999999%であると示唆されている点です。ここでp(doom)とは、生成型AIが人類を支配する、あるいはさらに悪いことに人類を滅ぼすことを指します。この研究を率いたAI安全性研究者のローマン・ヤンポルスキー氏はさらに、超知能のベンチマークに達した時点でAIを制御することは事実上不可能になると示唆しました。ヤンポルスキー氏は、この問題を回避する唯一の方法は、そもそもAIを開発しないことだと示唆しました。

しかし、OpenAIはAGIベンチマークを目標リストから外そうとしているようだ。サム・アルトマン氏は最近、この切望されたベンチマークが予想よりも早く実現する可能性があると示唆した。一般の認識とは裏腹に、アルトマン氏はこのベンチマークは「驚くほど小さな」社会的影響しか及ぼさずにあっという間に達成されるだろうと主張している。

一方、サム・アルトマンCEOは最近、超知能の実現は「わずか数千日先」かもしれないと示唆する記事を執筆しました。しかし、CEOは、表明された安全性に関する懸念はAGIの実現時点では生じていないと示唆しました。

AGIの構築は困難な作業になるかもしれない

OpenAIは最近、破産寸前で、今後数ヶ月以内に50億ドルの損失を出すと予測されていました。MicrosoftやNVIDIAを含む複数の投資家が資金調達ラウンドを実施し、66億ドルを調達することでOpenAIの存続を支え、最終的に時価総額は1570億ドルに達しました。

しかし、資金調達ラウンドにはいくつかのボトルネックがありました。例えば、2年以内に営利ベンチャー企業へと転換しなければ、投資家から調達した資金を返還しなければならないというプレッシャーなどです。これにより、ChatGPTの開発元であるOpenAIは、外部からの干渉や、アナリストが今後3年以内にMicrosoftがOpenAIを買収すると予測しているような企業による敵対的買収といった問題に直面する可能性があります。

関連：サム・アルトマン、AIに関する突飛なビジョンで「ポッドキャスティング仲間」とレッテルを貼られる

OpenAIは、この変更を支持するよう関係者を説得するのに、オフィスで長い一日を過ごすことになるかもしれない。OpenAIの元共同創設者でテスラのCEOであるイーロン・マスクは、OpenAIとサム・アルトマンに対し、設立理念の明らかな裏切りと、組織犯罪への関与を理由に2件の訴訟を起こした。

市場アナリストや専門家は、AIバブルへの投資家の関心が薄れつつあると予測しています。その結果、投資家は最終的に投資を引き上げ、他の分野に資金を流用する可能性があります。別のレポートもこの説を裏付けており、AI関連のプロジェクトの30%が2025年までに概念実証後に放棄されると予測しています。

OpenAIを含むトップクラスのAIラボは、学習用の高品質なデータの不足により、高度なAIモデルの構築に苦戦しているという主張もあります。OpenAIのCEO、サム・アルトマン氏はこれらの主張を否定し、「AI開発の新たな高みと進歩に壁はない」と述べました。元Google CEOのエリック・シュミット氏もアルトマン氏の見解を繰り返し、「スケーリングの法則が止まり始めたという証拠はない」と述べました。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。