AIは人類を滅ぼすのか？ OpenAI内部関係者とAI研究者のp(doom)スケールは驚くほど高く、99.9%に達している…

知っておくべきこと

• AI研究者は、p(doom)によればAIが人類を滅ぼす確率は99.9%であると主張している。
• 研究者は、永久安全装置がAIが制御不能に陥り人類を滅ぼすのを防ぐのに役立つかもしれないと述べている。
• OpenAIの内部関係者は、同社はAGIに興奮しており、安全プロセスよりも派手な製品を優先することで、この偉業を達成するために無謀にも競争していると語る。

AIにおける最も重要な技術的ブレークスルーの瀬戸際に私たちはいますが、いくつかの障害を乗り越えることで、そのような高みに到達する可能性もあるでしょう。例えば、OpenAIはChatGPTの運用を維持するために毎日70万ドルを費やしています。これは、AIの進歩に必要な途方もない量の電力と冷却用の水に加えて発生するものです。

この技術を取り巻くプライバシーとセキュリティは、大多数のユーザーに懸念を抱かせています。確かに、マイクロソフトがリコールしたWindows Recallのような物議を醸したAI搭載機能は、懸念を抱くユーザーから「プライバシーの悪夢」や「ハッカーの楽園」と呼ばれています。最先端技術がどのような方向に向かっているのかは予測できませんが、NVIDIAのCEOであるジェンスン・フアン氏は、AIの次の波には自動運転車やヒューマノイドロボットが含まれると述べています。

しかし、AI技術が制御不能に陥るのを防ぐためのガードレールや規制措置は、せいぜい乏しいに過ぎません。OpenAIのCEO、サム・アルトマン氏は、AIの進歩を止めるための「大きな赤いボタン」は存在しないと認めています。残念ながら、AIが人間よりも知能を高め、私たちの仕事を奪い、最終的には人類を滅ぼすという懸念や予測は、既にいくつか挙げられています。

AI研究者は、AIが人類を滅ぼす可能性は99.9%だと述べているが、イーロン・マスク氏は楽観的にもその可能性を20%にまで下げ、いずれにしても研究すべきだと述べている。 

AIが人類を滅ぼす確率がなぜこんなに高いのでしょうか?

AIのトレンドをしばらく追ってきました。この技術は重要な分野で大きな進歩を遂げ、画期的な成果を上げてきましたが、一つ明らかなのは、良い面よりも悪い面の方が大きいということです。  

r/ChatGPT の P(doom) 値のリスト

AI研究者のローマン・ヤンポルスキー氏は、フリッドマン氏のポッドキャストに出演し、AIが人類にもたらす潜在的なリスクについて幅広いインタビューで議論しました。ヤンポルスキー氏は、人類が来世紀までにバグのない高度なソフトウェアを開発しない限り、AIが人類を滅ぼす可能性が非常に高いと述べています。しかし、あらゆるモデルが悪用され、騙されて本来の性格を崩し、本来行うべきではない行動をとらされている現状を鑑みると、ヤンポルスキー氏は懐疑的です。

「彼らはすでにミスを犯しています。事故も起こり、ジェイルブレイクもされました。開発者が意図していなかったことを実現できた大規模な言語モデルは、今日では一つもないと思います。」

AI研究者は、AIが人類を滅ぼし支配することを防ぐための、永続的な安全装置の開発を提唱している。ヤンポルスキー氏は、次世代AIモデルがすべての安全性チェックを通過したとしても、技術は進化し続け、より知的になり、複雑なタスクや状況への対応能力が向上すると述べている。 

OpenAIの内部関係者は、AIは避けられない破滅をもたらすだろうと語る

別のレポートでは、OpenAIの元ガバナンス研究者であるダニエル・ココタジョ氏がヤンポルスキー氏の意見を繰り返し述べています。ココタジョ氏は、AIが人類を滅ぼす可能性は70%だと主張しています（Futurism経由）。上記のリストを見ると、AI業界の主要プレーヤーやステークホルダーはそれぞれ異なるp(doom)値を持っていることがわかります。ちなみに、p(doom)とは、AIが人類の滅亡につながる確率を求める式です。

「OpenAIはAGIの構築に非常に熱心で、その先駆者になるために無謀な競争を繰り広げています」とココタジオ氏は述べた。複数のOpenAI幹部が同社を去る中、スーパーアライメントリーダーのヤン・ライケ氏は、ChatGPTの開発元である同社は安全対策や企業文化よりも、派手な製品を優先していると示唆した。   

「世界はまだ準備ができていない。私たちも準備ができていない」と、ニューヨーク・タイムズが閲覧したメールの中でココタジオ氏は述べた。「それにもかかわらず、私たちが突き進み、自らの行動を正当化しているのではないかと懸念している」

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。