専門家は AI の存在リスクについて警告している — 私たちは OpenAI の危機を無視しているのだろうか?
AIが急速に進歩するにつれ、エリエゼル・ユドコウスキー氏のような第一線の専門家は、超知能の追求が前例のない実存的脅威をもたらしていると警告しており、安全性、倫理的限界、人類の将来への恐ろしい影響に対する懸念が高まる中、OpenAIの取り組みは厳しい監視に直面している。
ここ数か月、ChatGPTのようなAIツールと不健全な絆や関係を築いた後に未成年者が自殺する事件が増加する中、AIの安全性とプライバシーに関する懸念が高まっている。
生成 AI は長年にわたって進化しており、幻覚エピソードなどの重大な障害から、AI ボットがリアルな画像や動画を生成できる高度な機能を獲得し、最終的には人間が何が現実で何がそうでないかを判断することが困難になっています。
AIの安全性研究者であり、ルイビル大学サイバーセキュリティ研究所所長のローマン・ヤンポルスキー氏は、AIが人類を滅ぼす可能性は99.999999%あると示唆した。同氏は、この結末を避ける唯一の方法は、そもそもAIを開発しないことだと警告した。
さらに懸念されるのは、ChatGPTが世界征服と人類滅亡の計画を明示したマスタープランを公開するよう促される可能性があることだ。段階的な説明によれば、私たちはすでに計画の第一段階に入っており、より多くの人々が冗長で単調なタスクを処理するためにAIツールに過度に依存するようになっている可能性がある。
現状では、AIが制御不能に陥るのを防ぐための綿密な対策と安全策が講じられなければ、AIは人類滅亡の瀬戸際に立たされる可能性がある。しかし、これらの選択肢はどれも、AIが人類にもたらす実存的脅威に対する現実的な解決策ではないと、機械知能研究所（MIRI）の共同設立者であるエリエゼル・ユドコウスキー氏は述べている（The Decoder経由）。
ユドコウスキー氏は、避けられない終末を回避する唯一の方法は、AIシステムの永久停止を義務付ける国際条約を締結することだと述べています。注目すべきは、彼が2000年代初頭から高度なAIのリスクを研究・評価してきたことです。ニューヨーク・タイムズ紙のインタビューで、彼は次のように述べています。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
「AIを封じ込める効果的な国際条約が成立し、この本がその一助になれば、この本は成功と言えるでしょう。そうでなければ、死へと向かう道の途中にある、ささやかな慰めに過ぎません。」
ユドコウスキー氏によると、安全な AI ラボや差別化されたリスク規制などのアプローチは単なる妨害に過ぎず、AI 開発から生じる差し迫った問題や脅威を完全に解決することはできないという。
破滅へと突き進む狂気の科学者たち（全員閉鎖されるべきだが）の中で、OpenAIの経営陣は他と比べて明らかに劣悪であり、Anthropicの従業員の中には他と比べて明らかに優秀な者もいる。しかし、これらは何の違いも生まない。彼らは皆、法律によって平等に扱われるべきなのだ。
機械知能研究所共同創設者、エリエゼル・ユドコウスキー
彼は、ChatGPT の立ち上げ以降、おそらく最も人気のある AI ラボである OpenAI が、とらえどころのない AI バブルを追いかける群れの中では最悪だと示唆したようだ。
超知能は人類を滅ぼす可能性があるのか？
業界に多額の投資を行っているほとんどの AI ラボは、一般的な目標を持っているようです。それは、人工汎用知能 (AGI) の実現、そしておそらくは、より多くのコンピューティング、高品質のトレーニング、リソースを投入することで、超知能を実現することです。
OpenAIのCEOサム・アルトマン氏は、AGIは今後5年以内に実現できる可能性があると示唆したが、安全性に関する懸念を一蹴し、驚くほど社会的影響も少なくあっという間に消え去るだろうと示唆した。
しかし、ユドコウスキー氏はこれらの主張に反対しているようで、現在の方法で開発された人工超知能は人類の終焉につながるだろうと示唆している。
彼の著書（If Anyone Builds It, Everyone Dies）で強調されているように：
「地球上のどこの企業や団体でも、現在の技術に少しでも似たものを使い、現在のAIの理解に少しでも似たものに基づいて人工超知能を構築すれば、地球上のあらゆる場所のすべての人が死ぬことになるだろう。」
ユドコウスキー氏は、政治家たちに行動を呼びかけている。彼は、これらの画期的な進歩のいくつかは今後10年以内に達成されると予想されるため、中立的な立場をとり、単に規制を遅らせるという現在のアプローチは無謀だと述べている。
「なぜタイムラインにこだわるのか？」と彼は付け加えた。ユドコウスキー氏は、こうしたリスクが既に存在するのであれば、規制や安全策を既に整備しておくことが重要だと述べている。
Google ニュースで Windows Central をフォローすると、最新のニュース、洞察、特集がフィードの一番上に表示されます。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。