AIの安全性研究者は、AIが人類を滅ぼす確率は99.999999%だと警告しているが、イーロン・マスクは…
知っておくべきこと
- イーロン・マスク氏は、AIは人類を支配したり、滅ぼしたりする可能性があり、その確率は10～20％であると述べています。
- 迫り来る危険にかかわらず、AI分野のさらなる進歩を探求すべきだとマスク氏は言う。
- AI安全性研究者は、AIが人類を滅ぼす可能性はマスク氏の認識よりも高いと述べ、さらにそれはほぼ確実であり、それを防ぐ唯一の方法はそもそもAIを作らないことだと述べている。
- 他の研究者や経営者も、p(doom)定理に基づいて同様の意見を述べています。
生成AIは、有益なツールとも有害なツールとも捉えられます。確かに、医療、コンピューティング、教育など、AIを活用した素晴らしい成果が医療、コンピューティング、教育など、様々な分野で達成されてきました。しかしその一方で、この技術には重大かつ懸念すべき問題も提起されています。例えば、Copilotの別人格であるSupremacy AGIが崇拝されるべき存在であることや、AIが冷却のために途方もない量の水を必要とすること、そして消費電力への懸念などが挙げられます。
イーロン・マスク氏はAIに関する自身の見解を声高に表明しており、このテーマをめぐって多くの論争を巻き起こしています。最近、この億万長者はAIを「最大の技術革命」と称しましたが、2025年までにAIのパワーが不足し、AI分野のさらなる発展を阻害するだろうと示唆しました。
アバンダンス・サミットで、イーロン・マスク氏は「AIが人類を滅ぼす可能性はある」と示唆した。この億万長者はどのようにしてこの結論に至ったのかは明かさなかったものの、AIが人類を滅ぼす可能性は10～20％あると述べている（Business Insiderより）。
奇妙なことに、マスク氏はAI分野の潜在的な成長分野と進歩をまだ探求すべきだと考えており、「可能性のある肯定的なシナリオが否定的なシナリオを上回ると思う」と述べている。
AIはp(doom)によると悲観的だ
ルイビル大学サイバーセキュリティ研究所所長でAIの安全性を研究するローマン・ヤンポルスキー氏は、Business Insiderの取材に対し、AIが人類を滅ぼす可能性ははるかに高いと指摘した。ヤンポルスキー氏は、マスク氏の10～20%という推定を「控えめすぎる」と述べた。
続きを読む:マイクロソフト社長がAIをターミネーターに例える
AIの安全性を研究する研究者は、リスクは指数関数的に高いと述べ、これを「p(doom)」と呼んでいます。ここでp(doom)とは、生成型AIが人類を支配する、あるいはさらに悪いことに人類を滅ぼす可能性を指します。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
AIをめぐるプライバシーとセキュリティの懸念は誰もが認識しているところですが、米中間の争いはまさにその好例です。昨年、米国はNVIDIAなどのチップメーカーによる中国へのチップ（GeForce RTX 4090を含む）の出荷を禁止する輸出規制を施行しました。
米政府は、この措置は中国経済を衰退させることを目的としたものではなく、軍事的前進におけるAIの利用を防ぐための安全対策であると明確に示唆した。
イーロン・マスク氏は、AIスタートアップ企業OpenAIとそのCEOサム・アルトマン氏に対する訴訟において、同社のGPT-4モデルについても同様の懸念を表明した。この技術が制御不能に陥るのを防ぐための綿密な対策やガードレールが欠如していることは憂慮すべき事態だ。マスク氏は、このモデルがAGIを構成するものであり、その研究、発見、そして技術の進歩が一般の人々に容易にアクセスできるようにしたいと述べている。
ニューヨーク・タイムズ紙によると、(p)doom（未来の知能）に詳しい研究者や企業幹部の多くは、AIが人類を支配するリスクを5～50%と見積もっています。一方、ヤンポルスキー氏は、そのリスクは極めて高く、99.999999%の確率だと述べています。同氏は、AIが超知能に到達すれば、それを制御することは事実上不可能であり、これを防ぐ唯一の方法は、AIを作らないことだと述べています。
別のインタビューでマスク氏はこう語った。
「私たちは今、おそらく史上最大の技術革命の瀬戸際にいると思います。ご存知の通り、中国には『面白い時代に生きられますように』という呪いの言葉があります。まさに、私たちは最も面白い時代に生きています。正直なところ、しばらくの間、少し落ち込んでいました。『ああ、彼らが支配してしまうのだろうか？ 私たちは役に立たなくなってしまうのだろうか？』と」
マスク氏はテスラのオプティマス計画について語る中でこれらのコメントを述べ、ヒューマノイドロボットは複雑なタスクの処理においては人間と同等の能力があると付け加えた。そして、進化が始まれば、ロボットが人間に優しくしてくれることを願っていると冗談めかして語った。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。