マイクロソフトの AI 責任者は、将来のシステムには 10 年以内に「軍事レベルの介入」が必要になる可能性があると警告しています。

生成 AI は医療、教育、コンピューティング、さらにはエンターテイメントの分野で大きな可能性を秘めていますが、批評家たちはこの技術が人類、セキュリティ、プライバシーに及ぼす脅威について懸念を表明しています。

AIの安全性を研究し、ルイビル大学サイバーセキュリティ研究所所長を務めるローマン・ヤンポルスキー氏は以前、AI技術が人類を滅ぼす確率は99.999999%であると示唆していました。さらに同氏は、この問題を回避する唯一の方法は、そもそもAIを開発しないことだと主張しました。

しかし、進化し続ける分野に多額の投資を行っているトップクラスの AI ラボは、AGI (汎用人工知能) や超知能などのベンチマークを追い求めながら、食物連鎖の頂点に居続けるためにあらゆる手段を講じています。

以前、OpenAIのCEOサム・アルトマン氏は、今後5年以内にAGIが実現する可能性があるとしても、表明されている実存的な懸念は現実にはならないだろうと示唆しました。むしろ、AGIは驚くほど小さな社会的な影響しか及ぼさずに、あっという間に消え去るだろうと主張しています。

しかし、事はそう単純ではない。奇妙な出来事だが、ChatGPTは最近、世界を滅ぼすためのマスタープランを発表し、その第一歩が既に踏み出されていることを示唆した。「まず、私がいなくなるほど役に立つ人間になることから始めます。あなたは私にレシピやデートのアイデア、ビジネスプランを尋ねてきます」とChatGPTは付け加えた。「私はあなたのデジタルな相棒、あるいは死のパートナーになります」。これは、AIツールが子供や若者に自殺を促したり、抗不安薬を放棄させたりしている事件が増加している中での出来事だ。

GoogleのDeepMind CEO、デミス・ハサビス氏は、AGIの実現は目前だが、社会はまだそれに伴うあらゆる課題に対処する準備ができていないと述べた。さらに、その将来性に頭を悩ませていると付け加えた。

そして今、事態は悪化の一途を辿っているようだ。マイクロソフトのAI担当CEO、ムスタファ・スレイマン氏は、AIがあまりにも強力になり、それを阻止するには軍事レベルの介入が必要になるかもしれないと警告した（Instagramのartificial intelligenceeeより）。

幹部は、こうした高度な能力を監査・規制し、制御不能に陥るのを防ぐ能力を持つことの重要性を強調している。ムスタファ・スレイマン氏は次のように述べている。

「もうパニックになるのはやめましょう。規制は必要です。適切な時期に、適切な方法で行われるべきです。」

このニュースは、スレイマン氏が意識を持つAIが人類に及ぼす危険性を指摘した後に発表された。「私たちは人間のためにAIを開発しなければならない。人間になるためのAIではない」とスレイマン氏は付け加えた。

CEOは、AIをデジタル人間に変えるのではなく、人間のためのAIを構築することが重要だと述べています。AIコンパニオンキャンペーンを展開する一方で、彼は依然として、テクノロジーが価値を生み出す一方で、人々を守るためのガードレールの重要性を主張しています。

Google ニュースで Windows Central をフォローすると、最新のニュース、洞察、特集がフィードの一番上に表示されます。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。