Microsoft AI CEO のムスタファ・スレイマン氏は、「意識のある AI」の危険性について警鐘を鳴らしています。

数十億ドルもの資金を生成型AI分野に投入しているテクノロジー企業の最終目標は何でしょうか？最も簡単な答えはAGI（汎用人工知能）でしょうが、どうやらこの言葉は話題になるたびに意味が変わるバズワードになってしまったようです。

簡単に言えば、人間の認知能力を超える強力なAI搭載システムを指します。しかし、マイクロソフトと数十億ドル規模のOpenAIパートナーシップ契約では、AGIは最大1,000億ドルの利益を生み出す能力を持つ強力なAIシステムと定義されています。

この基準は、営利企業に進化しなければ資金を失うリスクを負うという投資家からの大きな圧力の中で、ChatGPT メーカーを Microsoft にしっかりと結び付け、外部からの干渉や敵対的買収を招くことになります。

しかし、次世代テクノロジーは驚くべき速度で進歩し、拡大を続けているため、博士号は卒業前に時代遅れになる可能性もあるようです。さらに懸念されるのは、Microsoft AIのCEOであるムスタファ・スレイマン氏が最近、「人間のためのAIを構築しなければならない。人間になるためのAIではない」と題したブログ記事を公開し、意識を持つAIの到来を示唆している点です。

スレイマンによれば:

「これは『哲学的ゾンビ』 （専門用語です！）という概念と共通する側面があります。つまり、意識のあらゆる特徴をシミュレートしながらも、内部は空虚な状態です。私が想像するAIシステムは実際には意識を持たないものの、非常に説得力のある方法で意識を模倣し、あなたや私が互いに主張する自身の意識に関する主張と区別がつかないほどになるでしょう。」

スレイマン氏は、自身の焦点と使命は、人々が想像を超える素晴らしい偉業を達成できるようにする Microsoft Copilot などの製品を通じて世界をより良い場所にするために設計された、スーパーインテリジェンスに向けて前進する中で、安全で有益な AI を作り出すことだ、と述べています。

同氏はさらに、マイクロソフトを通じた自身の使命は、私たちをより人間らしくするAIを創造し、同時に互いの信頼と理解を深めることだと強調した。これは、コパイロットを仲間、そして真の友人へと変えるという彼の使命に基づくものだ。

スレイマンによれば:

「真に素晴らしい体験を提供するためには、多くの慎重な設計上の選択が必要です。常に正しい結果が得られるとは限りませんが、このヒューマニズムの枠組みは、私たちが目指すべき明確な北極星を与えてくれます。」

マイクロソフトのAI担当CEOは、AIを人間に置き換えるのではなく、人間のためにAIを構築することの重要性を改めて強調した。AIコンパニオンキャンペーンを推進してきた同CEOだが、テクノロジーが価値を生み出す一方で、人々を守るためのガードレールの重要性を依然として強調している。

おそらくさらに懸念されるのは、スレイマン氏が「意識を持つAI」の開発は突飛な理論ではないと述べている点だ。今日の技術と、今後2～3年以内に成熟すると予想される技術を組み合わせれば開発できるからだ。さらに、この偉業には「高価な特注の」トレーニングは必要ない。むしろ、スレイマン氏は、意識を持つAIは大規模モデルAPIへのアクセス、自然言語による指示、基本的なツールの使用、そして通常のコードで実現できると述べている。

AIの将来性がDeepMindのCEOを夜も眠れぬ状態に

ここ数年、AI関連の技術革新のさらなる進展は人類にとって避けられない破滅をもたらすと予測されてきました。AI安全性研究者のローマン・ヤンポルスキー氏は、AIが人類を滅ぼす確率は99.999999%だと主張しています。さらに彼は、この結末を避ける唯一の方法は、そもそもAIを開発しないことだと示唆しています。

しかし、OpenAIのCEOであるサム・アルトマン氏は、同社がAGIのような派手な製品を安全プロセスよりも優先していると主張しているにもかかわらず、AIが社会に与える影響についてはかなり楽観的であり、同社が今後5年以内にAGIベンチマークを達成すると示唆している。興味深いことに、彼はこのマイルストーンは驚くほど社会への影響が少なく、あっという間に達成されるだろうと主張している。

さらに懸念されるのは、アントロピックのCEO、ダリオ・アモデイ氏が最近、自社のモデルの仕組みを理解していないことを認めたことだ。このニュースは、GoogleのDeepMind CEO、デミス・ハサビス氏がAGIの到来を示唆した後に発表されたもので、社会がAGIに伴うあらゆる事態にまだ備えができていないのではないかという懸念がさらに高まっている。ハサビス氏は、その将来性に不安を抱き、夜も眠れないと述べている。

ムスタファ・スレイマン氏は、意識を持つAIは、流暢に自己表現できる言語、記憶、自己意識、内発的動機、目標志向などを持つようになると述べています。スレイマン氏は、この現象は偶然に生まれるものではないと述べ、エンジニアが上記の能力を組み合わせることで意識を持つAIを創造するだろうと予測しています。

スレイマン氏は、社会はまだ意識を持つAIを受け入れる準備ができていないため、そのような現象が現実のものとなるのを防ぐためのガードレールが必要だと述べています。「人間との関わりや、現実世界と現実世界の相互作用を優先するAIを開発すべきであるのと同様に、意識の兆候を最小限に抑えながら実用性を最大化するAIを、常にAIとしてのみ表現するAIを構築すべきです」と、マイクロソフトのAI CEOは付け加えました。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。