OpenAIのサム・アルトマン氏は、マイクロソフトCEOのサティア・ナデラ氏とのインタビューでAI規制について語り、AIの進歩を止める「大きな赤いボタン」は存在しないと述べた。
知っておくべきこと
- Microsoft CEO の Satya Nadella 氏と OpenAI の Sam Altman 氏は最近、The Economist の編集長と会談し、AI の将来、ChatGPT の今後の展望などについて話し合いました。
- サム・アルトマン氏は、ChatGPT の成功を、それが達成できる人間の作業の割合に基づいて測定していると指摘し、職場での生産性向上ツールとしてこの技術が広く採用されていることに面白さを感じていることを強調しました。
- OpenAIは今もAGIスーパーインテリジェンスの実現に向けて取り組んでおり、アルトマン氏はそれが善よりも害をもたらすという憶測は現実にならないかもしれないと指摘している。
- アルトマン氏は、すべてが制御不能になったときに押すべき大きな赤いボタンは存在せず、むしろ、こうした決定を下す過程でなされる小さくて重要な決定が、そうしたリスクを軽減するものだと指摘した。
取締役会がサム・アルトマン氏を会社から追放し、その後1週間以内にCEOとして再雇用することを決定したOpenAIの大失態は過ぎ去ったため、生成AIに関するMicrosoftとOpenAIの今後について多くの人が疑問を抱いている。
さて、これに対する最も近い答えは、最近のインタビューでしょう。エコノミストの編集長、ザニー・ミントン・ベドーズ氏が、OpenAIのサム・アルトマン氏とマイクロソフトのCEO、サティア・ナデラ氏と連絡を取り、AIの将来、ChatGPTの今後の方向性、AGIスーパーインテリジェンスの可能性と危険性、そして最後にテクノロジーの規制について話しました。
ChatGPTにとって2024年はどのような年になるでしょうか？
セッションは、エコノミスト誌編集長（EIC）がサム・アルトマン氏にChatGPTの将来について質問するところから始まります。アルトマン氏は冗談交じりに、GPT-4 LLMモデルのリリースといった重要なマイルストーンや、スーパーインテリジェンスにつながる可能性のあるささやかなブレークスルーが、不安を抱えるユーザーをいかに追い詰めているかを強調しました。
彼はさらに、ユーザーはこれらのマイルストーンが雇用喪失などを理由に、一夜にして劇的な変化をもたらすと信じる傾向があると付け加えた。興味深いことに、こうした技術やそれを取り巻く開発への関心は短命（「2週間のパニック」）で、ほとんどのユーザーはGPT-4などの進歩を批判し、速度低下や精度の低下といったパフォーマンスの問題を挙げるようになる。
こちらもご覧ください: OpenAIのサム・アルトマンとビル・ゲイツが、GPT-5、AGIスーパーインテリジェンス、そしてChatGPTに搭載されるビデオ機能について幅広いインタビューで語ります。
マイクロソフトのサティア・ナデラCEOは、生成型AIを画期的な技術と定義し、その普及は世界中でほぼ瞬時に進み、教育や医療を含む様々な分野に大きな価値をもたらしたと述べています。ナデラCEOは、Microsoft CopilotやChatGPTといったAI搭載チャットボットを通じて、人々が「より質の高い健康アドバイスと、よりパーソナライズされた個別指導」に無料でアクセスできるようになったことを例に挙げました。
関連： マイクロソフトがCopilotの有料サブスクリプションを開始
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
サム・アルトマン氏は、LLMモデルの成功を、人間が担当するタスクの割合を評価・測定することで測っていると明かしました。さらに、この技術が組織全体で「知識労働のパートナー」として広く採用され、生産性向上ツールとしてワークフローに統合されている様子を見るのは、非常に満足のいくことだと述べました。
OpenAIは依然としてAGI超知能の実現に注力している
サム・アルトマン氏は、OpenAIが依然としてAGI超知能の実現に向けて取り組んでいると述べたが、その過程で急進的な方向へ進んでいるのか、それとも漸進的な方向へ進んでいるのかについては言及しなかった。このブレークスルーは、Microsoft Copilotのような既に優れたチャットボットをはるかに凌駕しており、人間の認知能力を凌駕する可能性を秘めている。
アルトマンCEOは、超知能のベンチマークを達成できると確信しており、過去の例から判断すると、ユーザーは「2週間ほどパニックに陥る」だろうが、その後は状況は正常に戻るだろうと述べている。CEOは次のように述べている。
「私がよく言っているのは、次に何が起こるかは誰にもわからないし、その地平線の向こう側を詳細に見ることもできないということです。しかし、人間の根深い動機は、どこにも消えないように思えます。」
生成AIの規制
エコノミストのザニー・ミントン・ベドーズ氏は、人間の知識を超える技術の存在についてユーザーが警戒し、懸念していると指摘した。その技術を制御するためのガードレールや綿密な対策が講じられなければ、多大な損害を引き起こす可能性があるからだ。
アルトマン氏は、現代の技術革命に関する報告を引用し、専門家の予測はほとんどの報告において誤っていたと指摘した。また、AGI超知能に関する憶測についても同様のことが当てはまり、それが利益よりも害をもたらす可能性があると示唆した。
この基準達成に向けて前進する中、バイデン政権下の米国政府などの規制当局は、AIの安全性とプライバシーに関する懸念に対処する大統領令を発令し、テクノロジーに対する管理を確立するための最初の弾丸をすでに発射している。
さらに、安全上の懸念からチップメーカーがGPUを中国に出荷できないようにすることでチップメーカーの取り組みを妨げており、これが米国と中国の長年の対立をさらに激化させ、マイクロソフトが北京にあるAI研究ラボを維持するかどうか議論するほどになっている。
米国政府は以前、チップメーカーによるGPUの中国への出荷を禁止する輸出規制は中国経済を衰退させるためではなく、この技術が軍事利用される可能性に対処するためだと示唆していた。
インタビューの最後に、アルトマン氏は、潜在的な危険が迫っていると感じた場合、AIの進歩と超知能の実現を中止するかどうかを問われた。彼は、多くの人が存在すると想定しているような事態が発生した場合、データセンターを爆破させる「大きな魔法の赤いボタン」を押すことはできないと述べた。
同氏は、結局のところ、こうした進歩を遂げる過程でなされる小さいながらも重要な決断に尽きる、つまり、この技術をユーザーがどこまで推し進めることができるかを制御するための綿密な対策を講じることで、そうしたリスクを軽減できるのだ、と付け加えた。
OpenAIのスタッフが取締役会に書簡を送り、この分野における画期的な進歩の可能性を強調したことを受け、同社はすでにスーパーインテリジェンスのベンチマーク達成に向けて順調に進んでいる可能性がある。この画期的な進歩により、同社は10年以内にベンチマークを達成する可能性がある。
AI技術の進歩が制御不能に陥らないようにするための規制は十分だと思いますか？コメント欄であなたの考えを共有してください。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。