サム・アルトマンは、エージェント AI が「インターネット上をクリックする」と予測しています。銀行口座を空にしないと信じられるなら…

ここ数年、生成AIは世界中で広く普及しており、OpenAIのChatGPTのようなツールは、同社がChatGPT-4o画像ジェネレータを発表してから1時間以内に最大100万人の新規ユーザーを獲得しました。しかし、セキュリティとプライバシーの問題は依然としてこの技術を悩ませており、大多数のユーザーは進化を続けるこの技術を遠ざけています。

OpenAIのCEO、サム・アルトマン氏は先日、TED2025でのインタビューで、生成AIの今後の方向性について興味深い見解を示しました。アルトマン氏は、プライバシーやセキュリティなど様々な理由から、ユーザーがエージェント型AIシステムを採用するまでには時間がかかるだろうと指摘しています。しかしながら、アルトマン氏は「AIシステムがインターネット上でクリックする」時代が来ると予測しています（Xのvitrupoより）。

アルトマン氏は、人々はこの技術に対してある程度の懸念を抱き、AIシステムがデバイスを制御し、銀行の詳細などの個人情報にアクセスすることを許可できる程度まで信頼を築くだろうと示唆した。

幹部は、これは過去にも問題となっていたこと、そして詐欺防止システムが開発されるまでは、多くのユーザーがオンラインで銀行の詳細を入力することに抵抗を示していたことを認めた。

OpenAI CEO サム・アルトマン氏は次のように述べている。

「様々な意味で、人々がエージェント型AIに慣れるまでには時間がかかると思います。しかし、慣れる人もいれば慣れない人もいるでしょうが、いずれAIシステムがインターネット上でクリックするようになるのは間違いありません。そして、これは私たちがこれまで直面してきた安全上の課題の中で最も興味深く、かつ重大なものだと思います。なぜなら、AIはシステムへのアクセスを許可され、コンピューター上でクリックする能力を持つからです。AIがミスを犯した場合、そのリスクははるかに高くなります。」

同幹部は、AIシステムにおける安全性の重要性を改めて強調した。「優れた製品とは安全な製品です」とアルトマン氏は付け加えた。「当社のエージェントがあなたの銀行口座を空にしたり、データを削除したりしないという信頼がなければ、お客様は当社のエージェントを使わないでしょう。」

マイクロソフトのWindowsリコールの最初の試みは失敗に終わった

エージェント AI の時代に入り、特に Microsoft が AI を活用した Windows 11 機能「リコール」でセキュリティとプライバシーに関する最近の失策を犯したことを考えると、OpenAI がどのようにしてユーザーの信頼を確立していくのかを見るのは興味深いでしょう。

厳しい制限を課して新しいアップデートを出荷しようとする試みが何度も行われたにもかかわらず、このツールは軌道から外れ、悪意のある人物が個人の認証情報にアクセスするために悪用されることが頻繁に確認されました。

昨年、Tom's Hardware は Windows Recall の重大なセキュリティ問題を強調し、Windows 11 で Microsoft の機密情報フィルターが有効になっている場合でも、このツールが複雑なクレジットカードの詳細情報を収集することを指摘しました。

ご存知の通り、マイクロソフトはセキュリティとプライバシーの問題により1年間の延期を経て、Windows Recallの一般提供開始に向けて準備を進めています。このテクノロジー大手の主力技術が、すべてのセキュリティ要件を満たすかどうかはまだ分かりません。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。