シスコは、サム・スミス氏にもかかわらず、AI ツールの悪用、データ漏洩、高度な脅威に対抗するための AI 防御を導入しました…

シスコシステムズが最近発表した「AIディフェンス」は、セキュリティとプライバシーがAIの進歩を阻む大きな課題の一つとなっている中で発表されました。AI技術が人類を滅ぼす可能性は、規制当局や政府を含むすべての人にとって依然として大きな懸念事項です。そのため、生成AIの探究を規制する規制や政策はせいぜいわずかであり、AIが軌道から外れる可能性は非常に高いと言えます。

AIの安全性研究者であり、ルイビル大学サイバーセキュリティ研究所所長のローマン・ヤンポルスキー氏は、p(doom)によるとAIが人類を滅ぼす確率は99.999999%であり、それを回避する唯一の方法はそもそもIAを構築しないことだと示唆した。興味深いことに、トンネルの出口には光が見えているようだ。

AI Defense は、AI 搭載アプリの開発と使用を保護するように設計された高度なセキュリティ ソリューションであり、企業が AI を安全に開発できるようにします。

The Rundown AIのRowan Cheung氏との独占インタビューで、シスコのエグゼクティブバイスプレジデント兼最高製品責任者であるJeetu Patel氏は、AIの急速な進歩と、AI Defenseのリリースを促したセキュリティと保護の懸念について語った。

現実には、将来は2種類の企業に分かれるでしょう。AIをリードする企業と、AIに無関係な企業です。あらゆる企業が数千ものAIアプリケーションを、あるいは開発して利用するようになるでしょう。そして、AIイノベーションの急速なペースは、セキュリティと保護に関する主要な懸念を上回っています。

AIアプリケーションの開発と利用の両方を保護するために、AI Defenseを開発しました。AI Defenseは、AIツールの悪用、データ漏洩、そしてますます巧妙化する脅威から保護します。既存のセキュリティソリューションでは対応できない課題に対処するため、抜本的なアプローチを採用しています。

AI防御は、AIテクノロジーの存亡に関わる脅威に最も近いセキュリティソリューションと言えるでしょう。しかし、さらに懸念されるのは、シスコの2024年AI準備レポートによると、「AIへの不正な改ざんを検知・防止する準備が整っていると感じている回答者は、調査対象者のわずか29%に過ぎない」ということです。

これは、AI環境が比較的新しく複雑であることに起因していると考えられます。さらに、AIアプリはマルチモデルかつマルチクラウドであり、モデルレベルまたはアプリレベルで展開できるため、セキュリティ攻撃の影響を受けやすくなっています。

続きを読む: MicrosoftとOpenAIにとってAGIが意味するもの

Cisco は AGI の進捗状況を監視するのでしょうか?

アンスロピックやOpenAIといったトップAIラボが切望するAGIベンチマークの達成を目指して競い合う中、このセキュリティソリューションのリリースはまさに絶好のタイミングでした。OpenAIのCEO、サム・アルトマン氏は、同社のチームはAGIの構築方法を熟知しており、同社が超知能へと注力していく中で、このベンチマークは予想よりも早く達成されるだろうと述べました。

関連：従業員は、OpenAIはo1推論モデルのリリースですでにAGIを実現したと主張している

セキュリティと安全性への懸念があるにもかかわらず、アルトマン氏は、このベンチマークは驚くほど社会的影響が少なく、あっという間に通過すると主張した。また、表明されているセキュリティ上の懸念は、AGIの時代には目に見えたり、経験されたりしないだろうと付け加えた。しかしながら、最近の報告では、モデルのトレーニングのための高品質なコンテンツの不足により、AIの開発と進歩が行き詰まっている可能性があることが示唆されている。サム・アルトマン氏や元Google CEOのエリック・シュミット氏を含む業界の主要人物は、この主張に異議を唱え、スケーリング則がAIの進歩を阻害し始めたという証拠はないと主張した。「壁などない」とアルトマン氏は付け加えた。

AI Defenseは正しい方向への一歩ではあるものの、組織や主要なAI研究所での導入状況はまだ不透明です。興味深いことに、OpenAIのCEOは、この技術が人類にとって脅威となることを認めつつも、AIが人類滅亡を阻止できるほど賢くなると確信しています。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。