元セキュリティ アーキテクトが Copilot を破る 15 通りの方法を実演: 「Microsoft は試みていますが、私たちが…
知っておくべきこと
- 元マイクロソフトのセキュリティ アーキテクト Michael Bargury 氏は、ハッカーが Copilot を破って機密データにアクセスするために利用できる複数の抜け穴を特定しました。
- マイクロソフトは以前、フィードバックに基づいて既存のエクスペリエンスを改善するため、Copilot への新しいエクスペリエンスの提供を一時停止する計画を発表していた。
- マイクロソフトは最近、最高経営責任者の報酬パッケージの一部をセキュリティ成果物に結び付けるなど、技術スタック全体で高まるセキュリティ上の懸念に対処するために実施しているいくつかの対策を強調した。
Black Hat USA 2024 カンファレンスにおいて、元 Microsoft セキュリティ アーキテクトの Michael Bargury 氏は、悪意のある人物が Copilot のセキュリティ ガードレールを突破し、その機能を悪用して危害を加えるために利用できる複数のエクスプロイトを紹介しました。
Bargury氏は、ハッカーがエクスプロイトを悪用し、Copilotを利用してユーザーの機密性の高い複雑な認証情報にアクセスする複数の方法を実演しました。具体的には、セキュリティアーキテクトの調査結果はMicrosoft 365 Copilotに焦点が当てられました。これは、WordやExcelを含むMicrosoft 365スイートに組み込まれたAIベースのエクスペリエンスです。ユーザーのデータにアクセスすることで、カスタマイズされたユーザーエクスペリエンスと強化されたワークフローを実現します。
プライバシーとセキュリティは、人工知能の進歩を阻むユーザーにとって最大の懸念事項の一つです。マイクロソフトは、Microsoft 365 Copilotの機能を活用しながらユーザーのデータを保護するためのセキュリティ対策を講じています。しかし、Bargury氏はこれらの対策を回避することに成功しました。
LOLCopilotと名付けられたデモの一つで、Bargury氏はAIツールにスピアフィッシング攻撃を仕掛け、セキュリティ専門家が社内メールにアクセスできるようにしました。メールから収集した情報に基づき、ツールは作成者の文体を模倣することで信憑性を保ちながら、大量のメールを作成し送信することができます。
さらに懸念されるのは、Copilotがセキュリティ警告を出さずに従業員の機密データにアクセスしてしまう可能性があることです。ハッカーは、チャットボットに元のファイルへの参照を隠蔽するよう指示するプロンプトを使用することで、最終的にMicrosoftのデータ保護プロトコルを回避できる可能性があります。
Microsoft は努力していますが、正直に言うと、安全な AI アプリケーションを構築する方法がわかりません。
マイケル・バルグリー、Zenity CTO
最近の報道によると、攻撃者はAIを含む高度な策略を用いて、無防備なユーザーを自らの策略に誘い込もうとしています。これにより、脅威の検知がますます困難になっています。Wiredのインタビューで、バーグリー氏は「ハッカーはクリックさせるだけのメールを作成するのに何日もかかりますが、数分で何百通ものメールを作成できるのです」と述べています。
マイクロソフトは最優先事項としてセキュリティ層をさらに強化する必要がある
生成AIは、ChatGPTやMicrosoft Copilotといった、画像やテキスト生成といった高度で高度な機能を検出する強力なツールの登場につながりました。これらのツールは、ユーザーとインターネットのインタラクション方法を再定義しつつあるようです。元Googleエンジニアでさえ、Googleの検索における優位性に対する最大の脅威は、OpenAIの暫定プロトタイプ検索ツールであるSearchGPTだと述べています。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
マイクロソフトは今年初め、Copilotへの新しいエクスペリエンスの提供を停止する計画を発表しました。さらに同社は、この機会を利用して、フィードバックに基づいて既存のエクスペリエンスを改良・改善していくと示唆しました。
ここ数ヶ月、マイクロソフトはセキュリティに重点を移し、最優先事項としてきました。マイクロソフトCEOのサティア・ナデラ氏が2024年度第3四半期の決算報告で強調したように、「セキュリティはテクノロジースタックのあらゆる層の基盤であり、私たちの最優先事項です。」
マイクロソフトは、Copilot+ PC 専用に出荷される前にリコールを余儀なくされた AI 搭載の Windows Recall 機能など、一連のセキュリティ上の欠陥により激しい反発に直面している。
同社ではセキュリティをチームワークとし、上級役員の報酬の一部をセキュリティ成果物に結び付けているにもかかわらず、セキュリティ上の欠陥は依然として多く存在しています。
🔥今最もホットなトレンドのセール🔥
- 🎮 Seagate Xbox Series X|S カード (2TB) | Best Buy で 249.99 ドル (110 ドルお得!)
- 🕹️Xbox Game Pass Ultimate (3 か月) | CDKeys で $29.29 ($21 お得!)
- 🎮Lenovo Legion Go (Z1 Extreme、512GB) | Best Buy で 599.99 ドル (100 ドルお得!)
- 💻HP Victus 15.6 ノートパソコン (RTX 4050) | Walmart で 599 ドル (380 ドルお得!)
- 📺Amazon Fire TV Xbox Game Pass バンドル | Amazon で $82.85 ($37 お得!)
- ⌨️Surface Pro キーボード + スリムペン 2 | Best Buy で $112.99 ($167 お得!)
- 🕹️Xbox Game Pass Core (12 か月) | CDKeys で $42.09 ($18 お得!)
- 💻Lenovo Yoga 7i 16 (Core i5) | Lenovo で $699.99 ($440 お得!)
- 🖱️Razer DeathAdder V3 有線マウス | Best Buy で $50.99 ($19 お得!)
- 🕹️Hi-Fi RUSH (PC、Steam) | CDKeys で $7.89 (22 ドルお得!)
- 🖱️Razer Basilisk V3 有線マウス | Best Buy で 49.99 ドル（20 ドルお得！）
- 🖥️Lenovo ThinkStation P3 (Core i5 vPro) | Lenovo で $879.00 ($880 お得!)
- ⌨️Alienware Pro ワイヤレス ゲーミング キーボード | Dell で 149.99 ドル (50 ドルお得!)
- 🕹️No Man's Sky (PC、Steam) | CDKeys で 24.19 ドル (36 ドルお得!)
- 💻Dell XPS 13 (Snapdragon X Elite) | Dellで1,099.99ドル (200ドルお得!)
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。