サム・アルトマンは、音声ID詐欺師がAIを採用することを「恐れている」が、米国の生物兵器攻撃の脅威は続く…

悪意のある行為者やハッカーは、無防備なユーザーから欺瞞の策略を巧妙に隠蔽する高度な技術をますます利用するようになっています。さらに憂慮すべきことに、攻撃者は生成AIを活用して、機密データを安全に保つために設計されたセキュリティおよびプライバシーシステムを侵害しています。
OpenAIのCEO、サム・アルトマン氏は、火曜日にワシントンD.C.で開催された連邦準備制度理事会(FRB)の規制資本枠組み会議で、金融規制当局や業界専門家らに対し、銀行機関による音声認証の継続的な利用に懸念を表明した。AIの普及が進み、悪意のある人物に複雑なデータへのアクセスを許してしまう可能性が高まっている今、これは特に懸念すべき事態だ(Business Insiderより)。
幹部によると、「私が恐れているのは、どうやら大金を移動したり、その他のことをしたりするための認証として音声認証を受け入れる金融機関がまだいくつかあるということだ」とのことだ。
アルトマン氏は、銀行機関における音声認証の使用は「いまだに行われているとは信じられないこと」だと指摘し、さらに「AIはパスワード以外の、現在人が認証に使用しているほとんどの方法を完全に打ち負かしている」と示唆した。
CEOは、AIが「重大な差し迫った詐欺危機」を引き起こす可能性があると警告し、金融機関に対し、AIを使って侵入することができない顧客の身元を特定するための、より優れた安全な方法を見つけるよう求めた。
社会全体がこの問題にもっと広く対処しなければなりませんが、人々は交流の仕方を変えなければなりません。確認の方法も変えなければなりません。これは非常に大きな問題です。
OpenAI CEO サム・アルトマン
サム・アルトマンが夜眠れない理由
集中的な質疑応答セッションの中で、サム・アルトマン氏は夜眠れない理由について尋ねられた。同氏は、大規模な金融攻撃が最も大きな懸念事項であると答えた。
同幹部は、米国の敵対勢力が強力かつ高度なAIシステムにアクセスし、生物兵器を使って米国を攻撃する可能性があるというシナリオを描いた。また、悪意のある人物がAIを利用して「金融システムに侵入し、国民のお金を奪う」可能性もあると示唆した。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
さらに懸念されるのは、アルトマン氏が、万が一そのような事態が発生した場合、事態を緩和するために私たちにできることはほとんどないだろうと示唆したことだ。彼は、より賢いAIを駆使する悪意ある人物に対して、精巧で防御的な対策を講じ続けるのは、まさに至難の業だと説明した。
興味深いことに、GoogleのDeepMind CEOであるデミス・ハサビス氏は、世界は切望される汎用人工知能(AGI)のベンチマーク達成に近づいているかもしれないが、社会はそれに伴うすべてのことに対してまだ準備ができていないと述べた。さらにハサビス氏は、こうした見通しが夜も眠れないほど彼を悩ませていると明かした。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。