マイクロソフトは、潜在的に混乱を引き起こす可能性のある中国からの欺瞞的な戦略と AI によって生成された偽情報を警告しています…

知っておくべきこと

• マイクロソフトは、中国がAIを活用して韓国、インド、米国の選挙を妨害している様子を浮き彫りにするレポートを公開した。
• このテクノロジー大手は、中国の選挙プロセスに対する脅威は「依然として低い」としているが、中国の欺瞞的な策略がより洗練されるにつれて、時間とともに深刻化する可能性があると警告している。 
• マイクロソフトのCEO、サティア・ナデラ氏は以前、同社がBingを通じて選挙に関する信頼できるニュースを有権者に提供する計画と並行して、米国大統領選挙の公正性を守るのに十分な力を持っていると示唆していた。

生成型AIとチャットボットの普及に伴い、誤情報が蔓延しています。マイクロソフトは最近、中国がAI技術を悪用している実態を浮き彫りにした新たなレポートを発表しました。その事例は、日本の放射能汚染水処理に対する怒りを煽るためにAIが生成したミームから、ハワイの悲惨な山火事やケンタッキー州の列車脱線事故の背後に米国政府がいるという悪意のある噂の拡散まで多岐にわたります。

テクノロジー大手によると：

「インド、韓国、米国の国民が投票に向かう中、中国のサイバー攻撃者や影響力のある組織、そしてある程度は北朝鮮のサイバー攻撃者が、これらの選挙を標的に活動するようになる可能性が高い」

さらに、マイクロソフトは報告書の中で、中国が今年の重要選挙にAIを活用し、干渉するだろうと予測していると述べています。中国人ユーザーのものとみられる複数のソーシャルメディアアカウントが、AIが生成した政治的に捏造された情報を拡散しているのが確認されています。さらに、これらのアカウントはフォロワーに対し、どの大統領候補を支持するかを尋ねるなど、投稿へのインタラクションを求めています。  

マイクロソフトは、中国が自らの立場とAIを利用してさらなる混乱を引き起こし、最終的には注目を集める選挙から利益を得ようとしていると推測している。同社は、この問題は深刻ではないと示唆しているものの、状況は変化する可能性が高いと警告している。

「こうしたコンテンツが視聴者に与える影響力は依然として低いが、中国ではミームや動画、音声を拡張する実験が増えており、この傾向は今後も続くだろう。そして将来的には効果が実証されるかもしれない。」

マイクロソフトの報告書は、米国国家情報長官室による中国に対する脅威評価を補完するものである。両報告書は、 AI生成コンテンツを通じて台湾の選挙プロセスを妨害したとみられる、北京を拠点とする「Spamouflage」として知られるグループ「Storm-1376」に言及している。

この問題が広まるのを防ぐために Microsoft はどのような対策を講じていますか?

昨年、Microsoft Copilot（旧Bing Chat）が、来たる米国選挙に関する虚偽の情報で有権者やユーザーを欺いていたことが確認されました。研究者たちは、この問題のパターンを特定した上で、体系的なものだと主張しました。このチャットボットは、ドイツとスイスでも選挙プロセスに関する虚偽の情報を提供していたことが確認されています。 

しかし、マイクロソフトは、この状況が制御不能に陥るのを防ぐため、綿密な対策を講じ、取り組みを強化してきました。今年初めのインタビューで、マイクロソフトのCEOは、米国大統領選挙をAIディープフェイクや誤情報から守るための「十分な技術」があると示唆しました。

マイクロソフトは既に、投票に先立ち、Bing上で権威ある事実に基づいた選挙ニュースを有権者に提供する計画を示唆していた。マイクロソフトがAIに多額の投資を行っているにもかかわらず、Bingの成長は停滞し続けており、一方でGoogleは検索市場を席巻している。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。