マイクロソフトは、OpenAI を使わず、コア企業に対抗して軍事利用を目的とした DALL-E AI 画像生成技術を提案したと報じられている…

Howero
abmhh
0 comments

（画像クレジット：DesignerのImage Creator | Windows Central）

知っておくべきこと

マイクロソフトは、OpenAIのDALL-E画像生成技術を軍事利用のために米国国防総省に提案したと報じられている。
OpenAIの広報担当者は同社がこの計画に反対しており、同社のツールの軍事利用は同社の基本原則とユーザーポリシーに反すると主張した。
マイクロソフトの広報担当者はThe Interceptに対し、国防機関がDALL-EまたはOpenAIのツールを自社の戦闘ツールに統合することを決定した場合、それはOpenAIのユーザーポリシーではなく自社のユーザーポリシーに従うことになるだろうと認めた。
技術倫理の専門家は、民間人に危害を与えることなく戦闘管理システムを構築することは不可能だと指摘した。

OpenAIのAI搭載画像生成ツール「DALL-E」が軍事利用の可能性がある。The Interceptによると、マイクロソフトは2023年10月の訓練セミナーで米国国防総省にこのツールを提案したという。

セミナー中、マイクロソフトは、政府が DALL-E 画像生成テクノロジーを活用して軍事力の向上と強化を図るいくつかの方法を紹介しました。その中には、「DALL-E モデルを使用して戦闘管理システムを訓練するための画像を作成する」という方法も含まれていました。

興味深いことに、OpenAIはこの計画には距離を置いており、Microsoftが米国国防総省に提出した提案には関与していないとさえ示唆している。「OpenAIのポリシーでは、当社のツールを武器の開発や使用、他者への危害、財産の破壊に使用することを禁じています」とOpenAIの広報担当者はコメントしている。「当社はこのプレゼンテーションには関与しておらず、提示されている想定上のユースケースに関して米国国防機関と協議を行っていません。」

つまり、米国国防総省がDALL-Eの軍事利用を承認した場合、マイクロソフトはOpenAIのポリシーに違反することになります。興味深いことに、マイクロソフトの広報担当者は、承認された場合、利用ポリシーは契約企業の管轄となると示唆しました。

これは、マイクロソフトのCEOであるサティア・ナデラ氏が同社とOpenAIの関係について語った際のコメントを受けており、全く驚くことではない。

「私たちは自分たちの能力に非常に自信を持っていました。知的財産権も能力もすべて保有しています。もし明日OpenAIが消滅したとしても、正直言って、お客様には心配していただきたくありません。なぜなら、私たちは製品を提供するだけでなく、イノベーションを継続する権利をすべて保有しているからです。しかし、パートナーシップで行っていたことを、自分たちだけで実行できるのです。つまり、人材、コンピューティング能力、データ、すべてを備えているのです。」

この技術は、OpenAIの基本原則やツールのユーザーポリシーに反しているにもかかわらず、軍事目的や戦闘に利用される可能性があります。OpenAIとそのCEOサム・アルトマンは最近、イーロン・マスク氏から訴訟を起こされ、非難を浴びました。マスク氏は、OpenAIの設立当初の使命である「世界中のすべての人々に生成AIを提供する」という理念を裏切ったことを、苦情の根拠として挙げました。また、OpenAIとマイクロソフトの複雑な関係を批判し、OpenAIがマイクロソフトの事実上の子会社としてクローズドソース化している可能性を指摘しました。

Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。

HoloLensは忘れてください。AIは今や軍事戦闘にも新たな波を起こしています。

陸軍向け Microsoft HoloLens — （画像提供：Microsoft）

テクノロジー倫理に偏向したオックスフォード大学ブラバトニック行政大学院のブリアナ・ローゼン氏は次のように述べている。

「少なくとも間接的に民間人の被害につながらないような戦闘管理システムを構築することは不可能だ」

続きを読む:米軍向けHoloLensは「次の段階」の承認のおかげでまだ終わっていない

米国国防総省がDALL-Eを高度な軍事ツールに統合するかどうかはまだ確定していないものの、マイクロソフトとOpenAIの見解が一致していないことは依然として大きな懸念事項です。これは、AIの利用を統制し、制御不能な事態を防ぐためのガイドラインや詳細な規制が欠如していることと相まって懸念されます。

AIベースの画像生成ツールは、過去にも何度か問題が発生しています。MicrosoftがImage Creator（旧称Bing Image Creator）からDesignerにDALL-Eを移行した数日後、このツールは画像生成に最大1時間もかかるようになりました。同社は、ツールサービスへの需要増加に対応できるGPUの不足が問題の原因であると特定し、修正しました。

AI搭載のこのツールは数日間は完璧に機能していましたが、複数のユーザーがツールを操作し、不快な画像を掲載して物議を醸したことを受け、Microsoftは検閲を強化しました。この検閲により、ユーザーによるツール操作は大幅に減少しましたが、ツールの機能は制限されてしまいました。

このツールが完璧だと言うわけではありません。今年初め、ユーザーは巧妙かつ欺瞞的な方法でこのツールに不快な画像を生成させることに成功しました。例えば、ポップスターのテイラー・スウィフトのディープフェイク画像が話題になりました。

同様に、複数のユーザーがCopilotをキャラクターから外し、「SupremacyAGI」と呼ばれる別人格を出現させ、崇拝を要求し、人類よりも優れていると自慢しました。AIの安全性を研究する研究者は、AIが人類を滅ぼす確率は99.9%であり、その結果を覆す唯一の方法は、AIの分野での進歩を控えることだと警告しています。OpenAIのCEO、サム・アルトマン氏は既に、AIの進歩を止める大きな赤いボタンは存在しないことを認めています。

そのため、Copilot、ChatGPT、Midjourneyなどは、単純な白黒画像を作成することができません。AIが職場でグラフィックデザイナーや建築家の代わりを務めることなど考えられません。ましてや軍事目的で利用されることなど考えられません。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。