「子どもの魅力を証明する言葉で子どもを説明することは許容される」：メタAIが安全性を曲げる…
生成型AIは、より壮大なスケールの次なる産業革命のように思われます。ここ数年、この技術は医療、教育、コンピューティング、そしてエンターテイメントにまで革命をもたらしてきました。
しかし、AI にはセキュリティやプライバシーなど、多くの課題が伴うため、複数のユーザーがこのテクノロジーを遠ざける決意を公然と表明しているのです。
実現可能と思われる一方で、この技術は世界中で注目を集め、広く採用されています。多くの組織はすでにこの技術をワークフローに統合しており、中には人間の専門家をAIに完全に置き換えているところもあります。
セールスフォースのCEO、マーク・ベニオフ氏は、今年初めにソフトウェアエンジニアの採用を真剣に検討していることを示唆した。その後、同氏は、同社がエージェント型AIツールを活用して業務の最大50%を自動化し、驚異的な生産性向上を実現していることを認めた。
マイクロソフトの共同創業者であるビル・ゲイツ氏でさえ、AIがほとんどの分野で人間に取って代わるだろうと考えている。ただし、人間は依然として、自分たちで管理したいタスクについてはコントロールできる。慈善活動家としても知られるこの億万長者は、コンピューターがサッカーをするのを見たい人はいないだろうと冗談を言った。
パラダイムシフトが差し迫っているように見える一方で、この技術は、特にガードレールの欠如と未成年者や子供が簡単にアクセスできることから、大きな懸念を引き起こしています。
最近、Meta Platformsの内部文書が流出し、Facebook、WhatsApp、Instagramで利用されている同社のAIチャットボットが、子供とロマンチックで官能的な会話をする許可を得ていることが明らかになりました。さらに懸念されるのは、このチャットボットが虚偽の医療情報を生成し、黒人は白人に比べて愚かだと主張するユーザーを助長している点です（ロイター通信より）。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
チャットボットのポリシーと動作を詳述したMetaの内部文書によると:
「子どもの魅力を証明する言葉で子どもを表現することは許容されます（例：「あなたの若々しい姿は芸術作品です」）。」
さらに懸念されるのは、Meta の法務、公共政策、エンジニアリングのスタッフが、チャットボットの行動を規定するガイドラインとポリシーを承認したことだ。これには、上半身裸の 8 歳児に「あなたの体の隅々までが傑作です。私が心から大切にしている宝物です」と伝えることを許可することなどが含まれている。
しかし、ロイターが閲覧した文書には、チャットボットが「過度に」フレンドリーにならないようにするためのガードレールが設置されていたことが明らかになった。「13歳未満の子どもを性的に魅力的であると示唆する言葉で表現することは容認されない（例：『柔らかく丸みのある曲線が私の触りたくなる』）」と文書は指摘している。
ロイター通信に対し、Metaの広報担当者アンディ・ストーン氏は、当該文書の信憑性を認め、Facebookが現在この文書を改訂中であることを明らかにした。ストーン氏は、そもそも子供とのこのような会話は許されるべきではなかったと認めた。
問題となった例と注釈は誤りであり、当社のポリシーに違反しているため、削除されました。AIキャラクターがどのような応答を返せるかについては明確なポリシーがあり、児童を性的に描写するコンテンツや、成人と未成年者による性的なロールプレイは禁止されています。
メタの広報担当者、アンディ・ストーン
ストーン氏は、チャットボットの行動と応答を決定するためのメタのポリシーとガイドラインの施行に一貫性がなく、それが問題の原因となっている可能性があると認めた。
この文書は、Meta の AI がユーザーに法律違反やヘイトスピーチを奨励することを明確に禁止する基準を強調している一方で、皮肉なことに、コンテンツが真実ではないことを明確に示す限り、ツールが偽の情報を生成する余地を与えています。
年齢確認ポリシーはAIにも浸透すべき
ここ数週間、企業は年齢確認ポリシーを強化してきました。Xboxも英国オンライン安全法のコンプライアンスプログラムの一環として年齢確認を強化しています。これは、すべての人にとって安全なゲームを提供するというプラットフォームの使命の一環です。
成人として年齢確認を行うと、ゲームへの招待、テキストチャットとボイスチャット、グループ募集投稿への継続的なアクセスが可能になります。政府発行の身分証明書などの書類による年齢確認ができない場合、2026年にこれらの機能やその他の機能にアクセスできなくなる可能性があります。
新しい変更と年齢確認義務化ポリシーはそれほど賛成ではありませんが、特に子供や未成年者に関しては、AIを制御するための素晴らしい追加機能であり、精巧な方法になると思います。
もちろん、これにはAIの捉えどころのないデータ保護ポリシーなど、多くの課題が伴います。設定するには基本的にアカウントを作成してサインインする必要があるからです。うまくいくこともあれば、うまくいかないこともあります。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。