マイクロソフトはAIをより安全にしたいと考えており、それを支援するサービスを発表した。

知っておくべきこと

• Microsoft は最近、Azure AI Content Safety を広く利用できるように出荷しました。
• これは、ユーザーにとってより安全なオンライン環境を作り出すために設計された AI 搭載プラットフォームです。
• Azure AI コンテンツ セーフティを使用すると、企業はポリシーをカスタマイズしてより高度な制御を確立し、最終的には顧客が消費するコンテンツが企業の中核的価値観と一致するようにすることができます。
• このプラットフォームはスタンドアロン システムになったため、オープンソース モデル全体で使用できるようになりました。

MicrosoftはAzure AI Content Safetyの一般提供を開始しました。これはAIを活用したプラットフォームで、「組織がより安全なオンライン環境を構築できるよう支援する」ことを目的としています。このプラットフォームは、高度な言語モデルと視覚モデルを活用し、暴力などの不適切なコンテンツにフラグを立てます。

ここ数ヶ月、多くの組織がAIテクノロジーの活用を目指して「AIトレイン」に乗り出しました。これらの企業は、それぞれの分野で大きな進歩を遂げていることは事実です。AIのメリットは、専門家が7分以内にソフトウェアを開発することから、学生が複雑な数学の問題を解くのを手助けしたり、詩を書いたりすることまで、多岐にわたります。

しかし、依然として明らかなのは、ユーザーが生成型AIに疑念を抱いているということです。この技術の精度が低下していると指摘するユーザーもいれば、より愚かになっていると指摘するユーザーもいます。また、この技術には、ユーザーがこの技術とインタラクションする際に消費するコンテンツを理想的には規制する安全対策が欠けています。

幸いなことに、Azure AI コンテンツ セーフティは、組織や企業がユーザーがアクセスできるコンテンツの種類をより細かく制御しながら、同時にそれが自社の中核的な価値観やポリシーと一致するようにするために導入されています。 

このプラットフォームは当初Azure OpenAIサービスの一部としてデビューしましたが、現在はスタンドアロンシステムとなっています。Microsoftはブログ投稿でこのプラットフォームについて説明しています。

「つまり、顧客はオープンソースモデルや他社モデルからのAI生成コンテンツ、あるいは自社コンテンツシステムの一部としてのユーザー生成コンテンツにもこれを利用することができ、その有用性が拡大するのです。」

これは、AI テクノロジーを安全に導入するために不可欠な効果的なツールを企業に提供するという Microsoft の目標を裏付けるものです。  

Azure AIコンテンツセーフティは適応性を重視している

Microsoftは既にAzure AI Content Safetyを活用し、GitHub Copilot、Microsoft 365 Copilotといった自社のAI搭載製品にガードレールを設けています。そして今、企業や組織にも同様の機能が提供されるようになりました。これにより、顧客のニーズや要望に合わせてポリシーをカスタマイズすることが可能になります。 

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。