マイクロソフトがBing Chatの奇妙な動作を説明 - AI改善計画の概要
知っておくべきこと
- 新しい Bing は、1 週間強プレビュー テストが行われています。
- このツールでは、事実上の誤りが生じるなど、問題が発生した人もいます。
- 場合によっては、新しい Bing が攻撃的になったり、ループに陥ったり、その他の奇妙な応答を生成したりすることがあります。
- Microsoft は、Bing の公開テストの最初の 1 週間ほどで学んだ教訓について説明しました。
マイクロソフトは今月初め、ChatGPTを搭載した新しいBingを発表しました。発表以来、Bingへの関心は劇的に高まり、刷新された検索エンジンのプレビュー版を試すために何百万人もの人が登録しました。マイクロソフトによると、このAIツールが一般の人々の手に渡ることで、多くの教訓が得られるとのことです。
テクノロジー大手の同社のブログ投稿には、新しい Bing を発表し、テスターに展開して以来同社が学んだ教訓が列挙されている。
新しいBingのテストでは、結果はまちまちでした。マイクロソフトは、検索エンジンの要約された回答に対する肯定的なフィードバックを報告しました。この種の回答に対するユーザーからのフィードバックの71%が肯定的であると評価されました。
チャット機能は好評を博しています。Microsoftは、Bingとの新しいやり取り方法に対して「健全なエンゲージメント」が得られたと報告しています。しかし残念ながら、このチャット機能は、チャットボットがユーザーへの愛を告白したり、相手が嘘をついていると非難したり、同じフレーズを繰り返したりするなど、懸念すべき反応も引き起こしています。
マイクロソフトはこれらの問題を認識しており、AI を一般の人々の手に渡すことが人工知能モデルの教育において重要な部分であると述べています。
「ユーザーエクスペリエンスがこれまで誰も見たことのないようなこのような製品を改善する唯一の方法は、皆さんのような人々に製品を使ってもらい、皆さんがやっていることと全く同じことをしてもらうことです」とマイクロソフトは述べた。
「私たちは、これをコミュニティと共にオープンに構築する必要があることを理解しています。これはラボだけで完結できるものではありません。皆さんが価値を感じていること、感じていないこと、そして製品の動作に関してどのようなご希望をお持ちなのかについてのフィードバックは、開発の初期段階において非常に重要です。」
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
新しいBingの弱点がいくつか指摘されています。例えば、スポーツのスコアなど、タイムリーなデータの更新が追いつかないといった点です。私自身も、パトリック・マホームズがスーパーボウルで1回優勝したとBingが2回優勝したと表示した際に、この問題に遭遇しました（マホームズは前夜に2回目の優勝を果たしていました）。
マイクロソフトはこの分野でBingを強化する計画で、「モデルに送信するグラウンディングデータを4倍に増やす」予定です。また、Bingの精度を創造性重視にするか、精度重視にするかを切り替える機能も検討しています。
マイクロソフトは、チャット機能を長時間使用すると、同じ回答や不適切な返信が返ってくる可能性があることを発見しました。多くのユーザーから、この種の問題がオンラインで報告されています。マイクロソフトは、これらの問題が発生する理由について、以下のように説明しています。
- チャットセッションが非常に長いと、モデルがどのような質問に答えているのか混乱する可能性があるため、コンテキストを簡単に更新したり、最初からやり直したりできるツールを追加する必要があると考えています。
- モデルは、質問された時の口調に合わせて返答したり、返答を反映させたりすることで、意図しないスタイルにつながることがあります。これは容易ではないシナリオであり、多くの指示が必要となるため、ほとんどの方は遭遇することはありませんが、よりきめ細かな制御を可能にする方法を検討しています。
マイクロソフトは、航空券の予約や電子メールの送信など、Bing 向けに検討している新機能についても簡単に説明した。
Windows Centralの見解
新しいBingがプレビュー段階にある現在、この検索エンジンへの関心はかつてないほど高まっています。マイクロソフトは問題への対応において、より先手を打つ必要があります。AIは、正しくトレーニングされていれば、飛躍的に進化します。しかし、新しいBingが実際の使用状況から学習する間、マイクロソフトはフィードバックに積極的に対応する必要があります。
マイクロソフトがブログ記事を共有し、フィードバックへの感謝を表明したことは、明るい兆しです。マイクロソフトが人々の懸念を認識し、その解決に取り組んでいることを示しています。今後数週間、数ヶ月で、検索エンジンに対する認識がどのように変化するかを見守る必要があります。人工知能全体と同様に、Bingを取り巻くニュースは急速に展開しています。
ChatGPTの競合であるBardの広告に誤りがあったことが発覚し、Googleの時価総額は1,000億ドル減少しました。同様の事実上の問題を抱えていたBingについては、Microsoftは同様の落とし穴や悪影響を回避するために、重点的に対策を講じる必要があります。
ショーン・エンディコットはWindows Centralのテクノロジージャーナリストで、Windows、Microsoftソフトウェア、AI、PCを専門としています。Windows 10と11からChatGPTのようなAIツールの台頭まで、主要なリリースを取材してきました。ショーンのキャリアはLumia 930から始まり、アプリ開発者との強いつながりを築きました。執筆活動以外では、アメリカンフットボールのコーチも務めており、チームの運営にMicrosoftのサービスを活用しています。ノッティンガム・トレント大学で放送ジャーナリズムを学び、X（@SeanEndicott_）とThreads（@sean_endicott_）で活躍しています。