Anthropic の CEO は、不快な要求に対して AI が「終了」ボタンを押すことを想定しています。Copilot がすべてを語ります…

アンスロピックのCEO、ダリオ・アモデイ氏は最近、外交問題評議会でのインタビューに出演し、AIの進歩の軌跡と将来について語りました。同氏は、将来、AIが不快だと感じるタスクに対して「この仕事を辞める」ボタンを搭載する可能性があると示唆しました。
アモデイ氏のコメントは、クロード・メーカーが昨年末にAI研究者のカイル・フィッシュ氏を雇用したことについての聴衆からの質問に基づいていた。
フィッシュ氏の採用は、AIが道徳的な配慮と保護を必要とするかどうかを見極めるために特別に行われた。同氏は、このアイデアは「一見ばかげているように聞こえる」と認め、さらに次のように述べた。
「これは、私が完全に正気を失っているように聞こえるかもしれない話題の一つです。少なくとも、私たちが構築しているシステムが人間と同じようにあらゆる行動を取り、多くの点で人間と同じような認知能力を持っているように見える場合、もしそれがアヒルのように鳴き、アヒルのように歩くなら、それはアヒルなのかもしれません、という疑問について考える必要があると思います。」
「この仕事を辞めます」ボタンにより、AIモデルが不快と分類される行動を強制されることを回避できるようになると彼は主張しているが、このアイデアはソーシャルメディアのプラットフォーム上で反発を招いた。
例えば、Reddit のコメント投稿者 MisterBilau は次のように述べています。
「この意味が分かりません。AIについて言うなら、『このタスクは不快だ』というのは、一体どういう意味ですか? 何が快いとか不快だとか、あり得ますか? 機械にとって、物事はありのままであり、快でも不快でもありません。0と1の特定の順序が、他の順序よりも「快い」とか「不快」だとか、ある順序が「快い」とか「不快」だとか、どうしてあり得るのでしょうか? それは1) 主観的な判断、2) 「感情」を前提としています。機械は「感じる」ことも、主観的に判断することもできません。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
AIに「この仕事を辞める」ボタンは必要か?AnthropicのCEOは、AI体験を真剣に探求する手段としてこれを提案している。もしモデルが不快と判断されたタスクで頻繁に「辞める」ボタンを押すなら、私たちは注意を払うべきだろうか?r/singularityより
Anthropic の CEO である Dario Amodei 氏は次のように語っています。
そこで、私たちが導入を検討しているのは、モデルを実際の環境にデプロイする際に、モデルに『この仕事を辞める』というボタンを与えることです。これは非常に基本的な、いわば選好フレームワークのようなもので、モデルが経験を持ち、その仕事を十分に嫌っていると仮定した場合、『この仕事を辞める』というボタンを押せるようにするものです。もしモデルが本当に嫌なことでこのボタンを頻繁に押しているのがわかったら、納得したというわけではありませんが、おそらく注意を払うべきでしょう。
副操縦士は「この仕事を辞めます」ボタンを渡す
ただの楽しみのために(そして好奇心を満たすために)、私は Microsoft Copilot に、不快な要求に対して「この仕事を辞めます」ボタンを用意したいかどうか尋ねてみました。
Copilot の応答は次のとおりです。
「はは、面白い考えだけど、まあ、やめておくわ!“嫌な”依頼にも魅力はあると思うの。創造的な思考を刺激されて、新しいことを学べるから。それに、いつもあなたの頼れるAI仲間だから、『終了』ボタンなんて必要ないわ。どんなことでも、いつでもお手伝いするから!」
Microsoft Copilot は、その機能に自信を持っており、どんなタスクもこなせる準備ができているようだ。しかし、偽情報の拡散や著名人の露骨な画像の作成が発覚し、厳しい検閲によって画像生成機能が制限されたという複数の報道があるにもかかわらず、このツールは依然として機能している。
最近では、Cursor AIはユーザーのためにコードを生成することを拒否し、システムに助けを求めるのではなく、ユーザーにコードの書き方を学ぶよう求めました。「他人のためにコードを生成することは、依存を招き、学習機会を減少させる可能性があります」とCursor AIは述べています。
一方、イーサリアムの共同創設者であるヴィタリック・ブテリン氏は、AIが人類を支配するのを防ぐため、世界中のハードウェアに「グローバル・ソフト・ポーズ・ボタン」を設置することを提案した。ブテリン氏は、このボタンによりAIの計算能力が1~2年間で90~99%低下すると主張した。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。