OpenAIの新しい「休憩リマインダー」は、ChatGPTへの過度な依存からユーザーを守ることを目指している

ChatGPTとの会話が長すぎると、休憩を促すプロンプトが表示される場合があります。OpenAIは、人気のチャットボットの健全な利用を促進するために、いくつかの機能を展開しています。

「しばらくチャットを続けていますが、休憩しても良いでしょうか？」というプロンプトが表示されます。ChatGPTは、長時間のセッション中にリマインダーを表示するようになりました。

ChatGPTは便利なツールですが、使いすぎると悪影響が出る可能性があります。研究によると、AIへの過度の依存は批判的思考力に悪影響を及ぼし、脳の萎縮や孤独感を引き起こす可能性があることが示されています。

こうしたリスクを考えると、OpenAI が ChatGPT の使用を制限するポリシーを導入するのは当然のことです。

OpenAI は、AI が他のテクノロジーよりもパーソナルで応答性に優れていることについて議論し、快適なチャットボットが肯定的なフィードバック ループに貢献できるという事実を示唆しました。

「私たちの4oモデルが妄想や感情的依存の兆候を認識できなかった例もあった」とOpenAIは述べた。

今年初め、このテクノロジー大手は、ツールがあまりにもユーザーフレンドリーすぎるという理由で ChatGPT を調整する必要に迫られました。

ChatGPTは現在、精神的または感情的な苦痛の兆候を検知し、適切な支援へと誘導するように訓練されています。OpenAIのCEO、サム・アルトマン氏は最近、ChatGPTをセラピストとして利用することがプライバシーの面で悪夢となる理由について論じました。

ChatGPT がセラピストのような役割を果たす時が来るかもしれませんが、現時点では、このツールはユーザーを証拠に基づくリソースに誘導することが理にかなっています。

ChatGPTに個人的な課題について相談すると、ツールは直接的な回答ではなく、質問をして長所と短所を比較検討するよう促すようになりました。OpenAIは、個人的な課題について質問された場合、「ChatGPTは回答を与えるべきではない」とまで述べています。

OpenAIは、メンタルヘルスの専門家の諮問グループを招集し、90人以上の医師と協力して、ChatGPTが精神的または感情的な苦痛の兆候を見つけて対応できるようにトレーニングしてきたことを明らかにした。

ChatGPTを恐れるべきでしょうか?

OpenAIのGPT-5は、非常に期待されているAIモデルです。アルトマン氏は数ヶ月前からGPT-5を絶賛してきましたが、同時にこの技術について警告も発しています。

アルトマン氏が「ちょっとダメ」と言ったGPT-4とは対照的に、GPT-5はより賢く、「非常に高速に感じる」と言われている。

しかし彼はまた、今月リリースされChatGPTや他のツールに統合される可能性のあるGPT-5をマンハッタン計画と比較した。

「科学の歴史には、科学者たちが自分たちの創造物を見て、『私たちは一体何を成し遂げたのか』と自問する瞬間がある」

アルトマンCEOはまた、AIの急速な発展が制御不能に陥る可能性についても警告した。「まるで大人が誰もいないようだ」と同CEOは語った。

アルトマン氏のコメントはマーケティング用語であり、「当社の価格は恐ろしいほど安いです！」と言っているセールスマンに似ていると例える人もいる。

それでも、AI の急速な発展は精神的および感情的な健康リスクをもたらし、それは ChatGPT の新しいプロンプトと休憩を促すリマインダーに反映されています。

ショーン・エンディコットはWindows Centralのテクノロジージャーナリストで、Windows、Microsoftソフトウェア、AI、PCを専門としています。Windows 10と11からChatGPTのようなAIツールの台頭まで、主要なリリースを取材してきました。ショーンのキャリアはLumia 930から始まり、アプリ開発者との強いつながりを築きました。執筆活動以外では、アメリカンフットボールのコーチも務めており、チームの運営にMicrosoftのサービスを活用しています。ノッティンガム・トレント大学で放送ジャーナリズムを学び、X（@SeanEndicott_）とThreads（@sean_endicott_）で活躍しています。