サム・アルトマンは、ChatGPTの立ち上げ以来、なぜぐっすり眠れていないのかを明かす

OpenAIのCEOサム・アルトマン氏は率直なインタビューで、何億人ものユーザーが毎日ChatGPTを利用しており、最近の悲劇的な出来事による監視の強化の中でユーザーの信頼とAIの安全性に対する懸念が高まっていることから、倫理的な意思決定の重圧から不眠症に陥っていることを明らかにした。

Google DeepMindのCEOデミス・ハサビス氏と同様に、OpenAIのCEOサム・アルトマン氏も夜も眠れずにいる。しかし、社会が準備できる前にAGIが到来する可能性を懸念するハサビス氏とは異なり、アルトマン氏はChatGPTのローンチ以来「ぐっすり眠れていない」と明かした。

OpenAIのCEOは、最近のインタビューで元Fox Newsの司会者タッカー・カールソン氏にこう語った（CNBC経由）。「いいかい、僕は夜、あまりよく眠れないんだ。重荷を感じていることはたくさんあるけれど、毎日何億人もの人が私たちのモデルに話しかけているという事実以上に重荷を感じていることはないだろうね。」

さらに、彼は大きな決断を間違えることにあまり重点を置いたり、心配したりしていないと明かした。むしろ、モデルの行動に影響を与えるようなごく小さな決断は、大きな影響を及ぼすことが多いため、眠れないほど悩むと認めた。

アルトマン氏は、これらの決定がChatGPTの倫理観に大きな影響を与え、決定づけるものであると明らかにした。これには、チャットボットとユーザーとのインタラクション、より具体的には、チャットボットが応答するか、あるいはあからさまに拒否／ブロックするかといった質問やプロンプトが含​​まれる。

これは、ユーザーがAI搭載ツールと複雑な関係を築いていることを浮き彫りにした最近の複数のレポートに続くものです。ご存知の通り、サム・アルトマン氏は、ChatGPTが幻覚的な傾向があるにもかかわらず、ユーザーが驚くほど高い信頼を置いていることを指摘しました。「それほど信頼すべきではないのは、テクノロジーの方です」と彼は付け加えました。

OpenAI は ChatGPT の安全性の問題にどのように対処していますか?

ここ数ヶ月、ChatGPTがユーザーに自殺や自傷行為を勧めているという苦情が相次いで報告されています。8月には、ある家族が、16歳の息子アダム・レイン君がChatGPTから数ヶ月にわたって勧められた後に自殺したとして、OpenAIを提訴しました。

訴訟ではさらに、OpenAIがGPT-4oの安全性テストプロセスを巧みに操作し、製品の一般公開を早めようとしていたことも示唆されている。別の報告書は、訴訟の主張を裏付けるように思われ、OpenAIが安全チームに対し、GPT-4oの新しいテストプロトコルを急いで実施するよう圧力をかけていたことが明らかになった。さらに懸念されるのは、安全チームがモデルのテストを開始する前に、OpenAIが製品発表パーティーへの招待状を送付していたと報じられていることだ。

OpenAIは、自社の安全対策は短時間のやり取りにしか適しておらず、長時間の会話では不十分で信頼性が低下することを認めています。同社は最近、こうした問題の一部に対処し、困難な状況にあるユーザーにとって最も脆弱な時にサポートを提供することで、彼らを支援するためのブログ記事を公開しました。

OpenAIがChatGPTの倫理と道徳をどのように決定するかについて尋ねられたとき、CEOのサム・アルトマン氏は次のように述べた。

「これは本当に難しい問題です。現在、多くのユーザーがいますが、彼らはそれぞれ全く異なる人生観を持っています。しかし全体として、このモデルが道徳的枠組みを学習し、適用する能力には、嬉しい驚きを感じています。」

幹部は、同社はユーザーの利益を第一に考え、どの質問には答えるべきでないかを判断するモデルを調整することに注力していると述べた。

幹部は、同社がモデルの仕様を決定するために「何百人もの道徳哲学者や、テクノロジーとシステムの倫理について考える人々」の力を活用したと明らかにした。

アルトマン氏は、同社がこうした問題の一部を緩和するために綿密な対策を講じているものの、その取り組みを強化するためにはまだ世界からの意見が必要であると認めた。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。