元OpenAI研究者は、ChatGPTメーカーはAGIの実現に近づいている可能性があると主張しているが、安全性よりも派手な製品が優先されるため、「それに伴うすべてのことに対処する」準備ができていない。
知っておくべきこと
- OpenAIはスーパーアライメントチームのほぼ半数を失った。
- 元OpenAI研究者は、安全プロセスが後回しにされ、派手な製品に重点が置かれていることが、同社からの従業員の大量流出の原因だと考えている。
- 研究によれば、OpenAI は AGI (人工汎用知能) の実現に近づいているが、それに伴う課題には対応できないという。
ここ数ヶ月、多くのOpenAIスタッフが様々な理由でこのテクノロジースタートアップを去っています。最近では、OpenAIの共同創設者であるグレッグ・ブロックマン氏が年末まで長期休暇を取得すると発表し、研究者のジョン・シュルマン氏はAIアライメントに注力するため、同社を離れ、アンスロピックに入社することを発表しました。
AI企業からの著名幹部の大量流出は、サム・アルトマン氏が奇妙な形で解雇され、取締役会によってCEOに復帰した直後に始まった。その中には、OpenAIの元スーパーアライメントリーダーであるジャン・ライケ氏も含まれていた。ライケ氏は、安全性や敵対的耐性などについて社内幹部と何度も意見の相違が生じた後、退社したと述べている。ライケ氏はまた、安全対策が後回しにされ、派手な製品が優先されたと指摘した。
2023年初頭までOpenAIの研究員として働いていたダニエル・ココタジロ氏は、フォーチュン誌の取材に対し、OpenAIのスーパーアライメントチームの半数以上がすでに同社を去ったことを示唆した。「組織的な取り組みというわけではありません。ただ、個々人が諦めているだけだと思います」とココタジロ氏は付け加えた。
ご存知の通り、OpenAIの設立当初の使命は「汎用人工知能が全人類に恩恵をもたらすことを保証する」ことでした。しかし、同社はこの目標から逸脱し、現在は通常の営利企業となっています。
イーロン・マスク氏は、OpenAIが設立当初の使命を放棄したことを公然と批判し、「明らかな裏切り」と呼んだ。この億万長者は、同じ問題でOpenAIとサム・アルトマン氏を相手取って訴訟を起こしたが、今年初めに突然訴訟を取り下げた。興味深いことに、テスラのCEOであるマスク氏は、このAI企業に対し、組織犯罪への関与を理由に新たな訴訟を起こした。マスク氏の弁護士によると、「前回の訴訟は根拠が薄かった」という。
OpenAI は AGI に対応していますか?
OpenAIがAGIベンチマークの達成を目指して取り組んでいることは周知の事実ですが、その人類への影響についてユーザーの間で懸念が高まっています。あるAI研究者によると、AIが人類を滅ぼす確率は99.9%であり、この結末を阻止する唯一の方法は、そもそもAIを開発しないことだとのこと。
OpenAIはその後、同社の技術進歩が重要な安全性とセキュリティ基準を満たすことを保証するために、CEOのサム・アルトマンが率いる新しい安全チームを結成したが、製品開発とビジネスの商業面により重点を置いているようだ。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
興味深いことに、OpenAIは安全性調整チームを解散してから数ヶ月後、GPT-40のローンチを急ぎ、テスト開始前にイベントへの招待状を送付したと報じられています。同社は、安全性・調整チームがプレッシャーにさらされ、テストにほとんど時間が取れなかったことを認めています。
そのため、ここ数年で同社を去った多くの幹部やスタッフの根本原因を特定することは不可能であり、中にはスーパーインテリジェンスの安全性確保に注力するライバル企業を立ち上げた者もいる。ココタジロ氏は、この大量離職はOpenAIがAGIベンチマーク達成の瀬戸際にいるにもかかわらず、「それに伴うあらゆる課題に対処するための」知識、規制、そしてツールが不足していることに直接関係していると推測している。
一方、OpenAIは最近、技術がガードレールから逸脱するのを防ぐための安全プロトコルを導入することを目的としたスコット・ウィーナー上院議員によるAI法案の提案に連邦法の必要性を理由に反対した。
🎒新学期のお得な情報📝
- 🕹️Xbox Game Pass Ultimate (3 か月) | CDKeys で 29.99 ドル (20 ドルお得!)
- 🎧Sony WH1000XM5 ANC ヘッドフォン | Best Buy で $329.99 ($70 お得!)
- 💻HP Victus 15.6 ノートパソコン (RTX 4050) | Walmart で 599 ドル (380 ドルお得!)
- 💻Lenovo ThinkPad X1 Carbon | Lenovo で $1,481.48 ($1,368 お得!)
- 🎧Bose QuietComfort ANC ヘッドホン| Best Buy で 249.00 ドル（100 ドルお得！）
- 🎮 Seagate Xbox Series X|S カード (2TB) | Best Buy で 249.99 ドル (110 ドルお得!)
- 💻Dell Inspiron 14 Plus (Core Ultra 7) | Dellで799.99ドル (200ドルお得!)
- 🕹️Hi-Fi RUSH (PC、Steam) | CDKeys で 9.59 ドル (20 ドルお得!)
- 📺Dell UltraSharp 4K 32 モニター | Dell で $899.99 (300 ドルお得!)
- 🖱️Razer Basilisk V3 有線マウス | Best Buy で $47.99 ($22 お得!)
- 🖥️Lenovo ThinkStation P3 (Core i5 vPro) | Lenovo で $879.00 ($880 お得!)
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。