OpenAI はテストが始まる前から GPT-4o のローンチ パーティーへの出欠確認の返信を送っていたと伝えられており、安全チームにプレッシャーをかけていたようです…
知っておくべきこと
- OpenAI の GPT-4o のリリースは急いで行われたようで、安全チームにはモデルをテストする時間がほとんど残されていませんでした。
- 情報筋によると、OpenAIは安全チームがテストを実施する前に、製品の発売記念パーティーの招待状を送っていたという。
- OpenAIの広報担当者は、今回の打ち上げは同社の安全チームにとってストレスの多いものであったと認めたが、同社は製品の出荷に手抜きをしていなかったと主張している。
OpenAIはここ数ヶ月、厳しい批判にさらされており、元従業員数名が同社が安全プロセスよりも派手な製品を優先していると主張している。しかし、ChatGPTの開発元であるOpenAIは、これらの疑惑をすぐに覆すことはできないだろう。
最近、複数の従業員がOpenAIが徹底性よりもスピードを優先していたことを明らかにしました（ワシントン・ポスト紙経由）。情報筋によると、OpenAIの安全チームはGPT-4oの新しいテストプロトコルを急いで実施するよう圧力をかけられていたようです。
背景として、高度なAIツールは、悪意のある人物が悪用して危害を加える可能性のある抜け穴を特定するために、徹底的なテストプロセスを経ることが不可欠です。報道によると、OpenAIの幹部は、GPT-4 Omniの5月のリリース期限に間に合わせるため、安全チームに対し、新しいテストプロトコルを急いで実施するよう圧力をかけたとのことです。
情報筋によると、OpenAIは安全チームがテストを実施する前に、製品の発売記念パーティーの招待状を送付したという。「彼らは、打ち上げが安全かどうか確認する前に、打ち上げ後のパーティーを計画したのです」と情報筋は付け加えた。「私たちは基本的に、そのプロセスで失敗しました。」
OpenAIの広報担当者リンジー・ヘルド氏は、今回のリリースは安全チームにとって大きなストレスであったことを認めつつも、同社は「安全プロセスを手抜きしたわけではない」と述べている。ヘルド氏は、GPT-4oを広く利用できるように出荷する前に、徹底的なテストを実施したと主張している。
OpenAIの準備チームの代表者はヘルド氏の発言を裏付け、同社は規制上の義務を果たしたと述べた。しかし、代表者はテスト手順が厳しいスケジュールの中で行われたことを認めた。「OpenAIは現在、テストの実施方法全体を見直しており、Omniアプローチは最善の方法ではなかった」と代表者は付け加えた。
OpenAIにとって安全性は後付けの考えのようだ
別の報道によると、OpenAIの元スタッフ、ウィリアム・サンダース氏は、AI界のタイタニック号で働きたくないという理由で同社を去ったと主張している。「彼らは世界を変えるという軌道に乗っているのに、何かをリリースする際には、製品開発会社のような優先順位になっている。それが最も不安な点だと思う」とサンダース氏は付け加えた。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
サンダース氏の意見は、OpenAIの元調整責任者によって以前も繰り返されており、彼は同社の意思決定プロセスや、次世代モデル、セキュリティ、監視、準備、安全性、敵対的耐性などに関する中核的な優先事項について、経営陣と意見が合わなかったことを認めていた。ChatGPTの開発元であるOpenAIの意思決定と、安全性よりも派手な製品を優先したことが、OpenAIの安全担当チームの大量退職につながった。
OpenAIの長期計画はAGIの実現です。しかし、現状では容易ではありません。一方で、AIの膨大なリソース要求は、OpenAIにとって不利な状況を生み出しています。ご存知の通り、OpenAIはChatGPTの運用維持に1日あたり最大70万ドルを費やしています。これは、高い水と電力需要に加えて発生する費用です。
一方で、AIが人間よりも賢くなり、仕事を奪い、最終的には人類を滅ぼしてしまうのではないかという懸念もあります。OpenAIの関係者とAI研究者による最新のp(doom)値によると、AIが人類を滅ぼす可能性は99.9%です。
ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。