サム・アルトマンは、OpenAIの安全プロセスが「派手な製品」のために後回しにされていたように見えたことを受けて、安全プロセスの優先順位を見直した。

知っておくべきこと

• OpenAIのCEOサム・アルトマン氏は最近、同社の新たな安全性アップデートについて強調した。
• ChatGPT のメーカーは、コンピューティング リソースの最大 20% を安全プロセスに割り当てます。
• 同社は「AI評価の科学を前進させる」ため、米国AI研究所に次世代モデルへの早期アクセスを提供する予定だ。

OpenAIのCEO、サム・アルトマン氏は、同社の安全対策に関する新たな方針を発表した。同氏は、ChatGPTの開発元である同社は約束を守っており、コンピューティングリソースの最大20%を技術スタック全体の安全対策プロセスに割り当てる予定であると述べた。

さらに、アルトマン氏は、OpenAIが米国AI安全研究所と緊密に協力しており、「AI評価の科学を前進させる」ために同研究所に次世代モデルへの早期アクセスを許可することに同意したことを明らかにした。

そして最後に、最高経営責任者は、OpenAI の全従業員 (現職および元職) に対し、会社の進路と製品開発に関する懸念を公然と表明するよう求めています。

🔥今最もホットなトレンドのセール🔥

• Seagate Xbox拡張カード（2TB） |359.99ドルベストバイで現在249.99ドル
• Xbox Game Pass Ultimate（3ヶ月）| 以前 49.99ドル CDKeysで今なら29.89ドル
• Alienware 34 曲面QD-OLEDモニター | 以前の 899.99ドル Dellで現在699.99ドル
• HP Victus ゲーミングノートパソコン (RTX 4050) |以前979ドルウォルマートで599ドル

OpenAI は「より安全」かもしれないが、それで十分だろうか?

生成型AIは人類の終焉をもたらすのか？AIは安全でプライバシーは守られるのか？OpenAI、Microsoft、Googleといった企業が先頭に立つ中で、AI技術が普及し、進化するにつれ、懸念を抱くユーザーの心に浮かぶ疑問は、こうした点に集約される。 

推論機能を備えた魔法のようなGPT-4oモデルをリリースしてから数日後、OpenAIは安全性とスーパーアライメントチームから数名のメンバーを失いました。元スタッフは、安全性、準備、監視など、次世代モデルの主要な優先事項について経営陣と絶えず意見が対立したため、ChatGPTの開発元であるOpenAIを退職したと明かしました。 

この職員は、OpenAIが派手な製品を優先し、安全プロセスが後回しにされていると述べ、同社の安全対策に関する重大な問題を提起した。同時期に、さらに多くの元OpenAI従業員が現れ、同社の事業運営に関する詳細な情報を開示し始めた。 

しかし、この暴露は長くは続かなかった。報告書によると、OpenAIの従業員は秘密保持契約と中傷禁止契約を結んでおり、退職後も会社やその運営方法を批判することを禁じられている。たとえ契約の対象であったことを認めることさえ、秘密保持契約違反とみなされる。 

このため、従業員は会社の運営について口を閉ざしたままでいるか、既得権益を失うリスクを負うかのどちらかだったようで、ある元従業員は OpenAI で働くのは AI 界のタイタニック号のようだったと述べている。 

サム・アルトマン氏は、この条項がOpenAIの非中傷条項の一部であったことを認めている。しかし、その後無効となっている。彼は、現従業員と元従業員に対し、会社の進路について懸念を表明するよう呼びかけ、「そして、既得権益はそのまま残るので、安心してそうしてほしい」と訴えている。 

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。