「AI のゴッドファーザー」の支持を受けた OpenAI の元従業員と現従業員 13 名が、… に向けた 4 つの重要な対策を概説します。

知っておくべきこと

• OpenAI の現従業員と元従業員は、AI のリスクを軽減する方法を取り上げ、提示する公開書簡 (AI のゴッドファーザーが支持) に署名しました。
• 措置の一部には、リスク関連の懸念を理由に企業への批判を制限する秘密保持契約（NDA）をAI企業が執行することを禁止することなどが含まれる。
• これは、退職する従業員に秘密保持契約書に署名させ、そうでなければ既得権益を失うリスクを負わせたとしてOpenAIが追放されたことを受けてのことだ。

5月、同社がスプリングアップデートイベントで「魔法の」新しい主力モデルGPT-4oを発表した後、スーパーアライメントリーダーのJan Leike氏を含む数名のOpenAI従業員が同社を去った。  

最高経営責任者（CEO）は、セキュリティ、監視、そして注目製品の優先順位付けをめぐる絶え間ない意見の相違が辞任の理由だと述べた。その結果、この話題のスタートアップにとって厄介な事態が勃発し、OpenAIの元取締役らはCEOのサム・アルトマン氏による精神的虐待事件を報告した。 

生成型AIをめぐっては、人類の終焉が間近に迫っているという懸念や、AIが人間の仕事を奪い、仕事が趣味になってしまうという懸念など、大きな懸念が存在します。OpenAI、Anthropic、DeepMindといった大手AI企業の現従業員と元従業員が、この技術に伴うリスクについて書簡を執筆しました（Business Insiderより）。

この書簡は、人類に差し迫った危険をもたらす可能性のある問題について内部告発者の保護を求めている。

私たちは、最先端AI企業の現従業員および元従業員であり、AI技術が人類に前例のない恩恵をもたらす可能性を信じています。同時に、これらの技術がもたらす深刻なリスクも理解しています。これらのリスクは、既存の不平等のさらなる固定化、情報操作や誤情報、そして自律型AIシステムの制御喪失による人類絶滅の可能性など、多岐にわたります。AI企業自身もこれらのリスクを認識しており、世界各国の政府やAI専門家も同様です。

この書簡には、大手AI企業の従業員13名が署名し、自称「AIのゴッドファーザー」のヨシュア・ベンジオ氏とジェフリー・ヒントン氏も賛同しています。OpenAIの元従業員であるダニエル・ココタジロ氏は、同社の価値観、特にAIの進歩における責任に希望を失ったため、同社を退職したと述べています。

「彼らや他の人たちは『早く動いて物事を壊す』というアプローチを受け入れているが、これはこれほど強力であまり理解されていないテクノロジーに必要なこととは正反対だ。」

AI の伝道師たちは、テクノロジーを悩ませている問題やリスクの一部に対処できる可能性のある次の 4 つの中核的な要求を強調しています。

1. 当社は、リスク関連の懸念を理由に当社を「中傷」または批判することを禁止するいかなる契約も締結または履行せず、また、リスク関連の批判に対して既得の経済的利益を妨げることで報復することもありません。
2. 会社は、現従業員および元従業員が会社の取締役会、規制当局、および関連する専門知識を持つ適切な独立組織にリスク関連の懸念を提起するための検証可能な匿名のプロセスを促進する。
3. 企業はオープンな批判の文化を支持し、企業秘密やその他の知的財産権が適切に保護されている限り、現従業員および元従業員が自社の技術に関するリスク関連の懸念を一般の人々、企業の取締役会、規制当局、または関連する専門知識を持つ適切な独立組織に提起できるようにします。
4. 他のプロセスが機能しなかった後にリスク関連の機密情報を公表した現従業員および元従業員に対し、当社は報復措置を取らないものとします。リスク関連の懸念を報告する際には、機密情報を不必要に公開しないよう努めるべきです。したがって、取締役会、規制当局、および関連する専門知識を有する適切な独立機関に匿名で懸念を表明するための適切なプロセスが存在する限り、当社は、当初はそのようなプロセスを通じて懸念を表明すべきであると考えています。しかし、そのようなプロセスが存在しない限り、現従業員および元従業員は懸念を公に報告する自由を保持すべきです。

これは、OpenAIが退職する従業員に秘密保持契約（NDA）への署名を強制し、会社を批判したり既得株式を失うリスクを回避したりしたと報じられたことを受けてのことだ。OpenAIのCEO、サム・アルトマン氏は、この事態を恥ずかしく思ったと認めたが、同社が従業員の既得株式を回収したことは一度もないと述べた。

OpenAIの広報担当者はBusiness Insiderの取材に対し、この技術をめぐる議論は重要であり、極めて重要な点を提起していると述べた。そのため、OpenAIは関連団体と緊密に連携し、「最も有能で安全なAIシステムを提供し続ける」ことで、これらのリスクに対処するための科学的アプローチを強化していくとしている。

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。