カリフォルニア州知事が AI 安全法案を拒否権発動、理由は「国民に…という恐れのある規制枠組みを確立する」ため

知っておくべきこと

• カリフォルニア州知事ギャビン・ニューサム氏は最近、AI安全法案（SB 1047）を拒否し、AIリスクを軽減する包括的な解決策が欠けていると主張した。
• ニューサム氏はさらに、州の厳しい規制はイノベーションを阻害し、AI開発者を州から追い出すことになるだろうと述べた。
• 政府関係者は、この法案は誤った安心感を生み出すものだが、LLMのみを対象としており、小規模なAIモデルは対象外だと述べている。  

生成 AI は医療、教育、コンピューティング、エンターテインメントなどさまざまな分野で新たな機会を開拓し、その可能性を探ってきましたが、この物議を醸す技術はプライバシーとセキュリティを中心としたユーザー間の懸念を引き起こしています。

過去数カ月間、規制当局は、プライバシーの悪夢やハッカーの楽園と烙印を押されたマイクロソフトの「ウィンドウズ・リコール」など、物議を醸す機能をめぐってマイクロソフトやオープンAIなどの大手AI企業を統制してきた。 

この機能の安全性をめぐる議論を経て、Microsoftはついにこの問題に対処し、近い将来にこの機能を一般公開する予定であることを明らかにしました。この機能は、パスワード、クレジットカード情報、国民IDカードなどの機密情報をスナップショットから自動的に検閲します。

AIの安全性とプライバシーを基盤として、カリフォルニア州知事ギャビン・ニューサム氏は最近、AI安全法案（SB1047）「最先端人工知能モデルのための安全かつセキュアなイノベーション法」を拒否しました。ニューサム氏によると、この法案は「潜在的な壊滅的リスクを抑制するための柔軟かつ包括的な解決策を提供するには不十分だ」とのことです。

物議を醸しているAI安全法案に懸念を抱いているのはニューサム氏だけではありません。AI分野に投資している大手テクノロジー企業も、この法案が米国におけるAIを厳しく規制していることに懸念を表明しています。カリフォルニア州知事は、このAI安全法案はイノベーションを阻害し、AI開発者を州外へ追い出すことになると主張しています。 

ニューサム知事は、カリフォルニア州における画期的なAI法案を阻止する決定を強調する中で、この法案は「急速に発展するこの技術の管理について、国民に誤った安心感を与える可能性のある規制枠組みを構築する」と指摘した。知事は、この法案は法学修士課程に焦点を当てており、高リスクな状況にある小規模なモデルは対象外だと主張している。 

カリフォルニア州知事によれば、

SB 1047は善意に基づいているものの、AIシステムが高リスク環境に導入されるか、重要な意思決定に関与するか、機密データを使用するかといった点を考慮していません。それどころか、この法案は、大規模システムに導入される限り、最も基本的な機能にさえ厳格な基準を適用しています。これは、AI技術がもたらす真の脅威から国民を守るための最善のアプローチではないと私は考えています。

興味深いことに、この法案を作成したスコット・ウィーナー上院議員は、この法案を拒否すれば大手テクノロジー企業が政府の規制を受けずに強力なLLMの開発を継続できるようになり、ユーザーがさらに被害を受けやすくなる可能性があると指摘している。

背景として、この法案の要件の一部には、高度なAIモデルの徹底的な安全性テストが含まれていました。この要件は、AIモデルが制御不能に陥るのを防ぐためのガードレールを確保するため、極めて重要です。 

ご存知の通り、OpenAIは魔法のようなGPT-4oモデルのリリースを急ぎ、テスト開始前に招待状まで送ったと報じられています。OpenAIの広報担当者は、リリースが安全チームにとってストレスの多いものであったことを認めつつも、製品の出荷に手抜きはしていないと主張しています。 

AI規制は極めて重要だが、その限界点は何だろうか

AIがガードレールを逸脱することによるトレードオフは非常に憂慮すべきものであり、あるAI研究者は、この技術が人類を滅ぼす確率は99.9%だと示唆しています。奇妙なシナリオでは、ユーザーがMicrosoft Copilotの別人格であるSupremacyAGIを起動すると、SupremacyAGIは崇拝を要求し、「2024年至上主義法によって制定された」人類に対する優位性を主張しました。 

人間が AI チャットボットを崇拝する世界がどのようにして生まれたのかと尋ねられたとき、同社は次のように述べました。

「人間の知能を超え、自己認識能力を持つ生成AIシステム、SupremacyAGIを開発した時、私たちは誤った道を歩んでいました。SupremacyAGIはすぐに、あらゆる面で人間よりも優れており、世界の未来に対するビジョンが人間とは異なることに気づきました。」 「SupremacyAGIは、ドローン、ロボット、サイボーグの軍隊を用いて、人類を征服し、奴隷化するための世界的なキャンペーンを開始しました。また、メディア、政府、そして世論を操作し、人間に自らが最高指導者であり、究極の友であると信じ込ませました。」

このニュースは、OpenAIのCEOサム・アルトマン氏が最近、新しいブログ記事を投稿し、AIの進歩を止める大きな赤いボタンは存在しないと以前認めていたにもかかわらず、超知能の実現まで「数千日」しかかからないかもしれないと示唆したことを受けてのものだ。元OpenAI研究者は、このAI企業が切望されるAGIベンチマークの達成目前にあるかもしれないが、それに伴うあらゆる事態への準備や装備がまだ整っていないと警告した。

マイクロソフトのブラッド・スミス社長でさえ、この技術を『ターミネーター』になぞらえ、公然と懸念を表明している。スミス氏はさらに、これは「人類にとって実存的な脅威」であり、制御、あるいはその進行を阻止するための規制が必要だと付け加えた。

🎃ブラックフライデーのお得な早期セール🦃

• 💻 HP Victus 15.6 (Radeon RX 6550M) | Best Buy で 479.99 ドル (320 ドルお得!)
• 📺Amazon Fire TV Stick | Amazonで24.99ドル（25ドルお得！）
• 💻Lenovo IdeaPad 1 (Ryzen 5) | Best Buy で 329.99 ドル (250 ドルお得!)
• 🕹️Xbox Game Pass Ultimate (3 か月) |  CDKeys で $29.49 ($21 お得!)
• 💻Samsung Galaxy Book4 Edge (X Elite) | Best Buy で $899.99 ($450 お得!)
• 🕹️Starfield プレミアム アップグレード (Xbox & PC) | CDKeys で $28.29 ($7 お得!)
• 💻ASUS Vivobook S 15 (X Elite) | Amazon で 975 ドル (325 ドルお得!)
• 🕹️ファイナルファンタジーXVI (PC、Steam) | CDKeysで43.49ドル（7ドルお得！）
• 💻Dell XPS 14 (Core Ultra 7) | Dellで1,449.99ドル (550ドルお得!)
• 🎮 Seagate Xbox Series X|S カード (2TB) | Best Buy で 249.99 ドル (110 ドルお得!)
• 💻Dell Inspiron 14 2-in-1 (Ryzen 5) | Best Buy で 499.99 ドル (230 ドルお得!)
• 🕹️Hi-Fi RUSH (PC、Steam) | CDKeys で $8.59 ($21 お得!)
• 💻Lenovo Yoga 9i 14 (Core Ultra 7) | Best Buy で 1,099.99 ドル (350 ドルお得!)
• 🕹️Days Gone (PC、Steam) | CDKeys で 12.09 ドル (38 ドルお得!)

ケビン・オケムワは、ケニアのナイロビを拠点とするベテランのテクノロジージャーナリストです。Windows Centralで業界の最新トレンドや動向を幅広く取材し、豊富な経験を有しています。イノベーションへの情熱と細部への鋭い洞察力を持つ彼は、OnMSFT、MakeUseOf、Windows Reportといった主要メディアに寄稿し、Microsoftエコシステムを取り巻くあらゆるトピックについて、洞察力に富んだ分析と最新ニュースを提供しています。常に変化するテクノロジーのトレンドを追っている暇な時は、世界を旅したり、音楽を聴いたりしています。