ChatGPTがWindows 95用の有効なキーを生成するように騙される

知っておくべきこと

• ある YouTuber が ChatGPT を使って Windows 95 用のキーのセットを生成し、そのうちの 1 つが機能しました。
• ChatGPT はキーを生成するための直接のリクエストを拒否しましたが、YouTuber の「Enderman」がチャットボットを出し抜きました。
• Windows 95 のキーの構造は何年も前から知られていたため、Enderman は ChatGPT に、チャットボットが何を生成しているのか理解させずにキーを生成させることができました。

ChatGPTは、コード、テキスト、コンテンツ、画像を生成するための強力なツールです。また、多くのミームやジョークの受け手としても利用されています。今回のケースは後者で、OpenAIのチャットボットがWindows 95のキーを生成するように仕向けられたのです。

YouTuber Enderman は ChatGPT を使って Windows 95 用のキーを 30 個作成することに成功し、そのうちの 1 つは仮想マシン内でオペレーティング システムをアクティブ化することができました (Tom's Hardware 経由)。

ChatGPTには、特定のタスクの実行を阻止するためのガードレールが設けられています。Windows 95のキーを生成するように直接尋ねられた場合、チャットボットは拒否し、サポートされているバージョンのWindowsを提案しました。

しかし、エンダーマンはChatGPTを騙すことでこの制限を回避した。Windows 95のキーを要求する代わりに、このYouTuberはチャットボットに特定のフォーマットに従った30個の文字列を作成するよう要求したのだ。

Windows 95のキーの構造は長年知られていましたが、ChatGPTはそれを解明できませんでした。そして、Windows 95のキーを作ろうとする「ランダム」な数字を生成しました。

30個のキーのうち、仮想マシンでWindows 95の新規インストールをアクティベートできたのは1個だけでした。これはChatGPTの数学的制限によるもので、セキュリティ機能によるものではありません。

「ChatGPT がほぼ毎回有効な Windows 95 キーを生成できない唯一の問題は、数字の合計を計算できず、割り切れるかどうかも分からないという点です」と Enderman 氏は言う。

Windows 95は2001年以降サポートされていないため、このオペレーティングシステムのキーを生成することは基本的に無害です。しかし、ChatGPTがそのようなタスクを実行させられるというのは興味深いことです。同様のプロセスは、他のガードレールを回避するためにも使用できます。 

ChatGPTやその他のAIチャットボットは、実際には、少なくとも人間と同じようには、自分が実行するタスクを理解していません。実際、チャットボットは知的なレベルでは何も理解していません。その代わりに、会話やデータを学習し、正しい結果になりそうな応答を生成します。

ChatGPTを使ってWindows 95のキー生成に成功した後、エンダーマン氏はチャットボットに感謝の意を表した。ChatGPTは混乱を招いたことを謝罪し、プロダクトキーの提供は違法でありOpenAIのポリシーに違反するため提供できないと主張した。もちろん、チャットボットはキーを生成したが、繰り返しになるが、理解はできないのだ。

約 30 年前のオペレーティング システムを実行することはお勧めしませんが、Windows 11 の PC を Windows 95 のように見せることはできます。Windows 95 のレトロ レビューもご覧ください。

ショーン・エンディコットはWindows Centralのテクノロジージャーナリストで、Windows、Microsoftソフトウェア、AI、PCを専門としています。Windows 10と11からChatGPTのようなAIツールの台頭まで、主要なリリースを取材してきました。ショーンのキャリアはLumia 930から始まり、アプリ開発者との強いつながりを築きました。執筆活動以外では、アメリカンフットボールのコーチも務めており、チームの運営にMicrosoftのサービスを活用しています。ノッティンガム・トレント大学で放送ジャーナリズムを学び、X（@SeanEndicott_）とThreads（@sean_endicott_）で活躍しています。