ChatGPTの背後にある人的コストはあなたが思っているよりも大きい

知っておくべきこと

• TIME誌は、サンフランシスコのSamaという会社がChatGPTの安全システムの構築にどのように協力したかを詳しく報じた。
• ケニアを拠点とするサマ社の従業員は、勤続年数や業績に応じて、1時間当たり約1.32ドルから2ドルの賃金を稼いでいたと伝えられている。
• サマ氏はその後、未知のOpenAIプロジェクトのために不適切な画像にラベルを付ける任務を負ったが、後に法的懸念から契約から撤退し、OpenAIとの関係を断った。
• この物語は、始まったばかりの AI 革命の背後にある人間の影響を強調し続けています。

TIME誌に掲載された複雑な記事では、ChatGPTを開発するOpenAIと、サンフランシスコに拠点を置くSana社（ケニアでSamaという従業員を雇用）の協力関係が取り上げられています。Sama社は、Google、Meta、Microsoftといったテック業界の大手企業と協力し、画像やテキストに含まれる不適切な表現をラベル付けする取り組みを行っています。

マイクロソフトはすでにOpenAIに10億ドルを投資しており、今後さらに100億ドルを投資する可能性があります。マイクロソフトはあらゆるものにAIを組み込む計画で、Bingと連携してChatGPTを活用すると報じられています。 

Samaはサンフランシスコに拠点を置いていますが、作業はケニアの労働者によって行われ、時給は約1.32ドルから2ドルです。残念ながら、ChatGPTをユーザーにとって「安全」に保つために、OpenAIはインターネットから大量のデータを入力する必要があり、それらはすべてフィルタリングされていません。そのため、OpenAI（およびMetaとFacebookのような企業）は、人間がすべての有害コンテンツをフィルタリングするのではなく、他のAIツールを用いてデータプールから自動的にコンテンツを削除しています。 

しかし、こうした安全ツールをトレーニングするには、コンテンツをインデックスしてラベル付けする人間が必要です。

2019年にThe VergeがFacebookで報じた、こうしたコンテンツが従業員に与える心理的影響を強調した記事と同様に、Samaの従業員も同様の運命をたどった。

OpenAIのテキスト読み取りとラベル付けを担当していたSamaの従業員の一人は、幼い子供の前で男性が犬と性交する生々しい描写を読んだ後、幻覚が繰り返し現れたとTIME誌に語った。「拷問のようでした」と彼は言った。「1週間ずっと、同じような記述を何度も読むことになります。金曜日になると、その絵について考えるのに支障が出ます。」この作業のトラウマ的な性質により、Samaは最終的に、予定より8か月早い2022年2月にOpenAI向けのすべての作業を中止しました。

サマ社との契約総額は20万ドルで、契約では「サマ社には作業に対して1時間あたり12.5ドルを支払う」と規定されていた。これは、同プロジェクトに携わるサマ社の従業員が1時間あたりに受け取る金額の6倍から9倍に相当する。

その後、サマはChatGPTとは無関係のOpenAI向け新プロジェクトのパイロットを開始しました。しかし今回はテキストではなく画像が使用され、児童性的虐待、獣姦、レイプ、性的奴隷、死と暴力など、米国法で違法とされるものも含まれていました。ここでも、作業員はコンテンツを確認し、ラベルを付ける作業を行い、OpenAIのシステムがそのようなコンテンツをフィルタリングできるようにしました。

しかし、Samaはその後すぐにOpenAIとの提携を全て中止した。同社は、コンテンツ（および法的問題）への懸念から中止したと述べている。しかし、従業員には、TIME誌が以前SamaとFacebookについて調査を行っており、ケニア人従業員がモデレーターとして起用されていたことが、同社への悪評を受けて方針転換を促したと伝えられている。

もちろん、OpenAI にとって Sama が不在の間も作業は継続する必要があり、他に誰がそれを行っているかは不明です。

Windows Centralの見解

残念ながら、Samaさんの事件は珍しいことではありません。Facebookのコンテンツモデレーションも数年前、同様の苦情に直面しました。モデレーターはサイトから削除するために、毎日恐ろしい画像を確認しなければなりませんでした。もちろん、その目的は人間をそのようなコンテンツにさらすことではなく、AIや機械学習（ML）に任せることです。しかし、これらのシステムを訓練するには、データの初期ラベル付けに人間が関与する必要があります。

もう一つの問題は、賃金への注目度です。1.32ドルは先進国ではひどい額ですが、ケニアのような新興国では事務員や教師の給与水準とほぼ同額で、かなり妥当な額です。TIME誌は、Sama社がOpenAIとの提携を打ち切ったにもかかわらず、同社の従業員が職を失っているとさえ指摘しています。同記事より：

「…テキストラベリングプロジェクトに携わっていたSamaの従業員の一人はこう語った。「私たちにとっては、家族を養う手段だと答えました。」約30人の従業員のほとんどは、月額70ドルの性的コンテンツボーナスなしで、より低賃金の別の仕事に異動させられ、他の従業員は職を失った。Samaは契約終了予定の8ヶ月前、3月に最後のラベル付きデータバッチをOpenAIに納品した。」

つまり、この問題は双方に影響を及ぼす。一方では、人間はそのようなコンテンツを毎日見る必要はない（サマ氏は従業員に心理的リソースを提供したと主張しているにもかかわらず）。他方では、何もしないよりはそうした仕事をしたい人もいる。

より重大な問題は、AIに将来性があるとすれば、これらすべてに代わる選択肢が明確ではないことです。残念ながら、少なくとも当初は、人間がこの訓練プロセスに参加する必要があります。それでもなお、そうした個人（そして社会全体）への影響は、計り知れない、あるいは無視できないものです。

ダニエル・ルビーノはWindows Centralの編集長です。ヘッドレビュアー、ポッドキャストの共同ホスト、そしてアナリストも務めています。このサイトがWMExperts（後にWindows Phone Central）と呼ばれていた2007年からMicrosoftを取材しています。彼の関心分野は、Windows、ラップトップ、次世代コンピューティング、ウェアラブル技術です。10年以上ラップトップのレビューを担当しており、特に2 in 1コンバーチブル、Arm64プロセッサ、新しいフォームファクター、薄型軽量PCを好んでいます。テクノロジー業界に携わる前は、言語学の博士号取得を目指し、ニューヨークで睡眠ポリグラフ検査を行い、17年間映画撮影技師として活躍していました。