CNETが証明：現在のAI技術はあなたよりも愚かだ

Howero
abmhh
0 comments

（画像提供：DALL-E）

知っておくべきこと

ニュースメディアCNETは、名前を明かさないAIエンジンを使って生成された約75件の記事を公開した。
別の出版物であるFuturismは先週、CNETによるAIの利用について報じた。
Futurism による続報記事では、人間の編集スタッフが査読したとされているにもかかわらず、AI によって生成された CNET の記事に現れたいくつかの間違いが指摘されました。

Futurismによる最近の2つの記事は、人工知能の弱点を浮き彫りにしました。ニュースメディアCNETは、正体不明のAIツールを使って約75件の記事を生成していました。この事実はFuturismによって先週取り上げられ、ウェブ上で議論を巻き起こしました。CNETが事前にプログラムを開示していなかったこと、そしてボットによって作成された各記事の開示が当初は非公開だったことが、主な批判の一つでした。

Futurismの報道を受けて、CNET編集長のコニー・グイリエルモ氏は、AIを活用した記事作成に関する記事を掲載しました。その後、CNETは「CNET Money Staff」という署名を「CNET Money」に変更するなど、様々な変更を加えました。

グリエルモ氏は、AIが生成した記事はすべて「編集者」、具体的には人間の編集者によって「査読、事実確認、編集」されていると主張した。しかし、この免責事項にもかかわらず、問題がシステムを通過してしまった。

CNET の新しい AI には、事実関係に関する少なくとも 4 つの失言が確認されました。

続編の記事で、FuturismはCNETの複数の記事における誤りを指摘しました。以下はその一例です（強調はFuturismによるものです）。

複利を計算するには、次の式を使用します。

初期残高（1+金利/複利期間数）^期間あたりの複利回数×期間数

たとえば、 年利 3% の複利が付く普通預金口座に 10,000 ドルを預け入れると、1 年目の終わりには 10,300 ドルの利息が得られます。」

Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。

CNETの元の記事で共有されていた財務データは、Futurismが指摘したように誤りです。記載されている例では、初年度の収入は10,300ドルではなく300ドルとなります。これは大きな違いであり、人間のライターや編集者であればおそらく見抜くことができたでしょう。

この記事はその後更新されましたが、アーカイブ版ではエラーが表示されています。

Futurismの記事は、人工知能の多くの弱点を浮き彫りにしています。特に注目すべきは、AIはしばしば、内容が事実に基づいているかどうかに関わらず、権威あるように聞こえるような文章を生成することです。また、AI支援による文章にも事実誤認が含まれる可能性があることも示唆しています。

Windows Centralの見解

人工知能がいつかニュース記事を生成できるようになることは間違いありません。実際、Futurism誌は、AP通信が2015年からAIを使って記事を作成していることを取り上げています。しかし、それらの事例ではAIはテンプレートを埋め込むために使われただけで、全く新しいテキストを作成するものではありませんでした。

何千本ものニュース記事を書いてきた者として、一部の記事は型にはまったものになっていることを率直に認めます。変更履歴を含むアプリのアップデートやWindows 11のパッチ火曜日のアップデートに関する記事は、おそらくAIツールで生成できるでしょう。しかし、厳格なパラメータに当てはまらないコンテンツには、少なくとも今のところは、人間の手による加筆が必要です。

人間であろうとなかろうと、完璧なライターはいないということを強調しておきたいと思います。私も確かに間違いを犯し、それに応じて記事を修正しなければなりませんでした。しかし、人間が間違いを犯した時には、責任感を持つ必要があると感じます。明らかな間違いのある原稿を共有した際に、上司からメッセージをもらったこともあります。また、長年にわたり、何人かの編集者に協力してもらい、文章を改善してもらったこともあります。

AIをコンテンツ作成に活用するのであれば、AIの落とし穴を避けるために厳重な監視が必要です。しかし残念ながら、CNETの記事の中には、そうした監視が行われていなかったものもありました。

ショーン・エンディコットはWindows Centralのテクノロジージャーナリストで、Windows、Microsoftソフトウェア、AI、PCを専門としています。Windows 10と11からChatGPTのようなAIツールの台頭まで、主要なリリースを取材してきました。ショーンのキャリアはLumia 930から始まり、アプリ開発者との強いつながりを築きました。執筆活動以外では、アメリカンフットボールのコーチも務めており、チームの運営にMicrosoftのサービスを活用しています。ノッティンガム・トレント大学で放送ジャーナリズムを学び、X（@SeanEndicott_）とThreads（@sean_endicott_）で活躍しています。