AIスロップがMediumに溢れている

AI のゴミは、人々がオンラインで投稿するあらゆる主要プラットフォームに流れ込んでいます。Medium も例外ではありません。

12年の歴史を持つこの出版プラットフォームは、長年にわたり目まぐるしいほどの事業転換を行ってきました。そしてついに業績は回復基調に入り、今夏には初めて月間黒字を達成しました。MediumのCEO、トニー・スタブルバイン氏をはじめとする幹部たちは、このプラットフォームを「人間による執筆の拠点」と表現しています。しかし、ロボットブロガーもこのプラットフォームにますます集まってきているという兆候も見られます。

今年初め、WIREDはAI検出スタートアップのPangram LabsにMediumの分析を依頼した。同社は6週間にわたる274,466件の最近の投稿をサンプリングし、47%以上がAI生成の可能性が高いと推定した。「これは、インターネットの他の部分で見られる数倍も大きい数字です」とPangramのCEO、マックス・スペロ氏は述べている。（同社が今夏、世界中のニュースサイトを1日分分析した結果、AI生成の可能性が高い投稿は7%だった。）

Mediumに溢れる雑多なコンテンツは、特にFacebookを賑わせるダダイズム的な雑多なものと比べると、陳腐なものになりがちだ。シュリンプ・ジーザスのような人物ではなく、仮想通貨に関する空虚な論評が目立つ。AI生成コンテンツである可能性が最も高いタグには「NFT」が含まれていた。パングラムの調査によると、過去数ヶ月間にこのフレーズがタグ付けされた記事5,712件のうち、4,492件（約78%）がAI生成の可能性が高いと判断された。また、「web3」「イーサリアム」「AI」、そしてどういうわけか「ペット」も含まれていた。

WIREDは、AI検出スタートアップ企業であるOriginality AIに独自の分析を依頼した。同社は2018年のMedium投稿をサンプルとして分析し、今年のサンプルと比較した。2018年には、AI生成の可能性が高いと推定された投稿は3.4%だった。CEOのジョン・ギルハム氏によると、この割合は同社の誤検出率に相当するという。当時はAIツールが広く普及していなかったためだ。2024年については、今年公開された473件の記事をサンプルとして分析した結果、40%強がAI生成の可能性が高いと推定された。OriginalityとPangramは、互いの分析結果を全く知らないまま、AIコンテンツの範囲について同様の結論に達した。

この記事のためにWIREDから連絡を受け、AI検出分析の結果を知らされたスタブルバイン氏は、MediumにAIの問題があるという前提を否定した。「結果の重要性、そしてこれらの企業が何かを発見したという考え自体に異議を唱えます」と彼は述べている。

スタブルバイン氏は、Medium で AI 生成記事が大幅に増加していることを否定していない。「おそらく、Medium に投稿される AI 生成コンテンツは、今年初めから 10 倍に増えていると思います」と彼は言う。また、プラットフォーム上に AI 生成コンテンツが投稿されることに対しては、一般的に敵対的なアプローチをとっている。「私たちは AI コンテンツに強く反対しています」。しかし、彼は問題の範囲を評価するために AI 検出器を使用することに反対しており、その理由の 1 つは、AI が完全に生成した投稿と AI がより軽微に使用された投稿を AI 検出器が区別できないと主張していることだ。(「それは正確ではありません」とスペロ氏は言い、パングラムは確かにプロンプ​​トから生成された ChatGPT の投稿と、AI のアウトラインに基づいて人間の文章で肉付けされた投稿を区別できると主張している。)

スタブルバイン氏によると、Mediumは複数のAI検出器をテストしたが、どれも効果がないと判断したという。（スタブルバイン氏はまた、パングラム・ラボが「報道を通じて」彼を脅迫しようとしたと非難した。パングラムのCEOであるスペロ氏が、WIREDが依頼した分析結果を詳述したメールを送り、その後Mediumにサービス提供を申し出たからだ。「ただ、彼らを助けられると思っただけです」とスペロ氏は述べている。）

AI検出ツールには確かに欠陥があります。テキストを分析して予測を行うため、誤検知や誤検知が生じる可能性があります。AIを欺くための新たなツールが登場している今、個々の文章や芸術作品を判断する際にAI検出ツールを使用する際には注意が必要です。しかしながら、特定のプラットフォームやウェブサイトにおけるAI生成コンテンツの量の変化を測るバロメーターとしての有用性はあり、研究者、ジャーナリスト、そして一般の人々がパターンを見つけるのに役立ちます。

「AI検出器は正確ではあるものの完璧ではないため、特定のコンテンツがAIによって生成されたものかどうかを断言することは不可能です」とギルハム氏は語る。「しかし、AIライティングがMediumのようなプラットフォームを席巻するトレンドを見抜く力は優れています。」

この傾向に気づいた人たちもいる。「AIが生成した新しいニュースサイトを定期的にチェックしていると、Mediumで毎週のようにAI生成コンテンツに遭遇します」と、オンライン誤情報追跡会社NewsGuardの編集者、マッケンジー・サデギ氏は言う。「そのほとんどは暗号通貨、マーケティング、SEOに関するものだと分かりました」

スタブルバイン氏は、これらの数字はMediumの読者の体験を正確に反映していないと断言する。「それは問題ではありません」と彼は言う。「Mediumに投稿された生のフィードにアクセスできたとしても、実際に何が推奨され閲覧されたかというアクティビティを反映しているわけではありません。これらのトピックの生のフィードで検出可能なAI生成記事の大部分は、既に閲覧回数がゼロです。ゼロ閲覧が目標であり、それを実現するシステムは既に存在します。」彼は、Mediumは汎用スパムフィルタリングシステムと人間によるモデレーションを組み合わせることで、AIの不備を効果的に抑制していると考えている。

AI生成のコンテンツを大量に投稿しているように見えるアカウントの多くは、実際には読者がごくわずか、あるいは全くいないようです。例えば、Pangram Labsによって仮想通貨に関するAI生成と思われる投稿の投稿者としてフラグ付けされたあるアカウントは、1日に6回投稿しましたが、いずれの投稿にも反応がなく、影響はごくわずかでした。フラグ付けされた他の投稿は最近削除されたようです。自主的に削除されたものもあれば、公開から数日または数週間後にMediumによって削除されたものもある可能性があります。Stubblebine氏によると、Mediumはシステムを悪用しようとする「スパムグループ」を特定した場合、スパムの削除を意図的に遅らせることがあります。

しかし、すべての記事が閲覧数ゼロだったわけではない。WIREDの調査によると、パングラム、オリジナリティ、そしてAI検出企業リアリティ・ディフェンダーによってAI生成の可能性が高いとフラグ付けされた他の記事には、他のプラットフォームにおける「いいね！」に相当する「拍手」が数百件寄せられており、少なくとも読者数はゼロよりはるかに多かったことが示唆されている。

スタブルバイン氏は、Mediumの品質管理におけるアプローチの要は人間だと考えている。「Mediumは現在、基本的に人間によるキュレーションで運営されています」と彼は言う。彼は、Mediumの出版物には9,000人の編集者がおり、「ブースト」やより広く配信できる記事については、人間による追加的な評価も行っていると指摘する。「厳密に言えば、AIをフィルタリングしていると言えるでしょう。しかし、それ以上の目標があります。それは、質の低い記事をフィルタリングしようとしているだけなのです。」

Mediumは今年、AIポリシーを更新し、ロボットブロガーの存在を抑制する措置を講じました。この姿勢は、LinkedInやFacebookなど、AIの利用を明示的に推奨する他のプラットフォームとは大きく異なります。Mediumは、AIによる記事をパートナープログラムで有料配信したり、Boostプログラムから人間によるキュレーションによるより広範な配信を受けたり、アフィリエイトリンクを宣伝したりすることを許可しなくなりました。公開されたAIによる記事は一般配信されますが、非公開のAIによる記事は「ネットワーク」配信のみとなり、つまり、その記事をフォローしているユーザーのフィードにのみ表示されます。MediumはAI生成記事を「コンテンツの大部分がAIライティングプログラムによって作成され、編集、改善、事実確認、変更がほとんどまたは全く行われていない記事」と定義しています。Mediumには、これらの新しいルールを施行するためのAI固有のツールはありません。「既存のキュレーションシステムには、AI生成記事も質の低い記事であるという理由だけで、AI生成記事を除外してしまうという副作用があることがわかりました」とスタブルバイン氏は述べています。

Mediumのライターや編集者の中には、プラットフォームのAIへのアプローチを称賛する声もある。Medium最大のポップカルチャー系出版物「Fanfare」を創設したエリック・ピアース氏は、AIが生成した投稿をほとんど排除する必要がなく、Mediumのブーストプログラムのキュレーターが、プラットフォーム上の人間の執筆作品の優れた部分を際立たせていると考えている。「ここ数ヶ月、Mediumで読んだ記事で、AIが作成したと匂わせるものは一つも思い浮かびません」と彼は言う。「インターネットが自滅しようと躍起になっている中で、Mediumはますます正気の砦のように感じられるようになってきました」

しかし、他のライターや編集者は、現在でもプラットフォーム上にAI生成の文章が大量に存在していると考えている。複数の出版物を編集するコンテンツマーケティングライターのマーカス・ミュージック氏は、AI生成と思われる記事が拡散したことを嘆く投稿を投稿した。（リアリティ・ディフェンダーは問題の記事を分析し、99％が「操作されている可能性が高い」と推定した。）この記事は1万3500件以上の「拍手」が寄せられており、広く読まれているようだ。

ミュージック氏は、読者としてAIコンテンツの可能性を見抜くだけでなく、編集者としてもAIコンテンツに頻繁に遭遇すると考えている。AIを使っている疑いがあるため、毎月約80%の寄稿者を却下しているという。ミュージック氏はAI検出器を「役に立たない」と呼び、使用せず、自身の判断に頼っている。

MediumにはAI生成と思われるコンテンツが大量に存在することは注目に値するが、プラットフォームが直面するモデレーションの課題、つまり良質なコンテンツをいかにして浮き彫りにし、不要なコンテンツを排除するかという課題は、Web全体を常に悩ませてきた問題だ。AIブームは、この問題をさらに深刻化させた。例えば、クリックファームは長年問題となっていたが、AIはSEOに執着する起業家たちに、AIのゴミコンテンツでゾンビメディアを急速に復活させる手段を与えた。YouTubeには、一攫千金を謳うチュートリアルを作成し、Facebook、Amazon Kindle、そしてもちろんMediumといったプラットフォームでAIゴミコンテンツを作成するよう他者に促す、いわゆる「ハッスルカルチャー」と呼ばれるサブジャンルが存在する。（見出しの例：「1クリックAI SEO Medium帝国🤯」）

「Mediumは今、インターネット全体と同じ状況にあります。AIコンテンツは生成速度が速いため、どこにでも存在するからです」と、剽窃コンサルタントのジョナサン・ベイリー氏は言う。「スパムフィルターや人間のモデレーターなど、おそらくMediumが持つ最高のツールでしょう。」

スタブルバイン氏の主張は、プラットフォームに大量のゴミが含まれていても必ずしも問題ではなく、良質な文章を効果的に拡散し、そのゴミの拡散範囲を制限できればよいというものであり、AIによるゴミを完全に排除しようとする試みよりも現実的であると言えるだろう。彼のモデレーション戦略は、おそらく最も賢明なアプローチと言えるだろう。

また、これは「インターネットの終焉」理論が実現する未来を示唆している。かつてはオンライン上で陰謀論を唱える人々の独壇場だったこの理論は、インターネットの大部分には実在の人間や人間が作成した投稿がなく、AIが生成した雑多なコンテンツやボットで溢れていると主張している。生成型AIツールが普及するにつれ、ボットの排除を諦めたプラットフォームは、AIに圧倒されたプラットフォーム上で人間が作成した作品がますます見つけにくくなるオンライン世界を育むことになるだろう。