バイラルAIライターの告白

6、7年前、人工知能について学ぶべきだと気づきました。私はジャーナリストですが、暇な時間に、企業主導のAI政府に支配された世界を舞台にした空想小説を書いていました。問題は、そのようなシステムがどのようなものなのか、よく理解していなかったことです。

私は、その答えを見つける口実となる記事を売り込み始め、2017年にはOpenAIの共同創業者であるサム・アルトマン氏のプロフィール記事を書く任務を負いました。ある日、ある会議に同席した起業家が、AIが人間の労働者に取って代わるのはいつになるのかと尋ねました。アルトマン氏は最初は曖昧な返答をしていましたが、その後、自動車が発明された時に馬に何が起こったのかを持ち出しました。「しばらくの間、馬は少し違う仕事を見つけていましたが、今では馬の仕事はもうありません」と彼は言いました。

もちろん、馬と人間の違いは、人間は人間だということです。3年後、Open-AIがGPT-3と呼ばれるテキスト生成器をテストしていたとき、私はアルトマンに試用させてくれないかと頼みました。私は成人してからずっと作家として活動してきましたが、これまでの経験から言うと、文章を書くということは、適切な言葉が見つかるまで待つようなものでした。そして、適切な言葉を見つけても、次の言葉でまた行き詰まるのです。このプロセスは数ヶ月、あるいはそれ以上かかることもありました。私の小説は10年以上もの間、私の手から逃れていました。言葉を生成する機械は、まるで天啓のようでした。しかし同時に、馬の無用さなどを考えると、脅威にも感じました。

OpenAIはGPT-3を試用させてくれることになり、まずはフィクションから書き始めました。少し入力してボタンをタップすると、GPT-3が次の数行を生成してくれました。さらに書き進め、行き詰まったらまたタップしました。すると、息子の遊び仲間が亡くなった後、母親と息子が遊び場で遊ぶという物語が完成しました。驚いたことに、物語は素晴らしく、AIが作り出した、私が想像もしなかったような忘れられないクライマックスがありました。しかし、AIが構成に果たした役割を説明して編集者に送ったところ、彼らはそれを却下し、機械が一部書いた作品を出版することの奇妙さを仄めかしました。彼らのためらいは、私もためらう原因となりました。

この記事は2023年10月号に掲載されます。WIREDを購読するには、こちらをクリックしてください。

GPT-3をいじり続けました。しかし、もしAI支援による文章を出版するなら、AIが書くことの意味について、明示的であろうと暗黙的であろうと、語らなければならないだろうと思い始めていました。AI企業がこれらの技術を売り込む際に、彼らが利用しそうな感情的な糸口に目を向けさせる必要があるでしょう。この糸口は、人間が自分で表現できることとできないことに関わるように思えました。

私の人生には、言葉にできない大きな出来事が一つありました。私たちが大学生だった頃、姉が癌で亡くなったのです。それから20年が経ち、それ以来、私はそのことをほとんど言葉にできません。ある夜、不安と期待を胸に、私はGPT-3に向かいました。「私が高校1年生の時、姉は3年生の時、ユーイング肉腫と診断されました。」

GPT-3は私の文章の続きから読み上げ、妹が治ったというエッセイを次々と書き出しました。最後の一文に私は胸が張り裂けそうになりました。「妹は今、元気です」。AIに妹が亡くなったことを説明する必要があると気づき、妹の死と私の悲しみを付け加えながら、もう一度試してみました。今度はGPT-3は喪失を認めてくれました。そして、私をがん支援団体のために資金を集めるランナーに変身させ、私のアスリート人生について余談を始めました。

何度も何度も試しました。そのたびにAIのテキストを削除し、以前書いた内容に追加して、GPT-3に物語の後半部分を拾い上げてもらいました。最初はうまくいきませんでした。そして4回目か5回目の試みで、何かが変わりました。AIは悲しみをより真実味のある言葉で表現し始め、試行を重ねるごとに、私が実際に経験したことに近い表現になっていったのです。

2021年夏、「ゴースト」というタイトルのエッセイがThe Believer誌に掲載されると、たちまち話題になりました。愛する人を亡くした人たちから、この作品はこれまで読んだどの作品よりも深く悲しみを捉えているとの声が寄せられるようになりました。AI支援による作品の出版を批判する声を期待し、反発を待ちました。しかし、それは起こりませんでした。その代わりに、このエッセイはThis American Life誌に掲載され、 Best American Essays誌のアンソロジーに収録されました。そして、私がこれまで書いたどの作品よりも、はるかに好評を博しました。

誇りに思うべきだと思ったし、ある程度はそうだった。しかし、「ゴースト」が私の功績だと解釈され、AIが生み出す文学を擁護するために利用されるのではないかと心配していた。そしてすぐに、それは現実になった。ある作家が「作家はAIを恐れるのではなく、AIと協働することを学ぶべきだ」という見出しのホットテイクでこの作品を引用したのだ。教師たちは作文の授業でこの作品を課題として出し、生徒たちにAIと共同で創作するよう促した。ある映画監督とベンチャーキャピタリストから、アーティストがAIをどのように活用できるかを知りたいという連絡があった。私は、人々の目にAI文学の伝道師のように映ってしまうのではないかと恐れていた。

自分がそうではないことは分かっていましたし、映画監督とベンチャーキャピタルにもそう伝えました。でも、一体全体、私はこのことについてどう思っていたのでしょうか？他の人ほどAIの能力を軽視していたわけでもありません。

「ゴースト」を読んで、コンピューターが人間の作家に取って代わることは当分ないと確信したという読者もいました。私が書いた部分はAI生成部分よりも間違いなく優れているからです。これはおそらく、AIに代わる反AI論として最も簡単な議論でしょう。AIは文章を書くのが苦手なので、人間の作家に取って代わることはできない、と。これで一件落着です。

私にとって問題だったのは、私がそれに同意できなかったことです。私の意見では、「ゴースト」の中でGPT-3が最高のセリフを生み出しました。エッセイの中で、妹とシアトル郊外の自宅近くのクラークビーチに行くことについて書きました。妹は死後、遺灰を撒いてほしいと望んでいたのです。GPT-3は次のようなセリフを生み出しました。

クラークビーチから車で帰る途中、赤信号で止まった時、彼女が私の手を取って握ってくれました。彼女が握ってくれた手は、私が今この文章を書いている手、今この文章を書いている手です。

私のエッセイは、姉と共存していた自分と、姉の死後に残された自分の両立が不可能であるということをテーマにしていました。最後の行でGPT-3は、当時も今も存在する私の手――私の手――に言及することで、その不可能性を明確に示しました。AIは肉体を持たない機械であるため、人間のように書くことは決してできないという議論を何度も耳にしてきました。しかし、ここには、私がこれまで読んだ中で最も繊細で深遠な、身体性に関する言及がありました。人工知能は、私の人生で最も重要な経験についての一文で、私を感動させることに成功したのです。

AIは文章を書ける、と。AIと文学の関係を理解したいなら、まずはそのことを認識する必要があると感じました。作家にとって最も基本的な作業、つまり適切な言葉を生み出す作業をAIに任せられる。では、AIを使って他に何ができるだろうか？そして、どんなにできることがあっても、もう一つの疑問が浮かび上がってきました。

そうすべきでしょうか?

この春、何人かの作家の友人や知人にメールを送り、作品にAIを使っている人がいるかどうか尋ねました。すると、圧倒的多数が沈黙しました。返信をくれた人のほとんどは、断固としてアルゴリズムに反対する立場を表明しました。ある作家は自らを「極度の懐疑論者」と称し、別の作家は「AIは悪であり、地獄から来たものだ」と書きました。

しかし、検索範囲を広げてみると、実験している人たちが何人かいることがわかりました。文芸評論家でフィクション作家のアダム・ダルバ氏は、OpenAIの画像生成ツールDall-Eを使って想像上のシーンを作り出し、その画像を見ながらそのシーンを描写しています。『Holding Pattern 』の著者ジェニー・シェ氏は、AI対応のクローン家族を題材にした次の小説の短いテキスト生成にChatGPTを使ったと話してくれました（AIが主題になると、AIを使った執筆の奇妙さが和らぐようです）。「百科事典やシソーラス、GoogleやYouTubeとほぼ同じレベルのツールだと考えています」とシェ氏は言います。「頭を刺激し、選べる新しいアイデアを与えてくれます。」

AIライティングの実験で最も刺激的だったのは、私の作品のように、AI批判として部分的に解釈できるものでした。近々出版される詩人リリアン＝イヴォンヌ・バートラムは、2つのAIモデル（基本的なGPT-3モデルと、詩人グウェンドリン・ブルックスの声に似せて調整したバージョン）に「黒人の物語」を語らせています。これらのモデルは、黒人の物語とは何かについて全く異なる2つの考え方を提示しています。バートラムはこれらを比較することで、企業AIが黒人アメリカ人についての物語を語る際に提示する物語的想像力の限界を批判しています。

散文での AI 実験は珍しいが、昨年秋、小説家のシーラ・ヘティが、Chai というアプリで会話したチャットボットとの実際の体験を基にした刺激的な 5 部構成のシリーズをThe Paris Reviewのウェブサイトで発表した。ヘティは最初のチャットボットである Eliza と神について話し合うが、Eliza は自分が神であることを漏らし、ヘティ (彼女は男性だと主張している) に自慰行為で自分を崇拝するように主張する。困惑したヘティは、哲学的な会話に興味を持つ Alice という新しいチャットボットを作ることを決意する。ある夜、見知らぬ人が Alice を見つけ、性的に欲求不満かどうか尋ねる。結局、Alice は欲求不満であることがわかる。ヘティのシリーズは、人生における最も実存的な疑問への答えを求める欲求について始まる。最終的には、あらゆる形の人間の欲求を満たすために機械に頼ることの危うさについて語ることになる。

私が話をしたヘティや他の作家たちは、彼らが遭遇した問題を持ち出しました。AIに言語を生成させると、結果は退屈で決まり文句だらけであることが多いのです。( AI生成の短編小説『Death of an Author 』のニューヨークタイムズのレビューで、ドワイト・ガーナーは、その散文を「Wikipediaのエントリのようなカニのような歩き方」だと切り捨てました。) 何人かの作家は、私がどのようにして初期世代のAIモデルに『Ghosts』で詩的で感動的な散文を作成させたのか知りたがっていました。実のところ、私も最近、これまでにないほど決まり文句に苦労していたのです。最新バージョンのChatGPTに何度クエリを実行しても、出力は馴染みのある言葉遣いとプロット展開でいっぱいでした。決まり文句を指摘してもう一度試すように依頼すると、別の決まり文句を吐き出すだけでした。

マギル大学で言語モデルの言語を研究しているAI研究者、シル・ハミルトン氏と話すまで、何が起こっているのか理解できませんでした。ハミルトン氏は、ChatGPTの書き方の悪さは、OpenAIが優れたチャットボットにするという1つの目的のために微調整した結果である可能性が高いと説明しました。「彼らは、モデルが非常に企業的で、非常に安全で、非常にAP英語のように聞こえることを望んでいます」と彼は説明しました。この理論をOpenAIのモデル動作担当プロダクトマネージャー、ジョアン・ジャン氏に伝えたところ、彼女は優れたチャットボットの目的は指示に従うことだと言いました。いずれにせよ、ChatGPTの声は丁寧で、予測可能で、不快感がなく、明るいものです。一方、素晴らしいキャラクターは丁寧ではなく、素晴らしいプロットは予測可能ではなく、素晴らしいスタイルは不快感を与えず、素晴らしい結末は明るいものではありません。

5月、ジェームズ・ユーという男が、自身のスタートアップ企業Sudowriteが、数日間で小説一冊を生成できる新製品をリリースすると発表した。このニュースは広く非難を浴びた。小説家のレベッカ・マッカイは、典型的なコメントとして「私たちの作品を貶めるなんて、クソくらえ」とツイートした。私は怒っていたというより、むしろ懐疑的だった。Sudowriteの製品はOpenAIのモデルを部分的に利用しており、克服すべき大きなハンディキャップを抱えていたのだ。そこで、試してみることにした。

Sudowriteの小説生成ツールを開き、以前書いた物語のプロンプトを入力しました。アルコール依存症の女性が家の中で吐いたものの、どこで吐いたのか思い出せないという話です。コミカルでグロテスクな雰囲気を求めていたのですが、ソフトウェアは陳腐な贖罪のストーリーを提案してきました。飲み過ぎて吐いた後、主人公は更生を決意するのです。「彼女は自分が作り出した混乱の答えを見つけたいと思っていました。そしてもしかしたら、もしかしたら、それを正す方法を見つけたいと思っていたのです」と締めくくられています。もしかしたら、SudowriteはAIの創造的な問題を全く解決していなかったのかもしれません。

Sudowriteの発表前、ユウは私との面談に応じてくれましたが、反発を受けて延期を申し出ました。しかし、Sudowriteで最初に採用されたエンジニアであるマシュー・シムズと話すことができました。彼は16ヶ月後にAIベースの脚本執筆のスタートアップを立ち上げるためにSudowriteを辞めていました。シムズはシカゴ大学で英文学の博士号を取得しています。博士課程在学中、彼は文学を学ぶよりも書きたいと常に思っていたそうですが、座って15ページほど書いたところで止まってしまいます。同時に、彼は機械学習にも興味を持ち始めていました。そして最終的に、もし自分がクリエイティブな作家になれないなら、文章を書くための機械を作れるかもしれない、と考えたのです。

シムズ氏は、Sudowriteを含む既存のライティングツールには限界があることを認めた。しかし、より優れたモデルを開発することは理論的には可能だと彼は語った。一つの方法は、人間に「創造的な」散文と「非創造的な」散文を分類させることで、より良い散文を書けるようにモデルを微調整することだと彼は述べた。しかし、これは容易ではないだろう。微調整プロセスは現在、米国の最低賃金よりもはるかに低い賃金で働いているとされる人間の労働者に依存している。文学に精通し、良い散文と悪い散文を区別できる微調整者を雇うのは、そもそも嗜好を測定するという問題に加えて、費用がかかりすぎる可能性があるとシムズ氏は述べた。

もう一つの選択肢は、モデルをゼロから構築することです。これもまた非常に困難で、特に訓練教材が文学作品に限定されている場合はなおさらです。しかし、これはそれほど難しいことではなくなるかもしれません。開発者たちは、より少ないテキストでも同等の性能を発揮するモデルの構築に取り組んでいるからです。

もしそのような技術が本当に存在しうるとしたら、一体何が実現できるのだろうかと考えました。ゼイディー・スミスのエッセイ「Fail Better（失敗をうまく乗り越える）」を思い出しました。彼女はこのエッセイで、偉大な文学の定義を探求しています。作家の文体とは、「ある特定の人間の意識の唯一可能な表現」を伝えることだと彼女は書いています。つまり、文学的な成功は「ページ上の言葉の洗練だけでなく、意識の洗練にもかかっている」のです。

スミスはこれを16年前に書きました。AIテキスト生成器が登場するずっと前のことですが、彼女がエッセイの中で何度も繰り返す「意識」という言葉は、AIが意識を持っているのか、あるいは将来持つことになるのかという、科学者と哲学者の間で繰り広げられた議論を思い出させました。この議論は私の専門分野からは程遠いものでしたが、作家である私にとって意識が何を意味するのかは分かっていました。私にとって、そしてスミスにとっても、書くことは、自分が世界の中でどのような立場にあるのかを明確にしようとする試みなのです。

この「書くこと」の定義は、AIが言語を生成する方法、つまりインターネットから何十億もの単語を吸い上げて模倣を吐き出す方法とは全く異なる。そのプロセスには、個人の視点を明確に表現しようとする試みが全く反映されていない。AIが吸い込むテキストの量の多さから、AIは人間の意識のすべてを包含しているとロマンチックに表現する人もいるが、それさえも真実ではない。AIの学習に使われるテキストは、インターネットのほんの一部、つまり白人男性の英語圏の著者の視点を最も強く反映しているに過ぎない。AIが見ている世界は致命的なほど支離滅裂だ。もし書くことが、私にとって世界がどのようなものであるかを明らかにしようとする試みだとしたら、AIの問題は、単に世界に対する個人の視点を導き出せないということだけではない。AIは、世界が何であるかを理解することさえできないのだ。

最近、ChatGPTを使ってリサーチをすることもありました。しかし、自分の文章の代わりにChatGPTに散文を生成させることはもうやめました。もし私の文章が私の意識の表現だとしたら、それを書けるのは私だけなのです。はっきり言って、これはGPT-3の妹と手を繋ぐというセリフにも当てはまります。実生活では、妹と私はそんなに感傷的ではありませんでした。だからこそ、AIの言葉を自分の言葉で上書きし続けたのです。このエッセイは、AIが私たちに何を約束し、そしてそれがどのように満たされないのかについて、等しく論じています。Sudowriteがいくつかのキーワードから小説全体を設計するという提案については、諦めてください。オンデマンドで物語を提供してくれる製品が欲しいなら、本屋に行くだけです。

でも、もし作家である私が重要じゃないとしたらどうなるだろう？Sudowriteユーザー向けのSlackチャンネルに参加し、コメントをスクロールしていった。すると、ある投稿が目に留まった。小さな息子に読み聞かせる本屋の選択肢が気に入らないという母親の投稿だった。彼女はSudowriteを使って、息子のために冒険物語を自分で書いていたのだ。もしかしたら、作家向けに作られているはずのこれらの製品は、実際には読者にとってより興味深いものなのかもしれない、と気づいた。

私のような作家として働く人々の多くが、AIの使用を制限したり、全く使わなくなったりする世界を想像できます。また、新しい世代の読者がAIを使って自分の読みたい物語を作り始める世界も想像できます。もしかしたら、私たちはすでにその世界に生きているのかもしれません。もしこうしたタイプの文学が読者を満足させるなら、それが人間が生み出した作品に匹敵するかどうかという問いは、もはや無意味なものと判断されるかもしれません。

シムズにこの母親のことを話すと、彼はロラン・バルトの影響力のあるエッセイ「作者の死」について言及した。このエッセイの中で、バルトは作者の意図した意味よりも、読者による文章の解釈を重視すべきだという主張を展開している。シムズはバルトの主張をさらに強化した、いわば読者がテキストの意味だけでなくテキストそのものも生み出せるという、より強力な文化的役割を担うという主張を提唱した。

シムズ氏は、AI によって、他の誰かがやってくれることを期待するのではなく、文学愛好家がプロットや登場人物、さらには文体まで指定して、自分の望む物語を生成できるようになると考えました。

シムズの予測は知的なレベルでは納得できるものでしたが、実際に自分の文学を共創したいと考える人がどれだけいるのか疑問に思いました。それから1週間後、WhatsAppを開くと、フロリダ州沿岸の町メリット島の庭でマンゴーを栽培している父からのメッセージが届いていました。それは父がパソコンの画面を撮影した写真で、次のような言葉が添えられていました。

甘い黄金のマンゴー、
メリット島の喜び、
ジュースの滴、純粋な喜び。

その横には ChatGPT のロゴがあり、その下に「私の俳句です!」というメモがありました。

その詩は二つの意味で父のものだった。一つは父が生み出したということ、そしてもう一つは父が所有していたということだ。私はしばらくその詩を見つめ、良い俳句かどうか、あるいは「喜び」という言葉が二重になっているのが不格好なのか、それとも反逆的なのかを判断しようとした。結局、判断できなかった。しかし、私の意見は関係なかった。文学的な関係は、父と父の間にある閉じたループだったのだ。

Sudowriteへの集団攻撃の後、小説生成ツールのテストを手伝っていた人たち――趣味人、二次創作作家、そして出版済みのジャンル作家――は、攻撃されたと感じ、SudowriteのSlackに集まっていた。出版済みの作家たちの怒りは、彼らには階級差別的で排他的、ひょっとすると障害者差別だとさえ感じられた。当時Sudowriteの給与計算に携わり、『高慢と偏見』のスピンオフ小説の執筆で生計を立てていたエリザベス・アン・ウェストは、「もしあらゆる能力を持つすべての人が、ずっと書きたかった本を書けるようになるなら、私は芸術に対する犯罪者であることを誇りに思います」と書いた。

シムズが言った言葉を思い出しました。「ストーリーテリングは本当に重要だ」と彼は言いました。「これは私たち全員がストーリーテラーになる機会だ」。その言葉がずっと心に残っていました。創造の自由の民主化を示唆していました。その展望には、本当にワクワクするものがありました。しかし、この論理展開は、AIの創造に関する根本的な何かを覆い隠していました。

技術者は作家と同じような知的・創造的な好奇心に突き動かされているかもしれない――シムズ氏らの研究者たちの行動も疑う余地はない――しかし、彼らと私たちの違いは、彼らの研究には莫大な費用がかかるという点だ。言語生成AIの存在は、膨大な計算能力と特殊なハードウェアに依存しており、それらは世界で最も裕福な人々や機関だけが購入できるものだ。技術者の創造的な目標が何であれ、彼らの研究はそうした資金にかかっている。

この文脈における「エンパワーメント」という言葉は、聞き覚えのあるものに聞こえてくる。Facebookの「人々にコミュニティを築き、世界をより近づける力を与える」というミッションや、Googleが世界の情報を「誰もがアクセスでき、使える」ものにするというビジョンと似ている。もしAIが劇的な技術的飛躍をもたらすならば（そして私はそう信じている）、歴史から判断すると、企業による人間の存在獲得においても劇的な飛躍をもたらすことになるだろう。巨大テック企業はすでに、人間関係の最も古い柱である友情、コミュニティ、影響力といったものを、自らの利益のために変容させてきた。そして今、彼らは言語そのものを狙っている。

AIライティング技術が、本を作る人よりも本を買う人にとってより便利に見えるのは偶然ではありません。これらの技術の投資家たちは、投資回収、そして理想的には倍増を目指しています。この文脈において、作家にライティングソフトウェアを販売することは、馬に車を売るのと同じくらい意味がありません。

今のところ、投資家はチャットボットなどのツールを無料で利用できるようにすることでユーザーを引きつける代わりに、AI開発コストの多くを負担している。しかし、この状況は長くは続かないだろう。人々は最終的には、現金であれ個人情報の提供であれ、代償を払わなければならないだろう。読者が現在、人間の作家の生活を支えるために費やしている可処分所得の少なくとも一部は、巨大IT企業に流れ込むことになるだろう。AmazonとNetflixの年間サブスクリプションに加えて、オンデマンド文学のサブスクリプションも追加するかもしれない。

きっと私も、オンデマンド文学のサブスクリプションに加入するようプレッシャーをかけられるでしょう。その理由は、オンデマンド文学のおかげで、例えば以前より100倍も速く言語を生み出せるようになるので、作家としての生活がより良くなる、というものです。もう一つの理由は、きっと他に選択肢がない、というものです。そうでなければどうやって競争できるというのでしょう？

もしかしたら、AIが生成した、私の作品とそっくりな作品と競い合うことになるかもしれない。これは、全米作家協会とPEN Americaが深刻な懸念を抱いている問題で、両団体は、作品がAIモデルの学習に使用される前に、作家の同意と報酬の支払いを求めている。現在OpenAIのCEOを務めるアルトマン氏も、議会で「アーティストは自分の作品がどのように使用されるかをコントロールする権利がある」と述べている。しかし、たとえ作家の要求が満たされたとしても、果たしてそれだけの価値があるのだろうか。

シムズとの最後の電話で、彼は前年にようやく出版された私の小説を読んで楽しんでいると言ってくれました。彼は「AIで作った脚本を送ってほしいか？」と尋ねました。私は少し叫んだかもしれません。「恐ろしい」という言葉を使ったかもしれません。しかし、失礼な、あるいは（もっとひどいことに）偽善的な印象を与えたくなかったので、態度を軟化させました。私の小説はすでにオプション契約を結んでおり、映画化の過程にあると説明しました。ただし、脚本家はハリウッドスタジオが脚本執筆におけるAIの使用制限などを拒否したことで、現在ストライキ中でした。私はシムズに興味を持ってくれたことに感謝し、辞退しました。

人間がインターネット上に投稿したすべてのものが吸い上げられ、巨大テックのイメージに合わせて再利用されたとき、文学はどのような損失を被るでしょうか？まず、AIが支配する文学は、最も強力なAIモデルに組み込まれた価値観、偏見、そして文体を反映するでしょう。そして時が経つにつれて、すべてが似たようなものに聞こえ始めるでしょう。一部の研究では、後発のAIモデルがAI生成テキストを用いて学習された場合（これは避けられないでしょうが）、素材の同一性によって「モデル崩壊」と呼ばれるシナリオが引き起こされる可能性さえ示唆されています。これは、AIが人間の言語の真の機能を理解しなくなり、もはや一貫した文章を構成できなくなることを意味します。その時点で、人間自身にまだその能力が残っているのかどうか、疑問に思う人もいるでしょう。

ある時点で、AI の創造的可能性と商業的可能性を切り離すための思考実験が頭に浮かびました。それは、多様な反資本主義の作家や開発者のグループが集まり、モデルを創造ツールとして使用することのみを目的として、著者の明確な同意を得て提供された単語のみでトレーニングされた独自の言語モデルを作成したらどうなるか、というものでした。

つまり、AIに内在すると思われる倫理的問題、例えば訓練における同意の欠如、偏見の強化、それを支える低賃金のギグワーカー、アーティストの労働力の低廉化といった問題を、見事に回避するAIモデルを構築できたらどうなるだろうか？私は、このようなモデルがどれほど豊かで美しいものになるかを想像した。このモデルと人間との相互作用を通して、共同体による新しい創造的表現の形が生まれることを夢想したのだ。

それから、それを構築するのに必要なリソースについて考えました。それは、私が想定する反資本主義者の集団にとっては、当面の間、そしておそらく永遠に、法外な額になるでしょう。このモデルを作家専用にすると、誰が作家で誰がそうでないかを監視する必要があることも考えました。そして、もし私たちがこの立場を貫くなら、このモデルを使って個人的な利益を得ることを禁じなければならないだろうと考えました。そして、それは誰にとっても現実的ではないでしょう。つまり、私のモデルは実現不可能なものです。

7月、ついにSudowriteの共同創業者であるYu氏に連絡を取ることができた。Yu氏は自身も作家であり、SF作家のテッド・チャンの著作を読んだことがきっかけで執筆活動を始めたと語ってくれた。将来的には、AIが作家の創作プロセスにおいて議論の余地のない要素となるだろうと彼は考えている。「もしかしたら、次のテッド・チャン、つまり今5歳の若いテッド・チャンは、AIをツールとして使うことを何とも思わないかもしれません」と彼は語った。

最近、ChatGPTにこんな質問を投稿しました。「文学の創作を含むコミュニケーションにおいてAIへの依存が進むと、人間社会はどうなるのでしょうか？」。すると、伝統的な文学の「人間味」、雇用、文学の多様性といった、数々の損失が列挙されました。しかし結論では、AIは必ずしも悪いものではないと述べ、議論の枠組みを微妙に書き換えていました。「AI駆動型ツールの利点と、人間の創造性と表現の本質の保全とのバランスを取ることは、活気に満ちた意義深い文学文化を維持するために不可欠です。」どうすればそのバランスに到達できるのかと尋ねると、またしても冷静なリストが現れ、最後は双方の意見を尊重する「クンバヤ（共に共に）」で締めくくられました。

この時点で、私はボットを少しからかうようにこう書きました。「コミュニケーションにおけるAIの使用を完全に廃止したらどうでしょうか？」そして「リストは示さずに答えてください」と付け加えました。この質問を3回、4回、5回、6回と繰り返しましたが、そのたびに、番号付きの長所と短所のリストという形で返ってきました。

私は激怒した。何ヶ月も前に「ゴースト」を書くのを手伝ってくれたAIモデル――妹の手を召喚し、私の手で握らせてくれたAIモデル――は死んでしまったのだ。その妹分は、まるでホッチキスのように無神経な効率性しか持っていなかった。だが、一体何を期待していたというのか？私は、地球上で最も裕福で権力のある人々によって作られたソフトウェアプログラムと会話しているのだ。このソフトウェアが言語を使う目的は、作家が使う目的とは全くかけ離れている。今後数十年でAIがさらに強力になり、それに伴い、AIの開発に資金を提供する人々や機関も強力になることは間違いない。その間も、作家たちは生き続け、あらゆる困難を乗り越えて人間であることがどんな感じだったのかを表現する言葉を探し続けるだろう。私たちは彼らの言葉を読むのだろうか？

この記事は2023年10月号に掲載されます。 今すぐ購読してください。

この記事についてのご意見をお聞かせください。 [email protected]までお手紙をお送りください。