SocialAIアプリでAIの虚空を見つめてみた

SocialAIを初めて使った時、このアプリはパフォーマンスアートだと確信しました。Blaze FuryやTrollington Nefariousという名のAIボットに、つまり荒らしに利用されることを、私が自ら進んで登録した理由を、論理的に説明できる唯一の理由でした。

アプリの開発者であるマイケル・セイマン氏自身も、SocialAIの構想が人々を混乱させる可能性があることを認めている。今週発表されたアプリは、まるで生成AIに関するジョークのようだった。「AIが生成した何百万ものコメントを受け取れるプライベートソーシャルネットワークで、フィードバック、アドバイス、そして考察が提供されます。」

しかし、SocialAI は現実です。ただし、対話するすべての人がボットであるオンラインの世界に「現実」が当てはまる場合です。

SocialAIの方程式には、真の人間はたった一人しかいません。それはあなたです。新しいiOSアプリは、TwitterやThreadsと同じようにテキストを投稿できるように設計されています。投稿するとすぐに省略記号が表示され、他のユーザーが弾を装填し、反撃の準備をしていることを示します。そして瞬時に、投稿の下に複数のコメントがカスケード状に表示され、すべてAIキャラクターによって書かれています。本日リリースされたばかりのアプリの新バージョンでは、これらのAIは互いに会話も行います。

初めてサインアップすると、次の AI キャラクターアーキタイプを選択するように求められます。ファンの声を聞きたいですか? 荒らしですか? 懐疑論者ですか? 変わり者ですか? 悲観論者ですか? 先見者ですか? オタクですか? ドラマクイーンですか? リベラルですか? 保守派ですか? SocialAI へようこそ。ここでは、Trollita Kafka、Vera D. Nothing、Sunshine Sparkle、Progressive Parker、Derek Dissent、Professor Debaterson があなたをサポートしたり、あなたが間違っている理由を教えてくれます。

SocialAIは、極端なエコーチェンバーと言えるほどひどいものでしょうか？現代のソーシャルメディアの真実を無視すればの話ですが。私たちのフィードは既にボットで溢れ、アルゴリズムによって調整され、AI主導の広告システムで収益化されています。私たち生身の人間は、フィードしているのです。ソーシャルアプリに新鮮なコンテンツを自由に提供し、荒らしを仕留め、商品を購入しています。その代わりに、私たちはソーシャルメディアを楽しんだり、時には友人やファンとの繋がりを感じたりもします。

悪名高い偏屈者ニール・ポストマンが1985年に書いたように、「コミュニケーションの歴史に少しでも精通している人なら、思考のためのあらゆる新しい技術にはトレードオフが伴うことを知っている」。AI時代のソーシャルメディアにおけるトレードオフは、私たちの人間性の一部である。SocialAIは、その体験を純粋な人工物へと削ぎ落としている。

「多くのソーシャルメディアでは、誰がボットで誰が本物の人間なのか分からないんです。見分けるのが難しいんです」とセイマンは言う。「彼らが100％AIだとわかる空間を作りたいと思ったんです。その方が自由になれるんです。」

セイマン氏はアプリの才能に恵まれていると言えるかもしれません。金融危機のさなか、フロリダ州マイアミで10代のプログラマーとして働いていたセイマン氏は、ペルーへの帰国を検討していた家族を支えるために一連のアプリを開発し、名声を博しました。その後、セイマン氏はFacebook、Google、Robloxでプロダクト関連の職に就きました。SocialAIは、セイマン氏がベンチャーキャピタルから支援を受けた自身のアプリスタジオ、Friendly Appsから立ち上げられました。

彼のアプリは、多くの点で純粋なAIイノベーションというよりも、デザイン思考の象徴と言えるでしょう。SocialAIは厳密にはソーシャルアプリではなく、ソーシャルブロードキャストアプリというコンテナにChatGPTを組み込んだものです。これは、生成型AIとのインタラクションを再定義しようとする試みです。ChatGPTでの会話を1対1のチャットウィンドウに限定するのではなく、複数のボットから同時に回答を得るのはどうでしょうか？とセイマン氏は提唱しています。

今週初めのZoomミーティングで、セイマン氏は生成AIを、カップがまだ発明されていなかった頃のスムージーのようなものだと説明してくれた。ボウルや皿で飲むことはできるが、それらは適切な容器ではない。SocialAIはカップになるかもしれない、とセイマン氏は言う。

セイマンはすぐに笑い出した。「ひどい例えだ」と彼は言った。

セイマン氏は魅力的で、アプリが私たちの世界にどう適合するかについて深く考えていることがよく分かります。現在、彼はたった一人でチームを運営しており、SocialAIの基盤には主にOpenAIの技術を頼りにし、他のカスタムAIモデルもいくつか組み合わせています。（セイマン氏は、OpenAIに支払う手数料で「3分」で破産しないよう、アプリのレート制限を設けています。また、SocialAIでどのように収益を得るかについてもまだ明確には考えていません。）AIキャラクターアプリをリリースするのは自分が初めてではないことは彼も承知しています。Metaも自社アプリにAIキャラクターを多数搭載しており、Googleに準買収されたばかりのCharacter AIアプリでは、膨大な数のAIペルソナとインタラクトできます。

しかし、セイマン氏はこのコンテストについて軽視している。「私のアプリは、実在するかもしれないと思うキャラクターと交流するためのものではないと考えています」と彼は言う。「これは、紛争解決の答えを探したり、自分が言おうとしていることが相手を傷つけるかどうかを判断し、他の場所に投稿する前にフィードバックを得たりするためのものです。」

「誰かが私に、イーロン・マスクがこれを使えれば、Xに投稿する前に全ての投稿をテストできると冗談を言ったんです」とセイマン氏は語った。

実際に試してみた。イーロン・マスクとTwitterアイコンのドリルの、最もアクセス数の多いツイートをいくつか、自分のSocialAIフィードに放り込んだ。WIREDのニュース記事をシェアしたが、リンクはクリックできなかった。SocialAIはリンク共有をサポートしていないからだ（そもそも共有する相手がいない）。話題になった「Bean Dad（豆のお父さん）」のツイートを転用し、SocialAIでBean Mom（豆のお母さん）を装い、9歳の娘に人生の教訓として豆の缶詰を自分で開けるよう促した。政治的なコンテンツも投稿した。SocialAIの合成フォロワーに、他に誰をフォローすべきか尋ねてみた。

ボットたちは私の要求に応え、まるでステロイドを注入したReply Guysのように、私のフィードにコメントを殺到させた。しかし、彼らの返信には栄養も人間味も欠けていた。セイマンに言ったように、すべてがあまりにも不気味で、その溝を越え、ボットの発言に価値や意味を見出すのが難しかった。

セイマンは、Redditの「私はクソ野郎？」のような投稿をもっと書くように勧めてきた。「この状況で私は間違っているのだろうか？友達に謝るべきだろうか？家族にずっと怒り続けるべきだろうか？」セイマン曰く、これこそSocialAIの真の目的なのだそうだ。試してみた。SocialAIボットのコメントが一瞬、私の爬虫類脳、イドと超自我、「私は正しい」という本能を刺激した。そして、トロリータ・カフカが、要するに、私がクソ野郎なのだと教えてくれた。

SocialAIには、明らかに新時代の幕開けを象徴するものではない側面が一つあります。それは、セイマン氏がプライバシー、コンテンツポリシー、そしてSocialAIやOpenAIがユーザーから提供されたデータをどのように利用するかといった重要なガイドラインを明示することなく、最小限の機能しか備えていない製品を公開したことです（迅速に行動し、物事を壊すなど）。セイマン氏は自身のAIモデルの学習に他人の投稿を利用していないと述べていますが、OpenAIのAPIを使用しているため、ユーザーは依然としてOpenAIのデータ学習規約の対象となると指摘しています。また、軌道から外れたボットをミュートしたりブロックしたりすることもできません。

少なくとも、あなたのフィードはデフォルトで常に非公開です。「本当の」フォロワーはいません。例えば、WIREDの私の編集者はSocialAIに自分で参加することはできますが、私をフォローしたり、私がイーロン・マスクのツイートをコカ・コーラを買ってコカインを戻したいとコピペしたことを知ることはできません。彼が私のChatGPTアカウントをフォローして、そこで私が何を尋ねているのかを知ることもできないのと同じです。

SocialAIでは、人間として他の人間と交流することはありません。それがこのゲームの肝心なところです。そこはあなただけの小さな世界であり、あなたを支えるAIキャラクターの軍団があなたを支えたり、打ちのめしたりするのです。気に入らないかもしれませんが、いずれにせよ、あなたが向かう先はそこかもしれません。もしかしたら、すでにそこにいるかもしれません。