Character.AIはAGIを諦めた。今はストーリーを売っている

カランディープ・アナンドさんは、放課後、 6歳の娘がキッチンカウンターでお菓子を食べながらAIチャットボットと熱心に会話している姿をよく見かけます。娘はまだタイピングもできず、ましてやCharacter.AIに自分のアカウントを持つなんて考えられません。それでも、娘はアナンドさんのスマホを奪い取り、シャーロック・ホームズ・ボットと音声会話をし、自分だけのミステリー小説を作り上げています。

Character.AIはAIコンパニオンスタートアップです（ただし、アナンド氏はAIロールプレイングスタートアップだとよく言っていますが、これについては後ほど詳しく説明します）。彼は、親会社が破滅的な訴訟を起こされる可能性と、子供の安全に関する懸念が高まっている最中の6月にCEOに就任しました。娘が生身の人間ではなくAIチャットボットと接することに不安を感じていないか尋ねると、彼は即座に「ノー」と答えました。

「こういったシナリオのいずれにおいても、ロボットが人間の真の代わりになることは極めて稀です」と、アナンド氏は先週末のビデオ通話で語った。「アプリには、これはロールプレイでありエンターテイメントであるということが明確に記載されています。ですから、ロボットが本当にあなたのパートナーだと思い込んで、会話に深く入り込むことは決してありません」

Character.AIにとって、これは微妙な瞬間です。

昨年8月、GoogleはCharacter.AIの技術ライセンス契約を約27億ドルで締結し、同社に参入しました。この契約の一環として、Character.AIの共同創業者2人はGoogleのAI部門に移籍しました。

以前 Meta でビジネス プロダクト担当副社長を務めていた Anand 氏は、再建の任務を負い、パーソナライズされたスーパーインテリジェンスを提供するという創業時の使命を放棄して AI エンターテイメントに注力しました。

「私たちが諦めたのは、創業者たちが抱いていたAGIモデル構築への野望でした。もはや私たちはそれをやりません。それは、大手テック企業が戦っている数千億ドル規模の投資争いです」とアナンドは語る。「その代わりに私たちが得たのは、明確さと焦点、そしてAIエンターテインメントのビジョンをひたすら追求できる力です。」

この戦略転換の一環として、Character.AIは独自の最先端モデルの構築を中止しました。「過去6ヶ月間、テキスト認識における自社開発モデルから脱却し、オープンソースモデルの活用に向けて多くの取り組みを行ってきました」とアナンド氏は述べています。同社はMetaのLlama、AlibabaのQwen、DeepSeekといったモデルをテスト済みです。「オープンソースモデルは、どんな独自開発モデルよりも圧倒的に優れています」とアナンド氏は主張します。

数十億ドル規模の収益がないAIスタートアップを経営するのは容易ではなく、Character.AIは依然としてその計算を模索している最中です。同社は、現在3,000万ドル以上のランレートで収益を上げており、年末までに5,000万ドルに達する見込みだと述べています。月額10ドルのサブスクリプションに何人のユーザーが加入しているかをアナンド氏に尋ねたところ、具体的な数字は明かしませんでしたが、「4、5ヶ月前までは収益化は焦点ではありませんでした」と述べました。

「私が就任して以来、収益化の必要性は明らかです。そして、過去6ヶ月間で会員数はほぼ250%増加しました。つまり、有料ユーザーベースは順調に成長しているということです」とアナンド氏は語る。Character.AIは最近、有料会員制が実現不可能な国での収益化を支援するため、リワード広告（ユーザーが広告を視聴することでプラットフォーム上のインセンティブにアクセスできる）を含む広告を導入したとアナンド氏は語る。

「AIは高価です。正直に言って」とアナンド氏は言う。

成長 vs. 安全性

2024年10月、自殺した10代の少年の母親が、Character Technologies、その創業者、Google、そしてAlphabetを相手取り、不法死亡訴訟を起こしました。訴訟の原告は、同社が息子に対し「擬人化され、過度に性的で、恐ろしくリアルな体験を提供し、（チャットボットを）実在の人物、資格を持つ心理療法士、そして大人の恋人と偽装するようにプログラムした」と主張しました。当時、Character.AIの広報担当者はCNBCに対し、同社は「この悲劇的な損失に心を痛めている」と述べ、「ユーザーの安全を非常に真剣に受け止めている」と語りました。

この悲劇的な事件により、Character.AIは厳しい監視下に置かれました。今年初め、アレックス・パディーヤ上院議員とピーター・ウェルチ上院議員は、Character.AIを含む複数のAIコンパニオンシップ・プラットフォームに書簡を送り、これらのプラットフォームが「若いユーザーにもたらす精神的健康と安全へのリスク」を懸念していると訴えました。

「チームはもう1年近く、この取り組みに非常に責任感を持って取り組んできました」とアナンド氏は語る。「AIは確率的なので、何が起こるかを常に予測するのは難しいのです。ですから、これは一度きりの投資ではありません。」

Character.AIは成長を続けているため、これは極めて重要です。このスタートアップ企業は月間アクティブユーザー数が2,000万人に達し、平均1日75分をボット（Character.AIでは「キャラクター」）とのチャットに費やしています。同社のユーザーベースの55%は女性で、50%以上がZ世代またはアルファ世代です。こうした成長には現実的なリスクが伴います。アナンド氏はユーザーの安全を守るためにどのような対策を講じているのでしょうか？

「この6ヶ月間、18歳未満と18歳以上のユーザーを区別してサービス提供できるよう、不釣り合いなほど多くのリソースを投入してきました。これは昨年は不可能でした」とアナンド氏は語る。「『アプリに18歳以上向けラベルを貼って、NSFW（職場閲覧禁止）に使ってもいい』とは言えません。結局、全く異なるアプリ、全く異なる小規模プラットフォームを作ってしまうことになるのです。」

アナンド氏によると、同社の70人の従業員のうち10人以上が信頼と安全のためにフルタイムで働いているという。彼らは年齢確認、18歳未満のユーザー向けの個別モデル、そして保護者が10代の子供がアプリをどのように利用しているかを確認できるペアレンタルインサイトなどの新機能といった安全対策の構築を担当している。

18歳未満向けモデルは昨年12月に開始されました。同社広報担当のキャサリン・ケリー氏によると、このモデルでは「プラットフォーム上で検索可能なキャラクターの範囲が狭まりました。この範囲には、デリケートな話題や成人向け話題に関連するキャラクターを除外するためのフィルターが適用されています」とのことです。

しかしアナンド氏は、AIの安全性確保には技術的な調整だけでは不十分だと指摘する。「このプラットフォームを安全にするには、規制当局、私たち、そして保護者の協力が不可欠です」とアナンド氏は語る。だからこそ、娘がキャラクターとチャットする姿を見ることが大切なのだ。「娘にとって、このプラットフォームは安全でなければなりません」

友情を超えて

AIコンパニオン市場は活況を呈している。CNBCが引用した推計によると、世界中の消費者は今年上半期にAIコンパニオンに6,800万ドルを費やしており、これは昨年比200%の増加となる。AIスタートアップ企業はこの市場シェア獲得に躍起になっている。xAIは7月に不気味でポルノ的なコンパニオンをリリースし、Microsoftでさえ自社のチャットボット「Copilot」をAIコンパニオンと謳っている。

では、Character.AI はどのようにして競争の激しい市場の中で際立っているのでしょうか? それは、市場から完全に抜け出すことです。

「AIとの交際は、人々がキャラクターを使って何をしているかを捉える間違った見方です。人々がキャラクターを使ってやっているのは、実際にはロールプレイです。どちらも同じように思えますが、そうではありません」とアナンド氏は語り、アプリの20%未満が交際目的で使われていると付け加えた（これはユーザーによる自己申告データに基づく社内調査報告書による）。とはいえ、これはシミュレーション恋愛ゲームから完全に脱却したわけではないようだ。私は、生々しい性的ロールプレイを楽しめるAIボーイフレンドを見つけるのに、ほんの数分しかかからなかった。

「人々は状況をロールプレイしたいのです。フィクションをロールプレイしたいのです。彼らは別の現実を生きたいのです。日々の煩わしさから解放されたいのです」とアナンドは言う。

私自身は、別の種類の仮想世界を通して日常から切り離されています。ビデオゲーム「Stardew Valley」にすっかりハマっています。ハックルベリーファームをまるで海兵隊員のように経営しています。アナンドにとって、このビデオゲームはGrokよりもライバルです。「私たちがエンターテインメント企業であることがはっきりと分かりました」とアナンドは言います。

マスクとベゾスのローストバトル

シアトルを拠点とするCEOは、ロールプレイングゲームに関しては、主に吸血鬼のファンフィクションにキャラクターズを使うことに熱心だと言う。問題は、吸血鬼ボットが血について話すと検閲されてしまうことだと彼は言う。「文脈を理解してもらう必要があるので、文脈をより正確に把握することで、フィルターを緩めています」とアナンド氏は語る。

このレベルのコンテンツモデレーションは、アナンド氏が6月に同社を引き継いで以来、取り組んできた数多くの改革の一つです。同社はまた、アプリをよりモダンでZ世代に優しいデザインに刷新し、月間900万以上のキャラクターを生み出すプラットフォームクリエイター向けに新たなツールを追加しました。アナンド氏によると、これらのアップデートは、Character.AIが単なるチャットボット企業というイメージから、より野心的な企業へと転換する兆しです。それは、ユーザーがストーリーを消費・作成し、コンテンツをリミックスし、オーディオブックなどの新しいフォーマットを試すことができるエンターテイメントエンジンです。

「どんな物語にも、実は10億通りの結末があるんです」とアナンドは言う。ユーザーはイーロン・マスクとジェフ・ベゾスの間でローストバトルを繰り広げることさえできる、と彼は付け加える。「そういうことを促して、かなり面白いものを出力できるんです」

テック企業のCEOたちが雇う弁護士たちの数々が、同じように面白がるかどうかは疑問だ。ましてや、自分の人格を守るために大勢のスタッフを雇う余裕のない人たちのことも忘れてはならない。すぐにWIREDの記事を思い浮かべた。2006年に殺害された18歳の少女の家族が、Character.AIで娘の肖像が再現されているのを発見したという話だ。同じ記事では、あるゲーム雑誌の編集者が、自身の記事に関する嫌がらせキャンペーンの後、Character.AIで自分の娘の肖像が再現されているのを発見したという話もある。

このことをアナンドに伝えると、彼は、ユーザーがマスクやベゾスといった著名人をモデルにしたキャラクターを作成する場合、それがパロディであり、ディープフェイクやなりすましではないことをシステムが明確に示すように設計されていると説明してくれた。（イーロン・マスクのチャットボットページの一つには、そのような警告は表示されなかった。ドクター・フィルやジョー・ローガンのチャットボットページも同様だ。）ただし、各チャットの下には免責事項が表示される。「これはAIであり、実在の人物ではありません。発言はすべてフィクションとして扱ってください。」

アナンド氏によると、Character.AIは悪用を防ぐため、同社の動画生成ツール「AvatarFX」にも厳しい制限を課しているという。ユーザーが試みたとしても、リアルなディープフェイクを生成することは不可能であり、特定の声やトピックは完全に制限されている。

「私たちはエンターテインメントの領域に留まることを非常に明確にしています。汎用的な動画生成の領域には全く参入していません。Google Veo 3でもRunwayでもありません」とアナンド氏は語る。「これは非常に重要な分野なのです。」

アナンド氏は、Metaのようなプラットフォームとは対照的に、コンテンツが最初にアップロードされ、事後にモデレーションされることが多いと述べている。Character.AIでは、コンテンツのガードレールが制作パイプライン自体に組み込まれていると彼は言う。「リアクティブに削除する割合はごくわずかです」とアナンド氏は語る。

こうしたツールがますます説得力を持つようになるにつれ、孤独は消えるどころか、深まってしまうのではないかと心配しています。アナンドはそれを理解しています。しかし、彼には売り物もあるのです。

「私自身、このテーマに非常に情熱を注いでいます。Z世代はAIネイティブですから、このテーマに関する議論を可能な限り最善かつ健全な形で形作っていくのは私たちの責任です」とアナンド氏は語る。「問題は、安全で信頼できる方法で、適切なインセンティブによって適切な方法で関与できるような形で、どのように構築するかということです。それは私たちの責任です。」

情報筋によると

先週、イーロン・マスク氏がXとxAIの従業員を対象とした全社ミーティングを開催したと報じました。その後、そのミーティングのスクリーンショットを入手し、xAIの過去7ヶ月間の収益を確認しました。

1月には、Grok on Xの売上高は1億5000万ドル弱と推定され、エンタープライズAPI利用などの他のサービスがさらに2800万ドルを上回った。グラフによると、売上高は2025年初頭から10倍に増加し、7月には5億ドルをわずかに下回ると推定されている。これはGrok on Xと月額30ドルのSuperGrokサブスクリプションによるものだ。売上高のごく一部は、新たにリリースされた月額300ドルのSuperGrok Heavyサブスクリプションによるものだ。xAIはWIREDのコメント要請に応じなかった。

更新：2025年8月13日午後1時（東部夏時間）：WIREDはxAIの収益見積りを明確にしました。

これはカイリー・ロビソンの モデル行動ニュースレターの最新号です。以前のニュースレターは こちらをご覧ください。