ジェネレーティブAIの原罪と戦うために仕事を辞めたテック幹部

エド・ニュートン＝レックス氏は、生成AIには倫理的な問題があると述べている。かつて急成長を遂げたこの業界に身を置いていた彼だからこそ、その問題をよく理解しているはずだ。ニュートン＝レックス氏はTikTokの主任AIデザイナーを務め、その後Stability AIの幹部に就任したが、昨年11月に同社の学習データ収集姿勢に憤慨し、辞任した。

ニュートン＝レックス氏は、注目を集めて辞任した後、AIを倫理的に構築することが実際にどのようなものになるかについて、次々と議論に加わった。「クリエイターを公平に扱う生成AIモデルを使いたいと考えている人がたくさんいることに気づきました」と彼は言う。「彼らに、より優れた意思決定ツールを提供できれば、それは大きな助けになります。」

人物のヘッドショット

エド・ニュートン・レックス氏の非営利団体は、企業が AI プロジェクトのトレーニングデータの調達についてより慎重になるよう奨励しています。

エド・ニュートン・レックス提供

ニュートン・レックス社は、まさにそうした意思決定ツールを人々に提供するために、新たな非営利団体「フェアリー・トレーニングド」を設立しました。同団体は、トレーニングデータのライセンスを供与するAI企業を特定するための認証プログラムを提供しています。AI業界にも、コーヒーに見られるような「フェアトレード」認証ラベルの、いわばAI版が誕生したのです。

Fairly Trained の認証ラベル (同社では L 認証と呼んでいます) を取得するには、企業は、そのトレーニングデータがトレーニング目的で明示的にライセンス付与されているか、パブリックドメインであるか、適切なオープンライセンスの下で提供されているか、またはすでに企業に属していることを証明する必要があります。

これまでに9社が認定を取得しており、その中にはゲッティイメージズなどのソースからライセンス供与されたデータのみを使用して学習する画像生成ツール「Bria AI」や、主要レコードレーベルすべてからライセンス供与を受けている音楽生成プラットフォーム「LifeScore Music」などが含まれています。その他にも数社が認定取得間近です。この非営利団体は、申請者の事業規模に応じて500ドルから6,000ドルの手数料を徴収しています。

世界をリードする生成AI企業OpenAIは最近、ChatGPTのような生成AIサービスは、無許可データの使用なしには作成不可能だと主張した。Newton-Rex社や、Fairly Certifiedの承認を最初に取得した企業はこれに異議を唱える。「我々は既にデータのライセンス取得を義務付けていると考えています」と、BriaのCEOヤイル・アダト氏は語る。彼は無許可データに基づいて構築されたAIモデルをNapsterやPirate Bay、そして自身の会社をSpotifyに例える。「我々にとってコンプライアンス遵守は非常に簡単です」と、Fairly Certifiedの顧問も務めるLifescore Musicの共同創業者トム・グルーバー氏は言う。「音楽業界は出所と権利を非常に重視しています。」

ニュートン＝レックス社は、全米出版社協会（AAP）や独立系音楽出版社協会（AIMP）といった業界団体、そしてユニバーサルミュージックグループといった企業からの支援を受けていると述べている。しかし、AI業界の標準的なアプローチである、トレーニングデータを恣意的に収集するという手法を覆す動きは、まだ始まったばかりだ。そして、フェアリー・トレーニングド社はワンマン経営だ。ニュートン＝レックス氏は気にしていない。彼は今もスタートアップ創業者の精神を保っているのだ。「私は物事を早く世に出すことに重きを置いています」と彼は言う。

AI製品に成分情報をラベル表示するという考え方を標準化しようとしているのは、この非営利団体だけではない。ワーナー・ミュージック・グループの元幹部で、現在はテクノロジーが音楽業界にどのような変化をもたらしているかを研究しているハウィー・シンガー氏は、フェアリー・トレーニングと、アドビが主導する画像の真正性追跡を支援するプロジェクト「コンテンツ・オーセンティシティ・イニシアチブ」に類似点を見出している。「これは良い一歩だ」と、ニュートン＝レックスのプロジェクトについてシンガー氏は述べている。

買い物客の中には、卵が放牧飼育の非遺伝子組み換え鶏から孵ったかどうかを確認する人もいれば、ただ一番安いカートン箱を選ぶ人もいるように、倫理データ認証は一般大衆よりも、情報に通じた特定のインサイダー層に響くのではないかとシンガー氏は考えている。「一般の人は気にするでしょうか？気にする人もいるでしょうが、全員がそうとは限りません」と彼は言う。

ニュートン＝レックス氏も同意見だ。「ここで資格を取得すれば、その人は完全に倫理的だと主張するつもりはありません」と彼は言う。彼は将来的に、報酬などの問題にも対処しながら、さらに多くの資格を取得できるようにしたいと考えている。それでも、彼はこの種のものとしては初めてのプロジェクトを誇りに思っている。「これで全てが解決するわけではありませんが、役に立つことはあると思います」

2024 年 1 月 18 日午後 6 時 (EST) 更新: この記事の以前のバージョンでは、Content Authenticity Initiative の名前が誤って記載されていました。