研究者は顔をぼかし、1000のアルゴリズムを起動した

2012年、人工知能（AI）研究者たちは、膨大な画像セット（Webから収集され、手作業でラベル付けされた数千点もの日常的な物体、人物、写真に写った風景）の恩恵もあって、コンピュータービジョンに大きな飛躍をもたらしました。ImageNetとして知られるこのデータセットは、現在でも数千ものAI研究プロジェクトや実験で利用されています。

しかし先週、ImageNet に含まれるすべての人間の顔が突然消えてしまった。データセットを管理する研究者が顔をぼかすことに決めたためだ。

ImageNet が AI の新時代の到来に貢献したのと同様に、それを修正するための取り組みは、無数の AI プログラム、データセット、製品に影響を与える課題を反映しています。

「プライバシーの問題を懸念していました」と、プリンストン大学の助教授でImageNetの管理責任者の一人であるオルガ・ルサコフスキー氏は語る。

ImageNetは、画像内の物体を識別できるアルゴリズムを開発するというコンピューター科学者を募ったチャレンジの一環として作成されました。2012年当時、これは非常に困難な課題でした。その後、ラベル付きのサンプルをニューラルネットワークに入力することで「学習」させるディープラーニングと呼ばれる手法が、従来の手法よりもこの課題に優れていることが証明されました。

それ以来、ディープラーニングはAIのルネサンスを牽引する一方で、この分野の欠点も露呈しました。例えば、顔認識はディープラーニングの特に人気が高く、収益性の高い用途であることが証明されていますが、同時に物議を醸す問題でもあります。米国の多くの都市では、市民のプライバシー侵害や偏見への懸念から、政府によるディープラーニングの利用を禁止しています。これは、ディープラーニングのプログラムが白人以外の顔に対して精度が低いためです。

現在、ImageNetには約1,000のラベルが付いた150万枚の画像が収録されています。これは主に、機械学習アルゴリズムの性能評価や、特殊なコンピュータービジョンタスクを実行するアルゴリズムのトレーニングに利用されています。顔のぼかし処理は、243,198枚の画像に影響を与えました。

ルサコフスキー氏によると、ImageNetチームは、データセット内の顔をぼかしても物体認識の精度に影響を与えないかどうかを検証したかったという。「人物は、これらの物体を写したウェブ写真に写っていたため、データには偶然に含まれていました」と彼女は言う。つまり、ビール瓶の画像で、ビールを飲んでいる人の顔がピンク色のしみのように見えても、瓶自体はそのまま残るということだ。

ImageNetのアップデートと同時に投稿された研究論文の中で、データセットを作成したチームは、AmazonのAIサービスRekognitionを使って顔をぼかし、その後Mechanical Turkの作業員に金銭を支払って選択内容を確認、調整させたと説明している。

研究者らによると、顔をぼかしても、ImageNetで学習させた複数の物体認識アルゴリズムの性能には影響がなかったという。また、これらの物体認識アルゴリズムを用いて構築された他のアルゴリズムも同様に影響がないことも示している。「この概念実証が、この分野におけるプライバシーに配慮した視覚データ収集の実践への道を開くことを期待しています」とルサコフスキー氏は述べている。

有名な画像ライブラリを調整する試みは今回が初めてではありません。2019年12月、「Excavating AI」と呼ばれるプロジェクトがこの問題に注目を集めたことを受け、ImageNetチームは人間のラベル作成者によって挿入された偏見や蔑称を削除しました。