就職審査サービス、応募者の顔分析を中止

求職者は、将来の上司だけでなく、人工知能のアルゴリズムにも好印象を与える必要があるかもしれない。雇用主は、応募者にビデオで面接の質問に答えてもらい、それを機械で評価することで応募者を選考するからだ。

アルゴリズム評価に基づいて求職者を審査するソフトウェアの大手プロバイダーであるHireVueは火曜日、ビデオ内の人物の表情を分析して特定の特徴を識別するという、物議を醸していたソフトウェアの機能を廃止すると発表した。

HireVue によってスクリーニングされた求職者は、ウェブカメラの前に座り、質問に答えます。彼らの行動、イントネーション、話し方は、特定の特性や資質を割り当てるアルゴリズムに入力されます。

HireVueは、昨年実施した自社ソフトウェアの「アルゴリズム監査」で、偏見は見られないことが示されたと主張している。しかし、非営利団体の電子プライバシー情報センターは2019年に同社を相手取り連邦取引委員会に苦情を申し立てていた。

HireVueのCEO、ケビン・パーカー氏は、動画内の表情を分析するソフトウェアの使用に対する世論の反発は、この計画の一環だったことを認めている。「顧客にとってある程度の価値はありましたが、懸念を抱かせるほどのものではありませんでした」と彼は言う。

アルゴリズム監査は、外部企業であるオニール・リスク・コンサルティング・アンド・アルゴリズミック・オーディティングによって実施されました。同社はコメント要請に応じませんでした。

AI採用を研究しているブルッキングス研究所のアレックス・エングラー研究員は、映像、音声、テキストなど、AIを使って人の能力を判断するという考えは非現実的だと指摘する。また、一般の人々がそのような主張を検証できないことも問題だと指摘する。

「機械学習が役立つ部分もあるでしょうが、完全に自動化された面接で、職務遂行能力について推論を行うのは最悪です」と彼は言う。「現代の人工知能では、そのような推論はできません。」

HireVue社によると、GE、ユニリーバ、デルタ航空、ヒルトンなど約700社が同社の技術を利用しているという。このソフトウェアでは、応募者は録画された動画内で一連の質問に答える。すると、同社のソフトウェアが、応募者の言語、話し方、そしてこれまでは表情など、様々な特徴を分析し、応募者の職務適性に加え、「信頼性」、「感情知能」、「認知能力」といった特性を測る指標を提供する。

パーカー氏によると、同社は昨年600万本以上のビデオスクリーニングを支援したが、候補者の自動評価ではなく、面接官のために回答を書き起こすだけの作業も含まれていたという。また、クライアントによっては、候補者が自動スクリーニングをオプトアウトできるようにしている場合もあるという。さらに、HireVueはインターネット接続が不安定な候補者を不利に扱わないように、自動的に担当者に紹介する仕組みを開発したという。

AI専門家は、過去の求職者データで訓練されたアルゴリズムが、採用における既存の偏見を永続させる可能性があると警告している。HireVueのチーフデータサイエンティスト、リンジー・ズロアガ氏は、同社は性別、人種、年齢に関する偏見をスクリーニングするために、訓練データからこれらの情報を収集し、偏見の兆候を探していると述べている。

しかし彼女は、この制度が収入や教育水準などの要素に偏っているのか、あるいは吃音のようなものに影響されるのかを知ることはより難しいかもしれないと認めている。

「彼らがこれを削除したことに驚きました。これは彼らが販売していた製品の核となる機能だったからです」と、EPICのシニアカウンセル、ジョン・デイヴィソン氏は語る。「生体認証データ収集をめぐる多くの懸念の源であり、心理特性、感情知能、社会的態度などを測定できるという大胆な主張も同様です。」