Uberの自動運転車が死亡させた女性を目撃していたと報道

3月に発生したUberの自動運転車による死亡事故を調査している連邦捜査官は今朝、予備報告書を発表した。報告書では、アリゾナ州テンピで自転車を押して歩いていた女性が死亡した事故の真相と、事故当日の車両が実際に目撃した光景が説明されている。

国家運輸安全委員会（NTSB）は最終報告書を発表するまで、今回の事故の原因を特定したり、再発防止のための安全勧告を出したりはしない。しかし、今回の最初の報告書から2つのことが明らかになった。自動運転車の開発は非常に難しい。そして、道路上のすべての人々の安全を守るために、人間のオペレーターによるテストシステムの監視に依存している自動運転車開発者は、そのシステムの設計に細心の注意を払う必要がある。

報告書によると、Uberの車両（改造されたボルボXC90 SUV）は、自動運転モードに入ってから19分間、時速約40マイル（約64キロ）で走行していたところ、自転車を押して道路を横断していた49歳のエレイン・ヘルツバーグさんに衝突した。車両のレーダーとライダーセンサーは衝突の約6秒前にヘルツバーグさんを検知し、最初は未知の物体、次に車両、そして自転車と認識し、そのたびに彼女の進路予測を調整していた。

報告書によると、衝突の約1秒前に「自動運転システムは衝突の危険性を軽減するために緊急ブレーキ操作が必要だと判断した」とのことです。しかし、Uberはシステムによる緊急ブレーキ操作を独自に許可していません。急ブレーキをかけたり、ビニール袋を避けるために急ハンドルを切ったりといった「異常な車両挙動」のリスクを冒すのではなく、Uberは人間のオペレーターが道路状況を監視し、問題発生時に制御を引き継ぐことを頼りにしています。

さらに、ウーバーは自社の技術との衝突を避けるため、ボルボに内蔵された自動緊急ブレーキシステムをオフにしていた。専門家によると、これは標準的な手順だという。「車両には1人のマスターが必要です」と、カーネギーメロン大学で自律システムを研究する電気技師、ラジ・ラジクマール氏は言う。「マスターが2人いると、矛盾したコマンドが発せられる可能性があります」。しかし、その瞬間のマスターが本来の目的通りに機能すれば、この方法ははるかにうまく機能する。

ロボットと人間

この致命的な衝突の詳細は、ウーバーの自動運転システムの少なくとも2つの重大な欠陥を指摘している。それは、人間に取って代わる準備がまだできていないソフトウェアと、人間が人間に取って代わる人物による危害を防ぐ備えが不十分であるということだ。

今日の自律システムは機械学習を活用しており、画像と行動のデータセットに基づいて状況を分類し、対応する方法を「学習」します。ソフトウェアは、自転車、スケートボーダー、救急車の何千枚もの画像を見せられ、それらを自力で識別できるようになるまで学習します。問題は、自然界で起こり得るあらゆる状況の画像を見つけるのが難しいことです。システムはタンブルウィードと幼児を区別できるでしょうか？一輪車と段ボール箱を区別できるでしょうか？これらの状況によっては、物体の動きを予測し、それに応じて対応できるはずです。そうでない場合には、車両はタンブルウィードを無視し、急で危険なブレーキをかけずに走行を続けるべきです。

ヘルツバーグ氏は、ビニール袋を積んだ自転車を押しながら、横断歩道の外側の薄暗い場所で、車と直角に走行しながら、ウーバーのシステムに異議を唱えた。「これは、a) 分類が必ずしも正確ではないことを示唆しています。これは私たち全員が認識しておく必要があります」とラジクマール氏は述べ、「b) ウーバーのテストには、このプロファイルを持つ歩行者の画像が全く、あるいは少なくともほとんどなかった可能性が高い」と付け加えた。

この問題を解決するには、公道におけるあらゆる奇妙で予測不可能なエッジケースを捉え、それらに対処するためにシステムをどのように訓練するかを解明する必要があります。これはこの業界の根幹を成すエンジニアリング上の課題であり、困難な課題であるはずです。特に初期段階では、車が常に正しい判断を下せるとは限りません。

Uberが人間の安全運転者に頼ったのはそのためだ。そして、それが同社のプログラム構築方法に問題を引き起こしている。当時、同社の人間の運転者は8時間シフトで運転し、時給約24ドル（そして十分なエナジードリンクとスナックが支給された）で働いていた。彼らは運転するルートやソフトウェアに何を期待するかを事前に指示されていた。何よりも、常に道路から目を離さず、いつでもハンドルを握ったりブレーキを踏んだりできるようにしておくように指示されていた。Uberは勤務中に携帯電話を見ていたドライバーを逮捕（そして解雇）したことがあるが、これは誰にとっても驚くべきことではない。

「運転手、そして一般的に人間は、高度に自動化されたシステムの監督者としてはひどい存在だということは周知の事実です」と、MITで人間と機械のインタラクションを研究するエンジニア、ブライアン・ライマー氏は語る。「私たちはひどい監督者です。航空業界、原子力業界、鉄道業界が何十年も前からこのことを実証してきました。」

しかし、Uberは事故防止の重荷を、他の乗客の肩に押し付けた。ここに大きな皮肉がある。アメリカで毎年約4万人が死亡する事故の90%以上を引き起こす人間を排除しようと試みる中で、Uberは安全システムを特定の人間の完璧さに頼ってしまったのだ。

人命を救う可能性のある技術をテストする方法は他にもある。自動運転開発会社の中には、すべてのテスト車両に2人乗りを義務付けているところもある。1人は運転席に座り、もう1人は走行中の特定の出来事やシステム障害について記録を取るのだ。（ウーバーは当初、各車両に2人のオペレーターを乗せていたが、昨年末に単独運転に切り替えた。）事故を起こしたウーバーのセーフティドライバーは、NTSBの調査官に対し、衝突直前の瞬間、車のインターフェースを見ていたため道路を見ていられなかったと述べている。インターフェースはセンターコンソールに組み込まれており、ドライバーの自然な視線からは外れている。もし、車の挙動に関する観察記録も含め、その仕事を別の人間が担当していたら、運転席のドライバーはハーツバーグさんに気付き、彼女の命を救えたかもしれない。

あるいは、Uberはシステムにドライバーの道路への注意力を監視し、運転者が注意力を維持していないと判断した場合にビープ音やブザー音を発する機能を持たせることもできただろう。キャデラックの半自動運転システム「スーパークルーズ」は、ステアリングコラムに搭載された赤外線カメラでドライバーの頭部の位置を監視し、運転者が道路から目を離している時間が長すぎる場合に警告を発する。

報告書によると、Uberのシステムは、緊急ブレーキが必要と判断した際にドライバーに警告する手段すら備えていなかった。現在市販されている多くの車は、差し迫った衝突を検知し、赤色灯の点滅や大きなビープ音でドライバーに警告する。こうした機能があれば、今回の事故にも役立ったはずだ。「車両システムが何もせず、ドライバーに完全に頼らざるを得なかったというのは、実に驚くべきことです」と、数十年にわたり自動運転システムの研究に携わってきたカリフォルニア大学バークレー校の研究エンジニア、スティーブン・シュラドバー氏は語る。

Uberは「安全文化」の構築に取り組んでいるとしており、事故後に中断したテストはまだ再開していない。広報担当者は声明で、「過去2ヶ月間、NTSBと緊密に連携してきました」と述べた。「NTSBの調査が続く中、Uberは自動運転車プログラムの安全性に関する独自のレビューを開始しました。」同社は今月初め、NTSBの元委員長で航空専門家のクリストファー・ハート氏を安全システムに関する助言者として採用した。

Uberがどんな変更を加えようとも、すぐにはテンピに反映されないだろう。同社は今夏、研究開発センターの本拠地であるピッツバーグで試験運用を再開する予定だ。しかし、アリゾナ州での事業は完全に閉鎖される。この動きは、非常に人道的な影響を及ぼした。Uberは州内で約300人の従業員を解雇した。その多くは安全運転のドライバーだ。