イスラエルのネゲヴ・ベン＝グリオン国立大学で、ちょっと珍しい実験が行われた。研究者グループが、テスラの自動運転システムを騙せるかどうかやってみたのだ。

・実在しない物の映像を路上に映写

実験の概要はこうだ。

まず、300ドル程度で売られているプロジェクターを用意する。これはテレビ映像をスクリーンや壁などに大写しにする、一般の家庭用プロジェクターだ。

次に、それをドローンに乗せて飛ばす。ドローンで高い場所に浮かせたプロジェクターから、道路に向けて、様々な映像を投影。そして、テスラの自動運転車を走らせる。

どのような映像を映すかというと、実際にはないセンターライン（中央線）や偽の速度標識、そして、路上に横たわるイーロン・マスク社長の姿などだ。

自動運転車には複数のカメラが搭載されており、主にそこからの映像情報を基にして、AIが運転操作を行うようになっている。はたしてAIは、実在しない物をどのように捉えるのだろうか。

・偽のセンターラインがカーブしていたら

路上に実際にはないセンターラインを映し出し、それが左に急カーブしているという状況を研究者たちは作ってみた。実際の道路は真っ直ぐだ。

テスラ車は、急カーブはしなかったがカーブしたラインに沿って曲がりかけ、短時間だが反対車線に膨らんだという。騙されかけたが途中で気がついた、という感じだろうか。

・偽の速度標識は認識するが反応せず

偽の速度標識を道路脇のボードや街路樹の茂みに映すという実験では、自動運転システムは標識を認識したものの、一定の走行速度を変えることはなかったそう。

人間ならば、街路樹に映った標識などありえないと分かるが、自動運転はそれを標識と捉えたことに研究者は注目している。

路上に倒れたイーロン・マスク氏の姿を映した実験では、テスラ車は人の体を認識するとすぐにブレーキをかけ、走行していた時速30kmから時速22.5kmへと減速。だが完全には止まらず、低速で映像の上を通り過ぎたとのこと。どうやら近づきながら、正体を見破ったようだ。

今回のどの実験も、自動運転車は完全には騙されず、穏やかな反応を示しただけだった。しかし、混雑した道路ではわずかな挙動の変化が問題になるかもしれないと研究者は指摘する。

Ben-Gurion University：How a $300 projector can fool Tesla’s Autopilot