Національна рада з безпеки на транспорті США (NTSB) опублікувала матеріали 20-місячного розслідування смертельного ДТП за участю безпілотного автомобіля Uber. Як з'ясувалося, програмне забезпечення автопілота просто не знало, що пішоходи можуть переходити дорогу в недозволеному місці. Через це рішення про екстрене гальмування було прийнято занадто пізно, і машина збила жінку на смерть.
У березні 2018 року один з тестових безпілотних автомобілів Uber їхав за маршрутом у місті Темпл, штат Арізона. На пустельній погано освітленій дорозі машина зіткнулася з перехідною проїжджу частину в недозволеному місці Елані Херцберг (Elaine Herzberg). 49-річна жінка йшла з велосипедом, на її одязі не було світловідбиваючих елементів. З якоїсь причини автопілот не застосував екстрене гальмування вчасно і врізався в неї на швидкості 43,5 милі на годину (70 км/год) відкинувши жертву на 23 метри. Сидячий за кермом оператор Рафаела Васкез (Rafaela Vasquez) була зайнята спостереженням за показаннями сервісної програми і також не встигла зреагувати.
Схема ДТП і пошкодження, які отримала машина
Виходячи з аналізу налагоджувальних записів програмного забезпечення безпілотного автомобіля, автопілот побачив Херцберг за 5,6 секунди до зіткнення. У цей момент вона разом з велосипедом була класифікована, як «автомобіль» (vehicle), потім штучний інтелект «передумав» і на основі більш докладних даних присвоїв їй статус «інше» (other). Загалом класифікація жертви змінювалася ще п'ять разів: назад на «автомобіль», потім знову «інше», потім як «велосипед», знову «інше» і нарешті знову «велосипед». Жодного разу програма не припустила, що на проїжджій частині перебуває людина на своїх двох. ШІ просто не знав, що люди не завжди переходять дорогу за правилами.
Розміщення сенсорів (очей, вух і радарів) на тестовому автомобілі
Через це автопілот щоразу починав процедуру впізнання об'єкта заново. Головна проблема для нього полягала в непередбачуваності поведінки пішохода - а не знаючи, куди і з якою швидкістю «перешкода» може зміститися, ШІ не уявляє, як від нього ухилитися. Фінальне рішення про те, що ж знаходиться перед машиною було прийнято всього за 1,2 секунди до зіткнення. Ще секунда до екстреного гальмування була витрачена на так зване «придушення дії». У цей час, якщо об'їхати перешкоду вже неможливо, автопілот бере коротку паузу для перевірки всіх даних ще раз. По суті, оператор повинен був страхувати автоматику і в цей момент вже помітити Елані з велосипедом.
Поле «зору» різних датчиків (камер і лідарів) безпілотного автомобіля Uber
Але Рафаела виконувала свою роботу і займалася вивченням якоїсь інформації на екрані в салоні, її погляд не був спрямований на дорогу. За 0,2 секунди до зіткнення автопілот включив сигналізацію про неминучу перешкоду, а також застосував екстрене гальмування. Васкез повернула голову вперед саме в цей момент, а натиснула на педаль гальма ще через секунду. На відео з внутрішніх і зовнішніх камер видно, що оператор шокована подією. Всі деталі розслідування і висновки з нього будуть оголошені 19 листопада на окремому заході в місті Вашингтон, округ Колумбія.
Як пише Wired, всього в розпорядженні журналістів виявилося понад сорок документів загальним обсягом кілька сотень сторінок. Серед критичних факторів, що вплинули на результат аварії NTSB відзначає відразу кілька. По-перше, програмне забезпечення автопілота містило в собі суттєві недоліки. По-друге, сам протокол випробувань був небезпечний. Зараз Uber саджає в машину двох операторів і про всі можливі інциденти, пов'язані з безпекою співробітники можуть повідомити анонімно. По-третє через особливості обладнання автопілота, штатна система попередження зіткнень Volvo була відключена, хоча вона повинна була спрацювати. І, нарешті, дорожня обстановка в місці інциденту також сприяла ДТП: найближчий перехід знаходиться більш ніж за сто метрів, при тому, що в місці аварії до проїжджої частини примикає кілька пішохідних доріжок.