Автомобільна аварія Uber: ай нас невдало?

12 березня компанія MIT Technology Review розпочала історію, яка почалася так: "2023 рік. Автомобілі, що керують автомобілем, нарешті рухаються по міських вулицях. Вперше один із них вдарив і вбив пішохода, величезне висвітлення у ЗМІ. Ймовірний гучний позов, але які закони слід застосовувати? "

Все щодо прогнозування було правильним, крім дати. Рівно через тиждень після публікації статті, самохідний Uber вдарив і вбив пішохода в Темпі, штат Арізона, працюючи в автономному режимі.

Хоча цей інцидент ще розслідується, суперечка, що виникла, є свідченням того, наскільки ми далеко від успішної інтеграції штучного інтелекту в наші критичні завдання та рішення.

У багатьох випадках проблема полягає не в AI, а в наших очікуваннях і розумінні цього. За даними Wired, минулого року в ДТП загинули майже 40 000 людей у ​​ДТП - 6 000 з них були пішоходами. Але дуже мало (якщо вони є) склали заголовки так, як це сталося в інциденті Uber.

Однією з причин аварії Uber спричинило таке занепокоєння в тому, що ми, як правило, великі сподівання на нові технології, навіть коли вони ще розвиваються. Під ілюзією того, що чиста математика керує алгоритмами AI, ми схильні довіряти їх рішенням і шоковані, коли вони помиляються.

Навіть водії безпеки за кермом автомобілів, що керують самостійно, спускають свою охорону. Кадри з інциденту Uber показали, що водій відволікається, дивлячись вниз за секунди до того, як сталася аварія.

У 2016 році водій моделі Tesla S, що працює в режимі автопілоту, загинув після того, як транспортний засіб врізався у вантажівку. Розслідування встановило, що водій, можливо, під час зіткнення дивився фільм про Гаррі Поттера.

Очікування досконалості високі, а розчарування - потужні. Критики швидко привели до сумніву весь проект саморобного автомобіля Uber після інциденту; компанія тимчасово призупинила тестування автомобілів на самому водінні після цього.

ШІ не людина

Серед зауважень, які випливали після аварії, було те, що водій людини легко уникне інциденту.

"вона не вистрибувала з кущів. Вона досягла чіткого прогресу в декількох смугах руху, які повинні були підбирати систему, щоб забрати", - сказав один експерт CNN.

Вона права. Досвідчений водій людини, ймовірно, помітив би її. Але алгоритми AI не є людьми.

Алгоритми глибокого навчання, знайдені в автомобілях із самостійним керуванням, використовують численні приклади, щоб "вивчити" правила своєї області. Коли вони проводять час у дорозі, вони класифікують інформацію, яку вони збирають, і вчаться вирішувати різні ситуації. Але це не обов'язково означає, що вони використовують той самий процес прийняття рішень, що і люди-водії. Ось чому вони можуть працювати краще, ніж люди, в деяких ситуаціях і не в таких випадках, які здаються людям тривіальними.

Прекрасним прикладом є алгоритм класифікації зображень, який вчиться розпізнавати зображення, аналізуючи мільйони мічених фотографій. З роками класифікація зображень стала надзвичайно ефективною і перевершує людей у ​​багатьох умовах. Це не означає, що алгоритми розуміють контекст зображень так само, як і люди.

Наприклад, дослідження експертів з Майкрософт та Стенфордського університету встановили, що алгоритм глибокого навчання, який навчався із зображеннями білих котів, вірив з високим ступенем переконання, що фото білої собаки являє собою кішку, помилку, яку людська дитина може легко уникнути. І в сумнозвісному випадку алгоритм класифікації зображень Google помилково класифікував людей темного кольору шкіри як горили.

Це називаються "крайніми випадками", ситуаціями, з якими алгоритми AI не були навчені працювати, як правило, через брак даних. Аварія Uber досі розслідується, але деякі експерти з ІП ​​припускають, що це може бути ще одним кращим випадком.

Глибоке навчання має багато труднощів для подолання, перш ніж його можна застосувати в критичних ситуаціях. Але його невдачі не повинні нас стримувати. Ми мусимо скорегувати своє сприйняття та очікування та сприйняти реальність, від якої в процесі еволюції провалюється кожна велика технологія. ШІ не відрізняється.