Відео: Yann LeCun: "Energy-Based Self-Supervised Learning" (Листопад 2024)
На семінарі, присвяченому AI та майбутньому праці на початку цього місяця, Ян Лекун, директор AI Research у Facebook та директор-засновник Центру наукових даних NYU, розповів про "владу та межі глибокого навчання". LeCun, який став першопрохідцем нейромережевих згортків, які лежать в основі багатьох останніх прогресів в ШІ, був і в захваті від прогресу, досягнутого в останні роки в цій галузі, і реалістичний щодо того, що такі системи можуть і чого не можуть робити.
LeCun зазначив, що було багато хвиль, і зауважив, що, хоча нинішня хвиля зосереджена на глибокому навчанні, все ще має бути "сприйняття", найбільшими прикладами є такі додатки, як медична візуалізація та самостійне керування автомобілями. Майже у всіх цих додатках використовується контрольоване навчання та більшість із них використовують конволюційні нейронні мережі, які LeCun вперше описав у 1989 році та які вперше були розгорнуті для розпізнавання символів у банкоматах у 1995 році.
Саме великі набори даних з великими розмірами вибірки, а також надзвичайне збільшення обчислювальної потужності (за сприяння роботи Джеффрі Хінтона в розібранні способів використання графічних процесорів для розпізнавання зображень) призвели до найбільш змін за останні роки. Навіть для LeCun просування в розпізнаванні зображень було "не менш дивовижним". Хоча сприйняття "справді працює", те, що все ще не вистачає, - це міркування.
LeCun розповів про три різні підходи та обмеження кожного з них. Навчання для зміцнення вимагає величезної кількості зразків. Це чудово для ігор, оскільки система може проводити мільйони випробувань і ставати все кращими та кращими, але в реальному світі це важко використовувати, оскільки, наприклад, не хочеться водити автомобіль зі скелі 50 мільйонів разів, і реальний час - фактор у реальному світі.
Контрольоване навчання, яке є більшою частиною того, що ми бачимо зараз, вимагає середнього зворотного зв’язку та працює добре. Однак під наглядом машинного навчання є деякі проблеми. Лекун заявив, що такі системи відображають упередженість даних, хоча він наголосив, що оптимістично цю проблему можна подолати, і вважає, що легше усунути упередження з машин порівняно з людьми. Але також важко перевірити такі системи на надійність і важко пояснити рішення, прийняті на основі результатів таких систем, і LeCun розповів про заявки на позики як приклад цього.
Без нагляду чи прогнозування, яке зараз вивчається для таких речей, як передбачення майбутніх кадрів у відео, потрібно багато відгуків. Навчання без нагляду передбачає прогнозування минулого, сьогодення чи майбутнього за будь-якою інформацією, або іншими словами, здатність заповнювати пробіли, що, за словами Лекуна, - це ефективно те, що ми називаємо здоровим глуздом. Він зазначив, що немовлята можуть це зробити, але отримати машини для цього було дуже складно, і розповів про те, як дослідники працюють над такими методами, як генеративні змагальні мережі (GAN) для прогнозів, зроблених у невизначених умовах. Ми далеко не повне рішення, сказав він.
LeCun розповів про три типи навчання як подібні до частин торта: підкріплення навчання - це вишня зверху, під контролем навчання глазур, а прогностичне навчання - головна частина торта.
LeCun прогнозував, що AI змінить, як все оцінюється, і товари, побудовані роботами, коштують менше, а справжні людські переживання коштують дорожче, і сказав, що це може означати, що "джазових музикантів і ремісників" є світле майбутнє "
В цілому, Лекун сказав, що AI - це загальна технологія (GPT), наприклад, паровий двигун, електрика чи комп'ютер. Як такий, це вплине на багато галузей економіки, але пройде 10 чи 20 років, перш ніж ми побачимо вплив на продуктивність праці. LeCun заявив, що AI призведе до заміни робочих місць, але зазначив, що впровадження технологій обмежене тим, наскільки швидко працівники можуть навчитися цьому.
Що стосується "справжньої революції AI", LeCun заявив, що цього не відбудеться до тих пір, поки машини не набудуть здорового глузду, і визначення принципів побудови цього може зайняти два, п'ять, двадцять і більше років; окрім цього, тоді знадобляться роки, щоб розробити практичні технології AI, засновані на цих принципах. Зрештою, зауважив він, минуло двадцять років, щоб конволюційні мережі стали важливими. І все це ґрунтується на припущенні, що принципи прості; стає набагато складніше, якщо "інтелект - це хижість".
