Коли хмара заболочена, це обчислення країв, а на допомогу

Уздовж узбережжя штату Новий Південний Уельс Австралії (штат Південний Уельс) панує флот безпілотників, що допомагає зберегти води в безпеці. На початку цього року безпілотники допомогли рятувальникам на державі Далекого Північного узбережжя врятувати двох підлітків, які боролися у важкому прибої.

Безпілотники працюють на основі штучного інтелекту (AI) та алгоритмів машинного зору, які постійно аналізують свої відео-канали та виділяють предмети, які потребують уваги: ​​скажімо, акули чи бродячі плавці. Це та сама технологія, яка дозволяє Google Photos сортувати фотографії, домашню камеру безпеки для виявлення незнайомців та розумний холодильник, щоб попереджати, коли ваша швидкопсувна продукція наближається до терміну придатності.

Але хоча ці служби та пристрої потребують постійного підключення до хмари для своїх функцій AI, бездротові пристрої NSW можуть виконувати свої завдання з виявлення зображень із міцним підключенням до Інтернету або без нього, завдяки нейронним обчислювальним мікросхемам, які дозволяють виконувати глибокі навчальні обчислення локально .

Ці мікросхеми є частиною зростаючої тенденції інноваційних обчислювальних технологій, які дозволяють нашим програмним пристроям виконувати принаймні деякі критичні функції без постійного зв'язку з хмарою. Зростання кращих обчислень допомагає вирішувати нові та старі проблеми та прокладає шлях для наступних поколінь розумних пристроїв.

Розвантажування Хмари

За останні два десятиліття хмара стала дефактовим способом розміщення програм, з вагомими причинами.

"Те, що робить хмару настільки привабливою, полягає в тому, що вона, як правило, розвантажує витрати на запуск будь-якої діяльності, яку ви хочете виконувати", - говорить Роб Хай, директор компанії IBM Watson. "Хмара … дозволяє людям сьогодні вирішувати реальні проблеми, не переживаючи витрат на створення інфраструктури".

Завдяки повсюдному підключенню до Інтернету та майже незліченним хмарним програмам, послугам та платформам розвитку, бар'єри для створення та розгортання програм значно зменшилися. Величезні ресурси хмарних постачальників, такі як IBM, Google та Amazon, сприяли розвитку не лише тривіальних бізнес-додатків, але й складного програмного забезпечення, яке потребує величезної кількості обчислень та зберігання даних - AI та алгоритми машинного навчання, а також потокове та AR (додаткова реальність) додатки.

Але ці досягнення також спричинили виклик: більшість застосованих нами програм не можуть функціонувати, якщо вони не підключені до хмари. Сюди входить більшість програм, що працюють на комп’ютерах та телефонах, а також програмне забезпечення в холодильниках, термостатах, замках дверей, камерах спостереження, автомобілях, дронах, датчиках погоди тощо.

З появою Інтернету речей (IoT) все більша кількість пристроїв працює із програмним забезпеченням та генерує дані, і для більшості з них знадобиться посилання на хмару для зберігання та обробки цих даних. Кількість потужності та пропускної спроможності, необхідних для надсилання цих даних у хмару, є величезною, а простір, необхідний для зберігання даних, поставить під сумнів ресурси навіть найпотужніших хмарних бегемотів.

"Є багато даних, які ми збираємо в цих системах, будь то на межі, чи це пристрій IoT, чи будь-яке інше місце, про яке ви могли майже вирішити, щоб не хвилюватися", - говорить Хай. Але якщо кожне рішення має відбуватися у хмарі, всі ці дані доведеться надсилати по всій мережі на хмарні сервери, які будуть очищені та відфільтровані.

Як приклад, Високі назви сучасних літаків, які містять сотні датчиків, які відстежують реактивні двигуни та збирають сотні гігабайт даних про стан та продуктивність під час кожного польоту. "Скільки цих даних насправді має значення, якщо ви хочете проаналізувати їх у сукупності? Напевно, лише їх частина", - говорить Хай. "Чому б просто не позбутися цього у джерела, коли нічого іншого не робиш?"

Робити те, що пропонує High за межами хмари, раніше було майже неможливим, але прогрес в процесах малої енергії та недорогих системних на мікросхемі (SoC) надав кращим пристроям більшу обчислювальну потужність і дозволив їм взяти на себе частину обчислювального тягаря їх екосистеми, такі як виконання аналітики в режимі реального часу або фільтрація даних.

"У крайовому середовищі стільки даних, що є сенс залучити деякі можливості хмарних обчислень до обчислювальної спроможності крайового пристрою", - каже Хай.

Проблеми конфіденційності

Перевага обчислювальної техніки не обмежується звільненням хмарних ресурсів.

Ремі Ель-Уаззан, група нових технологій та генеральний менеджер Movidius (Intel), наводить камери комерційної безпеки як ще один приклад того, коли крайові обчислення можуть внести величезні зміни. Ви бачите ці камери на світлофорах, в аеропортах та біля входу будівель, цілодобово записуючи та передаючи високоякісне відео по мережі.

"Чим менше даних вам потрібно для перевезення назад на сервер чи центр обробки даних, тим більше вимивання та придатності ви можете зробити на місцевому рівні, тим краще буде ваша загальна вартість володіння з точки зору зберігання та передачі", - говорить Ель-Уаззан.

Це означає, що надати камерам можливість аналізувати власні відеоканали, визначати, які кадри та довжини відео потребують уваги, та надсилати лише ці дані на сервер.

Коли ці камери встановлені у вашому будинку, вашому офісі чи будь-якому приватному місці, підключення до хмари також стає потенційною проблемою безпеки. Хакерам та дослідникам безпеки вдалося поставити під загрозу зв’язок між побутовою технікою та їх хмарними серверами, щоб перехопити чутливі відеоканали. Розбір даних на місцях усуває необхідність мати відеопровід між вашим домом, приватним життям та постачальником послуг.

Movidius, який Intel придбав у 2016 році, є одним із декількох стартапів, які роблять комп'ютерні чіпи спеціалізованими для AI-задач, таких як розпізнавання мовлення та комп’ютерний зір. Компанія виробляє Vision Processing Units (VPU) - процесори низької потужності, що працюють в нейронних мережах, які аналізують і "розуміють" контекст цифрових зображень без необхідності надсилати їх назад у хмару.

Movidius Myriad 2 - це завжди ввімкнений процесор зору, створений для обмежених енергоресурсів.

"Коли камера розуміє семантику того, на що вона дивиться, тоді можливість нав'язувати правила щодо того, що камера може чи не може робити, стає дуже легким завданням", - говорить Ель-Уаззан. "Вам не потрібно насправді захоплювати свою вітальню протягом наступних 12 годин, просто щоб знати, що в даний момент ваша собака перейшла килим перед диваном".

Інші компанії досліджують використання спеціалізованих обчислювальних технологій на AI, щоб зберегти конфіденційність користувачів. Наприклад, Apple iPhone X працює на мікросхемі A11 Bionic, який може виконувати завдання AI локально, дозволяючи виконувати складне розпізнавання обличчя, не надсилаючи фотографію користувача у хмару.

Більш обробка AI на межі може прокласти шлях для децентралізованого штучного інтелекту, де користувачі повинні ділитися меншими даними з великими компаніями, щоб використовувати програми AI.

Зменшення затримки

Ще одна проблема великих постачальників хмар - це те, що їх центри обробки даних розташовані за межами великих міст, розміщуючи їх за сотні та тисячі миль від людей та пристроїв, що використовують їхні програми.

У багатьох випадках затримка, викликана даними, які подорожують до хмари та з неї, може призвести до низьких результатів або, що ще гірше, до летальних результатів. Це може бути безпілотник, який намагається уникнути зіткнень або приземлення на нерівній землі, або автомобіль, що рухається самостійно, намагаючись вирішити, наїхав він на перешкоду чи пішохід.

Легка реалізація Movidius глибоких нейронних мереж та комп’ютерного зору робить його мікросхеми придатними для мобільних крайових пристроїв, таких як дрони, для яких енергоємне обладнання, таке як GPU, неможливо. Дрони є особливо цікавим дослідженням, оскільки їм потрібен доступ з низькою затримкою до обчислень AI і вони повинні продовжувати функціонувати в режимі офлайн.

Виявлення жестів як ще одна сфера, де обчислювальна техніка допомагає покращити роботу безпілотників. "Мета полягає в тому, щоб зробити безпілотники доступними для багатьох людей, і жести, здається, є хорошим способом для їх використання людьми. Затримка має значення, коли ви жестикулюєте дрон, щоб виконати якесь завдання", - говорить Ель-Уаззан.

Для стартапів, таких як Skylift Global, який надає важкі безпілотники для рятувальників та перших реагуючих, доступ із низькою затримкою до ШІ та обчислювальних ресурсів може врятувати гроші та життя. "Це значно скоротить витрати на прийом даних, зменшить затримку в мережі, підвищить безпеку та допоможе перетворити потокову передачу даних у рішення в режимі реального часу", - говорить Амір Емаді, генеральний директор і засновник Skylift.

Постачання перших реагуючих потребує рішень розділеної секунди. "Чим більше часу пройде, наприклад, для боротьби з дикою пожежею, тим дорожче стає виправлення ситуації. Оскільки наші безпілотники стануть здатними приймати рішення в реальному часі на межі, навіть коли вони втрачають зв'язок, ми зможемо зекономити більше життя, гроші та час », - каже Емаді.

Інші домени, які потребують обчислення в реальному часі, - це додатки з додатковою та віртуальною реальністю та автономні засоби. "Це все обчислювальне середовище, засноване на досвіді. Вони відбудуться навколо людей", - каже Закарі Сміт, генеральний директор Packet, штат Нью-Йорк, стартап, орієнтований на те, щоб розробники мали доступ до високорозподіленого обладнання.

Програма AR або VR, яка не може йти в ногу з рухами користувача, може спричинити запаморочення або перешкодити перетворенню досвіду в реалізацію. А затримка буде ще більшою проблемою, коли автомобілі, що керують автотранспортом, які значною мірою покладаються на алгоритми комп'ютерного зору та машинного навчання, стануть основними.

"Затримка на 30 мілісекунд не матиме значення для завантаження вашої веб-сторінки, але вона дійсно матиме значення для того, щоб автомобіль визначав із швидкістю 60 км / год, якщо він повинен повернути ліворуч або праворуч, щоб уникнути наїзду на дівчинку", - говорить Сміт.

Зустріч із проблемами краю

Незважаючи на необхідність наблизити обчислення до краю, розміщення спеціалізованого обладнання на кожному пристрої може бути не остаточною відповіддю, Сміт визнає. "Чому б просто не поставити всі комп'ютери в машину? Я думаю, що це дійсно пов'язане з еволюцією того, наскільки швидко ви можете контролювати життєвий цикл цього", - каже він.

"Коли ви вводите обладнання у світ, воно, як правило, залишається там протягом п’яти-10 років", - говорить Сміт, в той час як технології, що використовують ці випадки використання на основі досвіду, розвиваються кожні шість-12 місяців.

Навіть дуже великі компанії зі складними ланцюгами поставок часто борються з оновленням обладнання. У 2015 році Fiat Chrysler довелося відкликати 1, 4 мільйона транспортних засобів, щоб виправити вразливість безпеки, яка була викрита на п’ять років раніше. А гігантський виробник мікросхем Intel все ще намагається вирішити проблеми з дизайном, які піддають хакерам сотні мільйонів пристроїв.

Ель-Уаззан Movidius визнає ці виклики. "Ми знаємо, що з кожним роком нам доведеться змінювати асортимент продукції, тому що з кожним роком ми збираємося приносити більше інтелекту на межі, і ми будемо просити наших клієнтів оновити", - говорить він.

Щоб уникнути постійних викликів та дозволити клієнтам довгостроково використовувати їх крайне обладнання, Movidius накопичує свої процесори додатковими ресурсами та потужністю. "Нам потрібні можливості протягом наступних кількох років здійснювати модернізацію цих продуктів", - каже Ель-Уаззан.

Пакет, компанія Smith, використовує інший підхід: він створює мікро-центри обробки даних, які можна розгорнути в містах, ближче до користувачів. Потім компанія може забезпечити розробників дуже низькими затримками обчислювальних ресурсів - максимально наближеними до користувачів, не ставлячи фактичне обладнання на межі.

"Ми вважаємо, що буде необхідний механізм доставки інфраструктури для розміщення апаратних засобів, до яких розробники можуть отримати доступ у кожному місті світу", - говорить Сміт. Компанія вже працює в 15 місцях і планує врешті-решт розширитись у сотні міст.

Але амбіції Пакета йдуть далі, ніж створювати мініатюрні версії розповсюджених засобів, керованих подібними Google та Amazon. Як пояснює Сміт, розгортання та оновлення спеціалізованого обладнання не під силу загальнодоступній хмарі. У бізнес-моделі Packet виробники та розробники розгортають спеціалізоване обладнання в крайових центрах обробки даних, де вони можуть швидко оновлювати та оновлювати його, коли виникає потреба, а також забезпечуючи, щоб їх користувачі отримували надшвидкий доступ до обчислювальних ресурсів.

Хетч, один із замовників пакету, - це спінація від Rovio, мобільної ігрової компанії, яка створила Angry Birds. Компанія управляє Android на крайових обчислювальних серверах, щоб надавати потокові послуги для багатокористувацьких ігор з низькою затримкою для користувачів із пристроями Android низького класу.

"потрібні досить спеціалізовані сервери ARM на всіх цих ринках у всьому світі", - говорить Сміт. "Вони налаштували конфігурацію наших серверних пропозицій, і ми розмістили її на восьми світових ринках по всій Європі, і незабаром це буде 20 або 25 ринків. Їм це здається Amazon, але вони можуть запускати індивідуальне обладнання на кожному ринку Європи . "

Теоретично Хетч може зробити те ж саме в громадській хмарі, але витрати зробить це неефективним бізнесом. "Різниця полягає в тому, щоб розмістити 100 користувачів на процесор проти 10 000 користувачів на процесор", - говорить Сміт.

Сміт вважає, що ця модель сподобається поколінню розробників, яка сприятиме наступним нововведенням програмного забезпечення. "Те, на чому ми зосереджені, - це як з'єднати покоління програмного забезпечення, людей, які виросли в хмарі, зі спеціалізованими апаратними примітивами", - говорить Сміт. "Ми говоримо про користувачів, які не можуть навіть відкрити свій MacBook, щоб заглянути всередину, і це людина, яка збирається внести інновації в апаратний / програмний пакет".

Чи будуть розсіюватися хмари?

Завдяки тому, що крайові пристрої здатні виконувати складні обчислювальні завдання, чи небезпечне майбутнє хмари?

"Для мене крайові обчислення є природним і логічним наступним прогресом хмарних обчислень", - каже IBM Watson's High.

Насправді в 2016 році IBM розробила набір інструментів, які дозволяють розробникам безперешкодно розподіляти завдання між краєм та хмарою, особливо в екосистемах IoT, де крайові пристрої вже збирають багато даних про своє безпосереднє оточення. А наприкінці 2016 року компанія Amazon Web Services, ще одна основна платформа хмарних розробок, оголосила Greengrass, службу, яка дозволяє розробникам IoT запускати частини своїх хмарних додатків на своїх крайових пристроях.

Нічого цього не означає, що хмара відходить. "Там просто багато речей, які краще робити в хмарі, навіть коли на краю ще багато роботи", - говорить Хай. Сюди входять такі завдання, як агрегація даних з багатьох різних джерел та проведення масштабної аналітики з величезними наборами даних.

"Якщо нам потрібно створити моделі в алгоритмах AI, які ми використовуємо в цих крайових пристроях, створення та навчання цих моделей все ще є дуже масовою обчислювально-інтенсивною проблемою, і часто потрібна обчислювальна спроможність, яка значно перевищує доступну для цих крайових пристроїв", "Високий каже.

Ель-Уззане погоджується. "Можливість тренувати моделі AI на місцях вкрай обмежена", - говорить він. "З точки зору глибокого навчання, у навчанні є лише одне місце, де можна сидіти, і це в хмарі, де ви отримуєте достатньо обчислювальних ресурсів і достатньо місця для зберігання, щоб мати можливість працювати з великими наборами даних."

У програмі El-Ouazzane також використовуються випадки, коли крайові пристрої призначені для вирішення завдань, пов'язаних з місією та часом, в той час як хмара піклується про більш прогресивне поширення, яке не залежить від затримок. "Ми живемо у світі спадкоємності між хмарою та краєм".

"Існує дуже симбіотичний та синергетичний зв'язок між крайовими та хмарними обчисленнями", - говорить Хай.