Деякі з моїх улюблених занять на конференції «Техономія» на початку цього місяця стосувалися етики, цінностей, інновацій та того, як штучний інтелект почав грати в цих сферах.
Людські цінності для технологічного віку
Засновник техономії Девід Кіркпатрік розпочав конференцію з розмови про фокус на людських цінностях технології. Перша велика розмова була про "людські цінності" з Джулі Ханною, виконавчим головою Ківи, яка розповіла про технології як про демократизуючу силу і зазначила, що значна частина світу живе менше ніж на 2 долари на день. За її словами, "найбільшою формою справедливості є справедливий доступ".
Преподобний Майкл К. Макфарланд, казначей, Північно-Східна провінція Товариства Ісуса США, сказав, що ми повинні запитати себе, де справедливість, з точки зору способу використання технології, і думати про припущення, закладені в технології. Він переживає, що технології на робочих місцях, які можуть призвести до більшої ефективності та продуктивності, часто розгортаються, не замислюючись про вплив на працівників, які іноді зазнають руйнівного впливу. Він закликав присутніх почати з роздумів про досвід робітника.
Еріка Кочі, виконавчий директор з питань інновацій та співзасновник інновацій ЮНІСЕФ, зазначила, що сім років тому не було хорошого технологічного рішення, спрямованого на найбідніших з бідних, і єдиним спільним знаменником було текстове повідомлення. Її група зосередилась на створенні власних рішень за допомогою текстових повідомлень, і зазначила, що, хоча існують дуже недорогі телефони Android, ОС була побудована для людей з планом передачі даних, а не для тих, хто живе менше 2 доларів на день. "Якщо ми збираємося створювати продукти та послуги для людей, які не є нами, нам потрібно думати про це з їх точки зору", - сказала вона.
Ханна розповіла про "помилковий вибір між ціллю та прибутком, між місією та продуктом", і сказала, що керовані місією культури є кращими місцями для роботи, підвищення лояльності та сприяння створенню стійких компаній. Кочі сказав, що можна робити і те, і сказав, що основна модель бізнесу повинна бути узгоджена з соціальною відповідальністю, що не повинно бути чимось, що робиться на стороні.
Макфарленд говорив про акцентування уваги не тільки на акціонерах, але і на всіх зацікавлених сторонах компанії, і використав як приклад Bell Labs від AT&T перед розпадом компанії. Він стурбований невдачею інвестувати в довгострокові дослідження та розробки, і сказав, що "ми повинні змінити культуру щодо того, як ми думаємо про бізнес і що означає бути успішним".
Бібліотека
Мене вразило в наступній розмові Тоні Маркса, президента Нью-Йоркської публічної бібліотеки, який сказав, що, на відміну від припущення, що деякі бібліотеки відходять, він бачив нову технологію як найбільшу можливість в історії для бібліотек. завжди стояли за - допомагати людям отримувати інформацію.
Він зазначив, що раніше бібліотеки стримувались фізичними та фінансовими обмеженнями потрапляння людей до колекцій, але сказав, що це змінюється.
Бібліотеки можуть мати вплив на три великі способи, сказав він. Перший - це лише підключення людей, і він зазначив, що третина американців не має домашнього підключення до Інтернету, але бібліотеки можуть також служити для навчання людей, як користуватися комп’ютерами, а також як кодувати.
Він сказав, що, хоча сьогоднішні пошукові системи є "неймовірними", вони мають обмеження, і зауважив, що багато основної інформації про якість, що виробляється тисячоліттями зусиль, досі немає. Він сказав, що його бачення - пропонувати меценатам бібліотеки "кожну книгу, кожен образ, кожен документ і кожен архів в будь-якій точці світу безкоштовно".
Це все повертається до старомодного уявлення про бібліотеку як фундамент, сказав Маркс, і закликав нас уявити, чи всі таланти у світі мають здатність вчитися, творити та інновації, як би вони захотіли. "У нас є інструменти, щоб зробити це не зупинити", - сказав він. "Давайте зробимо це."
Боги в скриньках: Всемогутні алгоритми та приховані цінності
Орен Бойман, співзасновник і генеральний директор компанії Magisto, який використовує AI для редагування відео, сказав, що "комп'ютери стають все більше чорними скриньками", алгоритми, створені нейронними мережами, перемагають найкращі алгоритми, розроблені програмістами. Хоча ці алгоритми можуть приймати рішення набагато краще, ніж люди, ніхто не розуміє, як вони це роблять.
Вівіен Мінг, співзасновник та виконавчий голова компанії Socos, яка продає програмне забезпечення, яке допомагає дітям навчатися, надсилаючи батькам одну рекомендацію на день, розповіла про створення інтелектуальних алгоритмів. Вона сказала, що багато роботи з глибокими нейронними мережами залежить від тренувальних наборів, і розповіла про алгоритм розпізнавання обличчя, який не розпізнавав чорні обличчя через властиву тренуванню тенденцію. "Комп'ютери - це як люди", - сказала вона. "Це залежить від того, як ви їх піднімаєте".
Головний вчений Yahoo Рон Брахман сказав, що хоча ми використовуємо антропоморфізовані терміни для опису машин, все ще існує принципова різниця між людьми та комп'ютерами. Люди приймають рішення, виходячи зі своїх потреб і бажань, що дуже відрізняється від способів прийняття рішень в наші дні.
Бойман пояснив, як у більшості цих "чорних коробок" все пов'язано, і невеликі зміни введення можуть зробити великі, а іноді і хаотичні відмінності в результатах, наприклад, коли відео переходить у вірусне. Він сказав, що це робить речі непередбачуваними, і важко простежити за тим, що відбулося спочатку. Брахман зазначив, що ми не маємо можливості контролювати те, чого навчаються діти, те саме стосується обчислювальних механізмів.
Інтелектуальні бізнес-машини
Обговорення AI та етичні проблеми, що виникають, продовжилися на іншій панелі з керівниками деяких більш спеціалізованих програмних компаній. Бабак Ходжат, співзасновник і головний науковий співробітник компанії машинного навчання Sentient Technologies, сказав, що питання етики трохи відволікає, коли мова йде про ІІ, і що етика також впливає на всілякі інші технології, починаючи від смартфонів і закінчуючи оцінками FICO .
Джордж Джон, голова та засновник програми програмної рекламної компанії Rocket Fuel, відзначив переваги технології та сказав: "Якщо AI дійсно працює, люди повинні повернутися додому раніше". Він розповів про необхідність нових навичок управління та управління як людьми, так і розумними машинами. Він також розповів про пошук програм AI, які не просто підходять великим компаніям, але можуть принести користь і приватним особам.
Джаг Даггал, SVP відділу управління продуктами для вимірювальної аудиторії компанії Quantcast, сказав, що це інструменти, розроблені для того, щоб зробити нас більш продуктивними, зробити більше речей і розширити наші можливості. Він сказав, що існує безліч інновацій та продуктивності, які можуть вийти з цього, і сказав, що хоча є побоювання щодо надто гарної технології, він набагато більше стурбований межами технології.
Його особливо хвилювали стимули та те, що відбувається, коли алгоритми машинного навчання в кінцевому підсумку слідують за неправильними стимулами. Наприклад, він зазначив, як на ринку розміщення реклами в Інтернеті продавці електронної комерції кредитують останню рекламу, яку бачила людина перед тим, як зробити замовлення. Це призводить до націлювання більшої кількості оголошень після того, як людина вже відвідала сайт електронної комерції та часто після того, як хтось вирішив придбати; Іншими словами, коли реклама може бути марною. "Quantcast намагається надати кращі приклади", - сказав він.
Джон Штейн, засновник та генеральний директор інвестиційної компанії на базі AI Betterment, розповів про те, що може зробити технологія, і погодився, що важливо встановити чіткі стимули. Він розповів про дотримання довірених стандартів, таких як дія в інтересах вашого клієнта, і сказав, що прозорість має велику роль, щоб люди могли зрозуміти, де можуть виникати конфлікти.
Штайн заявив, що технологія з часом буде складніше бути злочинцем, але Дуггал сказав, що він більш скептичний, оскільки шахраї також мають технологію. Тим не менш, він вражений потенціалом технологій і навів приклад проекту від Google, в якому AI може виявити рак у родимок на шкірі. Він заявив, що переживає "неправильне обрамлення" питання з боку опонентів технологій.
