Техономія: як виправити те, що не так з google та facebook

Мабуть, найдивовижнішою темою цьогорічного «Техономіки» було те, як засмутило багатьох спікерів Facebook, Google та Twitter, і критики були зосереджені на їхньому підході до конфіденційності та, зокрема, на можливій ролі, яку вони відігравали у сприянні російському хакерству виборів 2016 року.

Широкий спектр спікерів виступає за різного роду регулювання цих "Інтернет-гігантів", і ніхто з жодної з вищезгаданих компаній не був на конференції, щоб запропонувати альтернативну точку зору. Це сильно відрізнялося від минулорічної конференції, коли генеральний директор Facebook Марк Цукерберг заявив, що думка, що фальшиві новини у Facebook вплинули на вибори, була "досить божевільною ідеєю".

З того часу, як зазначив співзасновник Techonomy Сімоне Росс, ми дізналися, що "техніка дозволяє нам так просто розділити, як зблизити нас". Співзасновник конференції Девід Кіркпатрік (вище) задав тон конференції, сказавши, що «технологія - це сила добра, але тільки якщо добро - ваша мета», і продовжував говорити, що вважає, що великим технологічним компаніям потрібна «активна» перехрестя "з урядом, називається воно регулюванням чи ні.

Авторитет у мережевому, штучно інтелектуальному світі

Відомий інвестор Роджер Макнемі з партнерів Elevation Partners, ранній інвестор як у Facebook, так і в Google, був, мабуть, найбільш негативним з усіх ораторів. Макнамі заявив, що ці компанії "почали рятувати світ", але це змінилося, коли реклама стала їх бізнес-моделлю. Він сказав, що смартфон у поєднанні з особистою інформацією дозволив "створити рівень хакерства мозку, якого ніколи не бачили в ЗМІ".

Макнамі заявив, що вважає Цукерберга щирим, коли він сказав, що рік тому не вірив, що таке злому можливо, але заявив, що роль, яку зараз відіграють Google та Facebook, не може бути завищеною. Він прокоментував: "Мабуть, важко бути ними зараз і зрозуміти, що ви знищили західну цивілізацію".

danah boyd, Data & Society; Роджер Макнамі, партнери з висоти; Марк Ротенберг, Електронний інформаційний центр конфіденційності (EPIC); Стратфорд Шерман, Асплі

Ця дискусія виникла в частині панелі на тему "Авторитет в мережевому, штучно інтелектуальному світі", на якій також був учасник Данах Бойд, соціальний вчений з досліджень даних і суспільства та Microsoft Research; Марк Ротенберг, президент Електронного інформаційного центру конфіденційності (EPIC); і модератор Стратфорд Шерман з Comppli. Шерман заявив, що, хоча Facebook і Google стартували як форуми для публічного виступу, вони "докорінно не врегульовані". Зі ШІ, який міг би принципово вплинути на людський рід на горизонті, Шерман сказав, що переживає за непередбачені наслідки технологічного розвитку, які ми вже бачили.

Ротенберг зазначив, що, хоча він і надалі переживає традиційні проблеми конфіденційності щодо відстеження та профілактики, він однаково стурбований відсутністю конкуренції, відсутністю інновацій та ризиком для демократичних інституцій. За його словами, Інтернет-гіганти мають величезну владу, а отримані ними дані створюють справжній бар'єр для входу, тому немає суттєвої конкуренції. Ротенберг заявив, що перебуває у Вашингтоні з часів адміністрації Рейгана, і вперше "минулорічні вибори не відчули себе знайомими".

На попередній сесії хлопець, який написав книгу під назвою " Складано ", розповів про труднощі протистояння маніпуляціям в Інтернеті.

Вона розповіла про ескалаційний процес маніпуляцій за останні 20 років, який розпочався з того, як діти тролінгували Опра та переходили до "рикролів" та таких речей, як зміна результатів пошуку назви "Санторум". Зовсім недавно, з Gamergate, більшу роль персонажів стали гравцями, включаючи державних акторів. Бойд зазначив, що інтернет-компанії вважають, що ШІ може їх захистити, але групи, що намагаються маніпулювати результатами, вже експериментують з обробкою природних мов, а головне, підробкою джерел даних. Наприклад, введення поганих даних у систему - це нова вразливість, на її думку. Тим не менш, Бойд сказав, що єдиною відповіддю буде "побудова технічних антитіл до нашої галузі".

На цьому засіданні Бойд зазначив, що технологічні компанії рахуються з маніпуляціями на декількох фронтах, і зазначив, що, хоча всі дивляться на Росію, є багато інших держав, які здійснюють подібні дії. Наприклад, китайські компанії намагаються гарантувати, що вони контролюватимуть ШІ, і вона сказала, що це становить інший виклик, оскільки мова йде не про промислову конкуренцію, а про конкуренцію державі.

На запитання Шермана, чи це війна, Бойд відповів, що вона вважає, що це так, а Макнемі сказав, що це класична партизанська війна в тому, що наші вороги використовували нашу технологію проти нас. Макнамі заявив, що проблема полягає не в соціальних мережах або пошуку, а в рекламній моделі. Він сказав, що в битві за увагу людей речовина закопується сенсацією, і цитував старе прислів'я, що "якщо воно кровоточить, воно веде".

Шерман зазначив, що страх і гнів набагато більш магнетичні і, отже, набагато дешевші. Він зазначив, що хоча органічні повідомлення використовуються для досягнення більш ніж 125 мільйонів людей, мета зусиль полягала в тому, щоб реклами сегментували людей у ​​групи на основі спільних інтересів.

Ротенберг заявив, що виступає за те, щоб алгоритми були прозорими, а реклама була регульована, але сказав, що ми повинні поважати право людей говорити в Інтернеті. Але Макнемі заявив, що "перша поправка була озброєна", і що інтернет-простори принципово відрізняються від публічної площі.

Бойд описав те, що вона називає "ефектом бумерангу", або іншими словами, ідея, яка провокує ЗМІ повідомляти про нецензурні речі, полягає в тому, що це підсилює оригінальне повідомлення для тієї аудиторії, яка недовіряє ЗМІ. Як приклад, хлопець розповів про Pizzagate. Вона зазначила, що перед Інтернетом засоби масової інформації часто використовували "стратегічне мовчання", щоб уникнути висвітлення таких речей, як самогубства та мітинги Клана, щоб уникнути їх розголосу.

Ротенберг погодився, що значна частина цієї традиції старанності та нагляду втрачена, і сказав, що такі розділи 230 (де говориться, що інтернет-компанії не відповідають за речі, такі як повідомлення користувачів) ускладнюють конкуренцію традиційним новинам.

Запросивши рішення, Макнемі сказав, що Facebook - це культ і що він повинен перестати заперечувати проблему і вирішувати її, а також почати вирішувати "депрограмування", звертаючись до кожного свого користувача. Ротенберг пропагував ідею регулювання. І Бойд припустив, що нам потрібно вкладати гроші в суспільство, щоб "переобладнати" Америку.

Розрахунки з новими гегемоністами

Марк Махані, ринки капіталу RBC; Дейв Морган, Сімульмедіа; Джойс Ванс, Університет Алабами; Девід Кіркпатрік, Техономія

На ранній панелі на тему "Розрахунки з новими гегемоністами" майже всі погодилися з Джойсом Венсом з університету Алабами, який сказав, що технологія дійсно випереджає закон, який відчайдушно потрібно наздогнати. Але Венс попередив, що існує також ризик "проскочити" політичні відповіді.

Дейв Морган, представник Simulmedia, сказав, що "буде регулювання", хоча він сказав, що великі компанії, можливо, зможуть уникнути значного впливу.

Морган зазначив, що історія медіа-індустрії дає паралель із тим, що ми бачимо зараз, оскільки газети вважали б себе друкарськими компаніями, а компанії з раннього мовлення вважали себе технологічними компаніями. Все це дозволяє забезпечити контакт із споживачами, що, очевидно, те, що роблять Google та Facebook. Багато антимонопольних справ виникло внаслідок такої концентрованої сили засобів масової інформації, і уряд зміг керувати ними. Одна велика відмінність сьогодні полягає в тому, що інші технології потребують географічного зв’язку, якого інтернет-компанії не потребують.

Венс зазначив, що зараз Сенат розглядає законопроект, який вимагатиме від цих компаній зберегти свою рекламну історію, а також дасть зрозуміти, хто платить за політичну рекламу. Але Морган зазначив, що зараз це глобальні компанії з більш широким охопленням. На запитання про європейські положення щодо конфіденційності GDPR, Венс сказав, що США цілком можуть поступитися лідерством ЄС у цій галузі. Вона сказала, що не думає, що американські компанії не зможуть дотримуватися дотримання норм у різних географічних районах, тому компанії за замовчуванням дотримуватимуться європейських норм.

Марк Махані з RBC Capital Markets заявив, що компанії вже регулюються, особливо в Європейському Союзі, зокрема, Google перевіряє розробку пакетів або просування своїх послуг разом з результатами пошуку або Android. Кіркпатрик заявив, що вважає, що антимонопольне врегулювання насправді допомагає Microsoft, але Мейні висловив противагу, що не регулятори зупинили Microsoft, а конкуренцію.

Чи можуть Технологія та Уряд врятувати демократію?

Тім Хван, FiscalNote; Мінні Інгерсолл, Кодекс для Америки; Марк Ротенберг, Електронний інформаційний центр конфіденційності; Молі Тернер, школа бізнесу в Берліні Хаас; Jon Fine, журнал Inc; Лоуренс Норден, юридична школа Нью-Йоркського університету

Аналогічна тематика вийшла на круглий стіл під сніданком під назвою "Чи можуть техніка та уряд врятувати демократію?", В ході якого модератор Джон Файн з журналу "Inc" попросив рішення. Однак на круглому столі насправді не було придумано жодного.

Хван сказав, що проблема полягає не в технологічних платформах, а у гніві, який люди відчувають внаслідок відключення від економіки.

Лоуренс Норден з Центру Бреннан в юридичній школі Нью-Йоркського університету сказав, що закони, що вимагають більшого розкриття інформації про політичну рекламу, є легкою відповіддю, але, на жаль, великою проблемою є "темні пости" або пости невідомого походження. В цьому відношенні, за його словами, Інтернет більше схожий на міську площу.

Але Ротенберг сказав, що це навпаки, і що Інтернет більше схожий на місто компанії, де платформи встановлюють правила і вирішують, що ви бачите. Мінні Інгерсолл з кодексу для Америки запитала, чи проблема в іноземному втручанні чи Google контролює те, що ми говоримо. Регулюючі органи повинні краще зрозуміти проблеми, сказала вона.

Моллі Тернер з Школи бізнесу бізнесу Берлінського університету Берклі Хаас заявила, що Інтернет став найбільшим засобом для самовираження, але переживає, що це підриває громадянський дискурс. З іншого боку, вона турбується про вимоги до платформ для видалення певних видів інформації (якщо, наприклад, Закон про поважність комунікацій був ослаблений або через інші види регулювання), оскільки раптом у цьому випадку платформа стає "арбітром мовлення ».

Ротенберг відповів, що в той час, як автомобільні компанії колись боролися з правилами безпеки, врешті-решт це допомогло зробити автомобілі більш безпечними та призвело до нових інновацій. Стабільне регуляторне середовище може насправді допомогти платформам, припустив він. Ротенберг зауважив, що технологічні компанії підштовхнули "мережевий нейтралітет" для телекомунікаційних компаній, але не для себе, і закликав до рівних умов.

Інтернет під атакою

Марк Андерсон, Служба стратегічних новин; Педер Юнгк, BAE Systems Intelligence & Security; Ребекка МакКіннон, Нова Америка; Девід Кіркпатрік, Техономія

Заключна панель під назвою "Інтернет під атакою" продовжила цю дискусію.

Ребекка МакКіннон, яка керує проектом «Рейтинг цифрових прав» у Новій Америці, сказала, що колись було припущення, що через Інтернет авторитарні режими з часом стануть схожими на демократії. Зараз вона більше боїться, що авторитарні режими і демократії "зустрінуться посередині".

Маккіннон заявив, що авторитарні режими адаптують Інтернет до своїх цілей, тоді як демократії стикаються з популізмом, маніпуляціями та "капіталізмом нагляду". Але, за її словами, демократії слід бути обережними щодо регуляторного реагування - хоча вона погоджується з тим, що необхідна більша прозорість щодо алгоритмів та конфіденційності, вона стурбована тим, що система цензури полегшить розбиття на частини. презирство уряду суспільства

Педер Юнгк, який очолює систему розвідки та безпеки для BAE Systems, погодився, що уряди хочуть використовувати такі системи для пошуку дисидентів, і сказав, що ідея є продуктом, і, як і будь-який продукт, її можна підштовхнути. На запитання, чи рекламні системи озброєні, він сказав: "Коробка Пандори відкрита, і ми не можемо повернутися назад".

Марк Андерсон, Служба стратегічних новин, сказав, що ми бачили пряму лінію від часів ARPANET, коли не було поганих хлопців, до сьогодні, коли ми з кожним днем ​​бачимо все більше зловмисної поведінки.

Андерсон був особливо чітким, коли описував, як Китай краде інтелектуальну власність і використовує її, щоб вигнати компанії з бізнесу. І він припустив, що хак Equifax мав усі позначки нападу уряду. Підводячи підсумки, Андерсон сказав, що "не бачить рішення".

Юнгк сказав, що ми повинні припустити, що в наших системах є погані хлопці та працювати над рішеннями. Наприклад, він сказав, що номер соціального страхування вже не може бути захищеним, тому нам може знадобитися рішення блокчейн.

У проекті «Рейтинг цифрових прав» MacKinnon оцінив 22 глобальні компанії на 35 питань щодо таких питань, як свобода вираження поглядів, конфіденційність та безпека. Вона сказала, що дві компанії отримали "Ds", а всі інші зазнали невдачі. Вона хоче знати, що компанії роблять з вашими даними; з ким вони діляться; чи проводять належну ретельність, оцінки безпеки та управління ризиками; і чи захищають вони конфіденційність та безпеку, вміст та вираз. Прозорість недостатня, за її словами, але це необхідний перший крок.

Андерсон сказав, що прозорість - це добре, але не рішення, і зазначив, що той, хто хоче маніпулювати системою, не повинен платити за рекламу, але може використовувати 100 000 ботнетів. Кіркпатрик тоді припустив, що компанії можуть присвоїти особу і таким чином зменшити використання ботнетів.

Але Маккіннон висловив противагу, що саме правозахисники найбільш вразливі до використання подібних систем, адже якщо ви впроваджуєте ідентичність, ніхто з тих, хто виступає проти авторитарного уряду, не буде в соціальних мережах.

Юнгк запитав, чому нам потрібно встановити особу, коли сайти вже знають, хто ти і що збираєшся купувати. "В Інтернеті немає анонімності. Він давно минув", - сказав він. Різниця лише в тому, скільки часу потрібно, щоб зрозуміти, хто ти.

На закінчення Маккіннон сказала, що вона оптимістична в дуже довгостроковій перспективі, але протягом наступних 100 років "не так вже й багато".

Слухаючи все це, легко бути песимістичним або, принаймні, фаталістичним щодо необхідного регулювання та впливу, який він матиме. Але я все ще прагну бути оптимістом, і, хоча я вважаю, що додаткове регулювання є імовірним, і необхідним, я вважаю, що так само ймовірно, що сьогоднішні гіганти Інтернету, або деякі майбутні гравці, знайдуть кращі відповіді.

З якою ймовірністю ви рекомендуєте PCMag.com?