Конференція з кодами: youtube, facebook, twitter execs щодо скорочення поганого вмісту

Слідом за іншими технологічними конференціями, цьогорічна конференція з кодексом зосередилась на недостатках технологій, зокрема соціальних медіа, з лідерами Instagram, Twitter та YouTube, які розглядали політику щодо зняття чи нерозголошення сумнівного контенту.

Усі ці керівники, здавалося, мали певну зміну наступної розмови: Так, на нашій платформі є погані речі. Ми повинні були знати раніше. Ми намагаємось покращити справи. Але важко. Просимо вибачення, якщо вас образили.

Це все має сенс, але це не змушує всіх критиків або замовчувати голоси, що закликають до розриву або принаймні більшого регулювання великих технологічних платформ. Ось що на виставці сказали деякі керівники та деякі критики.

YouTube

Генеральний директор YouTube Сьюзан Войчицкі описала зміни в політиці платформи щодо мови ненависті, сказавши, що якщо відео тепер стверджує, що якась група (наприклад, раса чи релігія) є вищою, це більше не буде дозволено; також не буде відео, у якому стверджується, що інша група неповноцінна. За її словами, фірма також додала до групи захищених списків більше груп, включаючи касти в Індії та жертви перевірених насильницьких подій (таких як Голокост). Вона сказала, що це лише деякі з багатьох змін у політиці, які фірма внесла за останній рік. Вона також розповіла про обмеження розповсюдження "прикордонного контенту", тому деякі відеозаписи, які не заблоковані, не включаються до рекомендацій YouTube і не є доступними для монетизації. Це, за її словами, зменшило їхню кількість на 80 відсотків.

Але вона визнала, що все це продовжує вести суперечки, розпочавши своє інтерв'ю, вибачившись перед LGBTQ-спільнотою, і сказала, що розуміє, що її рішення шкодять цій громаді, але це не було наміром. Суперечка стосується рішення YouTube заборонити відео зі Стівена Кроудера залишатися на сайті, незважаючи на скарги Карлоса Маза від Vox про те, що Кроудер переслідує його та інших коментарями проти ЛГБТК. (Vox ставить на конференцію Code.)

"Контекст насправді має значення", - сказав Войчицький, сказавши, що перед тим, як фірма видалить відео, він розглядає, чи присвячено це відео переслідуванням, або одночасове відео з расовою підвіркою, чи це публічна особа, і чи є це зловмисним. у намірі Вона сказала, що визначити щось шкідливе - це висока планка для фірми, сказавши, що їй потрібно послідовно застосовувати політику, оскільки завжди знайдуться відео, на які люди скаржаться. Вона зазначила, що в таких речей, як реп-пісні, переговори пізньої ночі та багато гумору, ви можете знайти безліч расових висловлювань та сексистських коментарів. Вона сказала, що компанія хоче працювати над тим, щоб змінити політику, а не мати реакцію на "колені" на окремий випадок.

Зрештою, вона сказала, що компанія вирішила, що ці відео не є переслідуванням і не порушує політику, і сказала, що це було правильним рішенням. Але вона сказала, що компанія призупиняє монетизацію - отримуючи прибуток від рекламодавців відео, розміщених на відео.

Вона сказала, що якби YouTube зняв це відео, було б стільки іншого вмісту, який він мав би зняти. Але вона сказала, що фірма зніме речі, і що багато змін, внесених у політику ненависті, дійсно будуть корисними для спільноти LGBTQ і призведуть до зняття відеозаписів. І вона повторила вибачення за шкоду, яку вона могла заподіяти.

На запитання ведучого конференції Петра Кафки, чи масштаб YouTube - з 2 мільярдами користувачів та 500 годин відео, що завантажуються щохвилини - означає, що ви ніколи не зможете вирішити проблему, Войчицкі сказав: "Ми можемо покращити те, як ми керуємо платформою, і я бачу, як багато ми покращили ". Вона зазначила, що фірма помітила на 50 відсотків зменшення кількості насильницького контенту за останні два роки, і понад 10 000 людей працюють над контентом. Але вона підштовхнула увагу до поганих речей на платформі, зазначивши, що також було багато чудового контенту. "Вся стурбованість пов'язана з цим частковим відсотком вмісту", - сказала вона. Але вона визнала, що для вирішення цього контенту потрібно зробити багато роботи, і сказала, що компанія вкладає кошти в інструменти та докладає зусиль для вирішення цього питання.

Вона відмовилася від пропозиції про те, що для завантаження відео може бути бар'єр, кажучи, що "ми втратимо багато голосів". Але вона говорила про те, щоб мати більше "довірених рівнів" відео, щоб кожен міг почати завантажувати речі, але для ширшого розповсюдження він повинен відповідати певним правилам.

"Ми бачимо всі ці переваги відкритості", - сказала вона, але зазначила, що YouTube несе відповідальність за розуміння вмісту та вирішення того, що слід рекомендувати та що слід рекламувати.

Войчицький заявила, що вірить, що YouTube і Google будуть стикатися з більшою регламентацією, вказуючи на нові норми щодо авторських прав у Європі, але заявила, що регуляторним органам важливо зрозуміти, як реалізувати ці речі розумними способами через потенціал непередбачуваних наслідків.

На запитання Кевіна Руза з The New York Times про те, чи сприяв YouTube радикалізації політики (на основі недавньої історії, яку він зробив) Войчицкі сказав, що сайт серйозно сприйняв проблеми радикалізації та в січні вніс ряд змін, які зменшили рекомендації "прикордонного вмісту" на 50 відсотків.

Вона сказала, що YouTube хоче запропонувати широкий спектр думок, коли користувачі вибирають те, що хочуть бачити, але стурбована, і сказала, що вважає, що такі зміни в політиці та рекомендаціях матимуть значне значення.

Instagram та Facebook

Двоє керівників Facebook розповіли про те, як Facebook, зокрема Instagram, поводилися з критикою.

Адам Моссері, який очолює Instagram, заявив, що ми спостерігаємо "перехід парадигми на більш приватні форми комунікацій", зазначивши, що все зростання в Instagram відбулося завдяки розповідям та повідомленням. Він зазначив, що історії швидкоплинні, тоді як подача краще, якщо ви хочете, щоб речі були навколо. Він зазначив, що розповіді не про "комунальні повідомлення", а про "розмовні початківці".

Моссері заявив, що в компанії "дуже гострі дискусії", оскільки існує реальна напруга між приватним життям та безпекою. Він сказав: "Ми поклали частку на те, що повідомлення повідомлень повинно бути абсолютно приватним", але погодився, що фірмі потрібен час для роботи та час, щоб розібратися у шляхах безпеки.

Ендрю Босворт, який здійснює нагляд за штучною реальністю, віртуальною реальністю та іншими вдосконаленими проектами для Facebook, зазначив, що конфіденційність іноді означає конфіденційність від Facebook, але інші хочуть конфіденційність від уряду чи від пристрою. Історично він сказав, що конфіденційність для Facebook означає контроль над даними та хто може їх бачити. Але він зазначив, що це відбувається по-різному, і він сказав, що "глобальна розмова не матиме однієї відповіді", оскільки різні ринки мали різні погляди на державний контроль та безпеку.

На запитання Кейсі Ньютона Верге про те, чи було б зруйнувати Facebook і зробити Instagram окремою компанією, Моссері сказав: "Це може полегшити багато мого життя, і це, можливо, буде корисно для мене як особистості, але Я просто думаю, що це жахлива ідея ". Він сказав, що з питань, таких як чесність виборів та мова ненависті, Instagram просто би ускладнив експоненційну складність у безпеці своїх користувачів. Він заявив, що спочатку обіцяв залишати Instagram незалежним від Facebook, але порушив цю обіцянку, коли справа стосувалася особливостей безпеки, оскільки у Facebook більше людей, які працюють над безпекою та цілісністю, ніж загальна кількість людей, які працюють в Instagram.

Моссері заявив, що в принципі здорово переживати прохання про підзвітність, і Facebook допустив помилку, не зосередившись достатньо навмисно на непередбачуваних наслідках у перші роки. "Нам потрібно зробити більше, щоб розвивати та вирощувати добро та вирішувати негативне", - сказав він.

Босворт сказав, що коли сайт невеликий, весь вміст може бути переглянуто, хоча це викликає у нас проблеми конфіденційності. Коли вона стає більшою, ви не можете переглядати весь вміст вручну, але отримуєте більше ресурсів та "економію масштабу". Він погодився з тим, що Facebook "сильно відстає у цьому", але сказав, що компанія інвестує великі кошти, заявивши, що вважає це вирішуваною проблемою, і що фірма працює і над технічними рішеннями, і з регуляторами над тим, як реагувати. Ви не наближаєтесь до їх вирішення, розділяючи на команди і надаючи кожній команді менше ресурсів, додав він.

На запитання, чи Facebook не може вирішити ці проблеми, оскільки він пропонує послуги, що підтримуються рекламою, Босворт сказав, "це коштує нам більше, ніж мати будь-який з цього граничного вмісту на платформі". За його словами, у Facebook було десятки тисяч людей, які переглядають вміст. Якби компанія мала бути безжальною і позбутися всієї мови, яка взагалі суперечлива, він сказав, що це було б ефективніше.

Моссері сказав, що ми повинні пишатися тим, що ви можете користуватися цією послугою безкоштовно. Компанія сказала, що реклама - це те, що дозволяє компанії надати це, і в основному за це платять люди, які можуть собі це дозволити. Якщо ви відсікаєте рекламу, ви обрізаєте людей.

Одна зміна, яку Instagram тестує, ховає "лайки" в системі. Моссері сказав, що ми не хочемо, щоб Instagram був "середовищем, що знаходиться під тиском", і зазначає, наскільки лайки можуть бути конкуренцією. Він був бичачим щодо того, щоб робити лайки і вважає приватним, але сказав, що це просто експеримент.

Моссері також розповів про пристрій порталу компанії, який, за його словами, "залишив функціональність таблиці", усунувши запис розмов. Він сказав, що ми бачимо ціле нове покоління апаратних засобів із розумними динаміками, але Facebook хотів переконатися, що "людський зв'язок - це використання для перших сторін", але вбудована конфіденційність.

Босворт зазначив, що Facebook розглядає ВР як "можливість поглибитись" і мати значущий досвід навіть тоді, коли ви там не можете бути

Twitter

Два керівники Twitter вирішили подібні проблеми, зіткнувшись із думкою співголова конференції Кара Свішер, що платформа є "вигрібною ямою", побудованою на людях, які можуть сказати все, що хочуть, а потім сказати жахливі речі.

Twitter є "принципово орієнтованим на те, щоб люди могли розмовляти на публіці", - сказав керівник продукту Кайвон Бейкпур. Він сказав, що мета сайту - "служити публічній розмові", яка "допомагає людям навчатися, допомагає людям вирішувати проблеми та допомагає людям усвідомити "Все в цьому разом". Це вихідний пункт, але він сказав, що існує "екзистенційна криза", тому що якщо розмова не буде здоровою, люди не захочуть брати участь.

Бейкпур зазначив, що більшість людей у ​​Twitter не мають великих платформ, а мають десятки чи сотні підписників, і що люди користуються сервісом для пошуку людей, які мають однодумці.

Vijaya Gadde, керівник юридичної, публічної політики та безпеки в Twitter, заявив, що фірма спочатку прагнула до повного вільного вираження поглядів, але тепер усвідомлює той вплив, який ми маємо. За її словами, фірма має політичну основу, орієнтовану на основні права людини, такі як безпека та вільне вираження поглядів.

Вона зазначила, що фірма зараз має справу з відсутністю довіри та дезінформацією на платформі. У квітні, в контексті виборів в Індії та Європі, вона заявила, що фірма запровадила нову політику, розроблену для стримування дезінформації щодо того, як зареєструватися для голосування чи де голосувати. Вона сказала, що це все ще процес навчання, зазначивши, наприклад, що деякі анекдоти були видалені. В інших сферах, за її словами, якщо ви шукаєте інформацію про вакцини, вас зараз направлять до надійних джерел. Мета полягає в тому, щоб запобігти "офлайн-шкоді" для людей.

Гадде зазначила, що Twitter має "історичну перевагу не бути арбітром правди", але визнав, що це було важко зробити в масштабах. Натомість, за її словами, фірма намагалася розширити вміст, який надходить із авторитетних джерел. З часом, за її словами, фірмі доведеться робити більше і сказала, що стежить за тим, що роблять інші платформи.

Бейкпур заявив, що історично Twitter "переоцінився" на спроби вирішити через політику та правозастосування, а не через продукт та технології. Він сказав, що компанія досягла успіху в питаннях охорони здоров'я, і ​​зробить більше. Він зазначив, що фірма щойно випустила нову спрощену політику, яку було легше читати, і це дасть можливість кращого виконання. В даний час, за його словами, 40 відсотків твітів фірмові "дії" здійснюються проактивно, на відміну від скарг.

Він сказав, що фірма зменшує вміст, і нова політика зменшила кількість зловживань, повідомлених на 45 відсотків; а кількість блоків рахунків на 30 відсотків. Крім того, він зазначив, що компанія зараз кидає виклики та блокує більше входів, щоб намагатися запобігти реєстрації зловмисних облікових записів; але все ще стикається з такими проблемами, як груба відгадка пароля.

На запитання про побоювання, що платформи соціальних медіа призводять до посилення радикалізації, Гадд визнала, що це хвилює. "Я думаю, що на Twitter і на кожній платформі є вміст, який сприяє радикалізації", - сказала вона. Але вона додала, що у фірми існує багато механізмів та політик, які борються з цим. Вона сказала, що 90 відсотків усього терористичного вмісту знімають негайно і заборонили 110 насильницьких екстремістських груп.

Гадде зазначив, що правила Twitter "є живим документом", а нові дослідження відповідають на нові шкоди, підказуючи фірмі, якщо є більше, ніж ми можемо зробити. Вона зазначила, що "погані речі трапляються і на приватних платформах". Оскільки Twitter повністю відкритий, за її словами, кожен може бачити та відповідати. Але вона зазначила, що відкритість може бути недоліком, оскільки це дає платформу людям. Вона сказала, що компанія намагається знайти правильний баланс між суспільним інтересом та здатністю переглядати та реагувати та проблемами, які може спричинити вміст. Вона зазначила, що фірмі потрібно працювати над глобальними рішеннями, оскільки 80 відсотків її користувачів не були у США

Вона розповіла про важливість прозорості та чітко зрозуміла, які правила є. Але вона також зазначила новизну контенту, зазначивши, що з громадськими діячами, навіть якщо Twitter видаляє твіт, цей контент приверне увагу.

Відповідаючи на запитання аудиторії, Гадде сказала, що Twitter "дуже і дуже зосереджений на радикалізації", кажучи, що якщо ви заявляєте про асоціацію з насильницькими екстремістськими групами, ви не можете бути в Twitter. Але вона сказала, що фірмі належить зробити роботу, щоб зрозуміти, як зробити більше, і що зміни відбудуться. Відповідаючи на ще одне запитання щодо зловживань, спрямованих на жінок, вона сказала, що можливість активізації Twitter буде мати велике значення. Але вона сказала, що дуже переживає замовкнення голосів, особливо тих, що належать до груп меншин та жінок.

Бейкпур сказав, що одне можливе рішення - це надати клієнтам більше контролю над тим, як вони можуть почувати себе безпечніше на платформі, наприклад, надати авторам можливість модерувати відповіді в межах теми розмови. Він також розповів про нові види розмов, зазначивши, що нинішній Twitter - це лише загальнодоступні твіти, які живуть вічно та прямі повідомлення. Він зазначив, що між ними фірма не підтримує, але розглядає такі речі, як публічна бесіда, яка може бути обмежена чотирма людьми.

Середній

Єв Вільямс, генеральний директор Medium та співзасновник Blogger та Twitter, зосередився більше на Medium - послузі підписки, яка, за його словами, зростає здоровими темпами, але не даватиме чисел. За його словами, люди підписуються на послугу для ідей та перспектив, з тем від здоров'я до JavaScript до літературного письма.

Він обговорив, наскільки вміст групи може бути важливим. Він сказав, що "дуже бичачий на передплату редакційного вмісту", але це може бути важко для багатьох веб-сайтів. "Ми не підписуємось на телевізійні шоу чи музичні виконавці окремо." Натомість за допомогою Medium він намагається створити платформу, яка включає власні сайти та керовані сайти, а також різноманітність інших сайтів. За його словами, щомісяця сотні тисяч людей пишуть щомісяця.

Він був переконаний, що пакетний контент буде успішним, і сказав, що прямих конкурентів немає, хоча будь-який веб-сайт, який має передплату і щось подібне до Apple News + зі своїм пакетом журналів, конкурує.

Вільямс заявив, що політика «Середнього» змінилася з часом і що модерація її вмісту зараз «досить агресивна» у тому, що він готовий зняти. Він сказав: "Все, що ми рекомендуємо, спочатку схвалюється людиною". Він визнав, що це означає, що сайт ніколи не буде настільки великим, як соціальні медіа, але, за його словами, "обмін цінності фірми", який розміщує ваш вміст у кураційному пулі, але позаду платної стіни, буде масштабуватися.

Хоча він зосередився на «Медіа», Вільямс все ж обговорював соціальні медіа та блоги. Він сказав, що пропускає вести щоденник, як щось середнє між надзвичайно випадковими думками у соціальних мережах та статтями, що довго формуються. Він сказав, що в блогах речі можуть "маринуватися" на відміну від "залежності від короткотермінового зворотного зв’язку, яка згубна для думки".

Проблема, за його словами, полягає в тому, що "Миттєвий зворотній зв'язок, мабуть, плутає здорові розмови". Він зазначив, що люди зачіпляються за короткочасні відгуки, такі як публічне показ підписників або подобається у публікації. Він сказав, що неможливо жити в такому середовищі, і не потрібно, щоб це змінило вашу поведінку. Інші системи з повільнішим зворотним зв'язком, такі як інформаційні бюлетені або подкасти, дозволяють отримати більше контексту та кращі розмови. "Якщо кожен фрагмент спілкування повинен стояти самостійно, ви втрачаєте здатність заглиблюватися", - сказав він.

Він сказав, що політична розмова була "галасливішою, ніж це було колись", і це ускладнює, навіть якщо ви хочете почути багато перспектив. Але він сказав, що є яскраві плями.

"Причиною, що я хвилювався в першу чергу в Інтернеті, я вважав, що це зробить нас розумнішими", - сказав Вільямс. Він думав, що якщо люди можуть викласти ідеї там, світ зробить розумніший вибір. Але він сказав, що так не вийшло через системи зворотного зв'язку та стимули. "Частина цього є межею людського уваги", - сказав він, зазначивши, що більше інформації не робить нас розумнішими, якщо ми не знаємо, як її перетравити або як її контекстуалізувати, особливо якщо є галузі, які намагаються змусити купувати речі.

Це одна з причин, що він почав працювати над "Середнім" 7 років тому. Він зазначив, що за послугу передплати клієнти платять, тому вам потрібно створити продукт, який хтось вважає достатньо цінним для оплати. Він сказав, що це краще, ніж реклама, яка зосереджена на тому, наскільки дешево можна привернути чиюсь увагу.

Панель критики

Звичайно, на великих платформах також було багато критики. Зокрема, в одну колегію входили Ніколь Вонг, колишній заступник головного директора з технологій США та колишній заступник генерального радника Google; Джессіка Пауелл, колишня віце-прем'єр-комунікація в Google та автор "Великого зриву" ; та Антоніо Гарсія Мартінес, колишній Facebook і автор книги Chaos Monkeys.

"Це не нові проблеми. Вони існують з самого початку", - сказала Пауелл, зазначивши, що вона стурбована "непередбачуваними наслідками" і що моніторинг контенту є важким. Вона сказала, що чудово, що платформи проводять більш жорстку політику, "але вони мали бути там набагато раніше".

Вонг зазначив, що в першу епоху Інтернету "ми будували технології і думали, що ми змінимо світ назавжди". Вона сказала, що це дивовижно і досі існує, і що люди в техніці багато в чому можуть робити добро. Але вона сказала, що люди лінуються не визнавати, що технологія не є доброю. Вона сказала, що зараз ми знаємо, що таке бачити "озброєний Інтернет", і ми повинні будувати системи для обліку цього. "Ніхто не повинен нам безкоштовного та відкритого Інтернету, розробленого для нашого блага, і ми повинні будувати це".

Гарсія Мартінес заявив, що якщо хтось збирається регулювати виступ у Facebook, це повинен бути уряд. "Демократія - це структура, де ви отримуєте відповідальність, а не корпорація", - сказав він. Але він сказав, що думає, що Facebook все-таки повинен бути розбитий, а Instagram та What App розділені, кажучи, що якщо підняти планку модерації вмісту, ви можете отримати конкурентну перевагу.

Пауелл сказав, що є вагомий аргумент, що якщо у вас буде більше даних, ви можете краще тренувати моделі AI, так що вам потрібно менше модерації. Але вона припустила, що галузь може придумати спосіб збору інформації для всіх гравців, сказавши, що це вже зроблено для експлуатації дітей і що ми повинні мати можливість розібратися, як це зробити для знущань. В цілому, за її словами, будь-яке регулювання має стосуватися питань контролю та прозорості, заявивши, що це неправильно, що сьогодні стартап повинен турбуватися про шлях, який потрібно придбати.

Гарсія Мартінес заявив, що між конфіденційністю, зручністю та безпекою завжди є компроміс, і сказав, що це нормально, якщо ви знаєте, які компроміси ви робите. Але він запропонував позбутися сторонніх агрегаторів даних.

В іншому сеансі комік і критик Баратунде Турстон висунув власну платформу про "дев'ять способів не накрутити майбутнє". Ці елементи включають оцінку прозорості та довіри, змінюючи за замовчуванням для закриття розмов; власності та портативності даних. Але найбільше уваги він отримав, описуючи Facebook як "хмарну службу вибачень", пропонуючи "Вибачення як послуга".

Крім того, професор Нью-Йоркського університету Скотт Галлоуей, відомий своєю книгою «Чотири: прихована ДНК Амазонки, Apple, Facebook та Google», зробив ряд прогнозів на майбутній рік. До них належать прогнози, що старший чиновник Facebook буде заарештований і затриманий на іноземній землі, і що буде більше регулювання великих технологічних компаній. Він заявив, що думає, що завдяки спинофанам та поломкам Big Tech додасть більше вартості, ніж загальна капіталізація Boeing та Airbus у наступні півроку.