Microsoft розбиває, як запустити етичний магазин

Президент Microsoft Бред Сміт зробив незвичний крок публікації публікації в блозі в п’ятницю, 13 липня 2018 року, в якій він попросив уряд регулювати технології, які розробляє його власна компанія. Ця технологія є розпізнаванням обличчя, і Сміт вже бачить небезпеку в тому, щоб дозволити безперешкодно використовувати таку можливість, особливо урядами. Але Сміт також зазначив, що неправомірне використання розпізнавання обличчя в приватній промисловості може мати наслідки, що настільки ж важко.

Через кілька днів Асоціація обчислювальної техніки (ACM) розмістила на своєму веб-сайті Кодекс етики та професійної поведінки ACM, який є новим кодексом професійної поведінки, який займає схожу позицію з Microsoft, але той, який є значно ширшим у своїй висвітлення етичної поведінки в бізнесі інформаційних технологій (ІТ). Обидві посади мають спільне - ідея підтримки високого рівня корпоративної відповідальності. Це те, що багато ІТ-фахівців намагаються ігнорувати та залишати людям вище в ланцюжку харчування на високому рівні - таке ставлення, яке є прикрим і небезпечним.

Сміт у своїй публікації в блозі хвилює неправильне використання розпізнавання обличчя. Він розуміє, що навіть у великих кампусах, організованих навколо сучасних технологій, особливо жетонів безпеки, таких як ті, які використовуються у багатьох системах управління ідентичністю, можна дуже точно відслідковувати, де люди, і, звідти, випробовувати, що вони роблять. Але за допомогою розпізнавання обличчя можна виділити людей з будь-якого натовпу де завгодно, і не тільки відстежувати їхнє місцезнаходження, але й вести облік того, де вони опиралися на основі мало даних, окрім їх фізичних особливостей. Як зазначає Сміт, таке відстеження вже відбувається в Китаї. Сміт просить комісію з вивчення використання та наслідків розпізнавання обличчя у Сполучених Штатах.

Розпізнавання обличчя як надійна форма посвідчення особи

Зрозуміло, що у багатьох випадках в США 24-годинний моніторинг руху фізичної особи є незаконним, про що свідчать останні рішення Верховного Суду США щодо використання відстеження місцезнаходження мобільних телефонів та використання GPS-пристроїв без дозволу. Але це не означає, що якесь агентство десь не намагатиметься.

Крім того, немає сумніву, що розпізнавання обличчя прогресувало до того, що його можна використовувати як надійну форму ідентифікації (ІД). Вже зараз деякі авіакомпанії випробовують розпізнавання обличчя для проходження через лінії безпеки та для використання в посадкових літаках у міжнародному аеропорту Лос-Анджелеса (LAX). Так само, коли я повернувся до Вашингтона, коли виїхав з Лондона минулого місяця, все, що мені потрібно було в'їхати до США, - це перегляд мого обличчя фотоапаратом та сканування відбитків моїх пальців, коли мій паспорт сканувався читач.

Розпізнавання обличчя: Наступні кроки

Отже, питання в тому, що наступний крок? Припустімо, ІТ-професіонал, припустімо, вам запропонують створити систему розпізнавання обличчя для свого роботодавця, яка б визначала людей, яких компанія не хотіла на їхньому майні чи в приміщеннях. Можливо, вони пройшли погану перевірку, підозрювались у крадіжках або були звільнені з посади працівника.

Що б ти зробив? Все це є вагомими причинами не пускати людину у ваш магазин чи на вашу власність. Швидше за все, у вас не виникне особливих проблем з пошуку їх фотографій, тому система розпізнавання повинна легко мати змогу їх ідентифікувати. Отже, що далі?

Це частина вашого процесу прийняття рішень, в якій вам потрібно вирішити, як використовувати розпізнавання обличчя або інші біометричні дані для цього, як частину вашої політики безпеки. Це не так нарізано і висушено, як ваша відповідь на попередження від зловмисного програмного забезпечення від одного з вузлів захисту кінцевих точок. Ці відповіді неможливо легко автоматизувати. Отже, ти б почав тривогу? Сторінка менеджера закладу? Безпека сповіщення? Виклич поліцію? Відповідь на будь-яке з них може бути так, але це також може бути ні, і неправильне рішення може бути помилкою у кар’єрі.

7 порад щодо розумного використання розпізнавання обличчя

Ось кілька порад, які можуть допомогти зменшити ймовірність виникнення неприємностей, зберігаючи вашу організацію:

Опублікуйте повідомлення про те, що відвідувачі та працівники побачать їх, повідомляючи їх, що ви використовуєте відеоспостереження та розпізнавання обличчя як частину операцій із безпеки. (Ваші юристи будуть раді допомогти фактичною мовою.)

Переконайтеся, що в циклі є людина, перш ніж будь-які дії будуть здійснені на основі будь-якого біометричного ідентифікатора. Хоча це стає краще, розпізнавання обличчя, як і інші біометричні показники, не є на 100 відсотків надійним. Перш ніж вжити заходів, комусь потрібно підтвердити те, що говорить система розпізнавання. (Попрацюйте зі своїм юридичним департаментом та вищим керівництвом, щоб визначити це.)

Визнайте обмеження системи обличчя чи біометричної ідентифікації. Наприклад, сучасні технології розпізнавання обличчя найкраще працюють з білими самцями, але не так добре з небілими жінками. Вам потрібно переконатися, що ви ненавмисно не виконуєте расового профілювання. Згадайте горе, яке зазнало компаній, від CVS до Starbucks, коли вони навмисно чи ні, вони робили саме це. (Загалом, дуже хороша дискусія з вашою юридичною командою.)

Переконайтеся, що є процедура "На жаль". У вас будуть неправильні посвідчення особи, тому вам потрібно переконатися, що вони не бентежать людину чи компанію. (Знову ж, і юристи вашої компанії, і керівництво вищого керівництва мають тут зважитись.)

Заздалегідь визначте, де ви збираєтеся поділитися результатами перевірок посвідчення особи. Ви не можете просто надіслати все до різних державних органів. Вам потрібно визначити, на що ви можете поділитися, на що ви не можете поділитися та що вимагає ордер. Потім переконайтеся, що ваші внутрішні процедури сильні, щоб ваші співробітники не намагалися висловити прихильність, поділившись тим, чого не слід ділитися. (Можливо, це довша розмова з вашими юристами, тому замовляйте в піцу.)

Постійно тестуйте свої системи ідентифікації на основі найвідоміших наборів даних, щоб ви могли зробити розпізнавання більш точним. (У вашого продавця розпізнавання обличчя має бути доступний такий набір даних, і з часом ви зможете створити свій власний.)

• Нарешті, будьте уважні, кого ви орієнтуєте на визнання. Представники громадськості мають чіткі права на конфіденційність, і ваше порушення цих прав може дорого коштувати вашій організації. (Здогадайтесь, що? Більше часу для адвоката.)

Поки ваша компанія не може контролювати, що уряд вирішить зробити щодо розпізнавання обличчя, що, мабуть, нічого, враховуючи дисфункціональну атмосферу у Вашингтоні, округ Колумбія, сьогодні, ви можете контролювати, що відбувається у ваших власних приміщеннях. Насправді, від вас очікують, якщо ви коли-небудь опинитесь перед суддею. Дотримуючись етичних принципів ACM - бути чесними та довірливими та вживати заходів до недискримінації, захищаючи приватність, стали важливішими, ніж будь-коли.