Microsoft ломает, как вести этичный магазин

В пятницу, 13 июля 2018 года, президент Microsoft Брэд Смит сделал необычный шаг - опубликовал пост в блоге, в котором попросил правительство регулировать технологии, разрабатываемые его собственной компанией. Эта технология - распознавание лиц, и Смит уже видит опасность в том, чтобы разрешить беспрепятственное использование таких возможностей, особенно правительствами. Но Смит также отметил, что злоупотребление распознаванием лиц в частной индустрии может иметь столь же мучительные последствия.

Несколько дней спустя Ассоциация вычислительной техники (ACM) разместила на своем веб-сайте Кодекс этики и профессионального поведения ACM, который представляет собой новый кодекс профессионального поведения, аналогичный позиции Microsoft, но гораздо более широкий в своем кодексе. освещение этического поведения в бизнесе информационных технологий (ИТ). Обе должности объединяют идею поддержания высокого уровня корпоративной ответственности. Это то, что многие ИТ-специалисты пытаются игнорировать и оставить на более высоком уровне в пищевой цепочке плательщиков - такое отношение и неудачно, и опасно.

Смит в своем блоге беспокоится по поводу неправильного использования распознавания лиц. Он понимает, что даже в крупных кампусах, организованных вокруг современных технологий, особенно токенов безопасности, таких как те, которые используются во многих системах управления идентификацией, можно очень внимательно следить за тем, где находятся люди, и оттуда узнавать, что они делают. Но с помощью распознавания лиц можно выделить людей из любой толпы в любом месте и не только отслеживать их местонахождение, но и вести учет того, где они были основаны на небольших данных помимо их физических характеристик. Как отмечает Смит, такое отслеживание уже происходит в Китае. Смит просит комиссию для изучения использования и последствий распознавания лиц в Соединенных Штатах.

Распознавание лиц как надежная форма удостоверения личности

Очевидно, что во многих случаях мониторинг передвижений человека в режиме 24x7 является незаконным в США, о чем свидетельствуют недавние решения Верховного суда США, касающиеся использования отслеживания местоположения сотового телефона и использования устройств GPS без ордера. Но это не значит, что какое-то агентство где-то не будет пытаться.

Кроме того, нет сомнений в том, что распознавание лиц достигло такого уровня, что его можно использовать в качестве надежной формы идентификации (ID). Некоторые авиакомпании уже тестируют распознавание лиц для прохождения через линии безопасности и для использования при посадке в самолеты в международном аэропорту Лос-Анджелеса (LAX). Аналогичным образом, когда я вернулся в Вашингтон, округ Колумбия, рейсом из Лондона в прошлом месяце, все, что мне требовалось для въезда в США, - это просмотр моего лица с помощью камеры и сканирование отпечатков пальцев, пока мой паспорт сканировался читатель.

Распознавание лица: следующие шаги

Итак, вопрос в том, каков следующий шаг? Будучи ИТ-профессионалом, предположим, что вас попросили создать систему распознавания лиц для вашего работодателя, которая позволяла бы идентифицировать людей, которых компания не хотела видеть в их собственности или помещениях. Возможно, они прошли плохую проверку, подозревались в краже в магазине или были уволены.

Чтобы ты делал? Все это веские причины не пускать человека в ваш магазин или на вашу собственность. Скорее всего, вам не составит труда найти их фотографии, поэтому система распознавания должна легко их идентифицировать. Ну и что дальше?

Это часть вашего процесса принятия решений, в котором вам нужно решить, как использовать распознавание лиц или другие биометрические данные в этом отношении, как часть ваших политик безопасности. Это не так просто, как ваш ответ на предупреждение о вредоносном ПО от одного из ваших узлов защиты конечных точек. Эти ответы не могут быть легко автоматизированы. Итак, вы бы включили будильник? Страница менеджера объекта? Оповещение о безопасности? Вызовите полицию? Ответом на любой из этих вопросов может быть «да», но может быть и «нет», а принятие неправильного решения может быть ошибкой в ​​завершении карьеры.

7 советов по разумному использованию распознавания лица

Вот несколько советов, которые могут помочь уменьшить вероятность неприятностей, сохраняя при этом вашу организацию:

Опубликуйте уведомления, где посетители и сотрудники увидят их, сообщив им, что вы используете видеонаблюдение и распознавание лиц как часть вашей операции безопасности. (Ваши адвокаты будут рады помочь с фактическим языком.)

Убедитесь, что в цикле есть человек, прежде чем предпринимать какие-либо действия на основе биометрического идентификатора. Хотя это становится лучше, распознавание лиц, как и другие биометрические данные, не является надежным на 100 процентов. Прежде чем принять меры, кто-то должен подтвердить, что говорит система распознавания. (Работайте с вашим юридическим отделом и высшим руководством, чтобы составить план.)

Признайте ограничения вашей лицевой или биометрической системы идентификации. Например, современная технология распознавания лиц лучше всего работает с белыми мужчинами, но не так хорошо с небелыми женщинами. Вы должны убедиться, что вы не выполняете расовое профилирование непреднамеренно. Вспомните горе, с которым столкнулись компании, от CVS до Starbucks, когда они намеренно или нет сделали именно это. (В целом, очень хорошая дискуссия с вашей юридической командой.)

Убедитесь, что есть процедура "Упс". У вас будут неправильные идентификаторы, поэтому вам нужно убедиться, что они не смущают человека или компанию. (Опять же, и юристы вашей компании, и высшее руководство должны учитывать это.)

Заранее определите, где вы собираетесь поделиться результатами ваших проверок документов. Вы не можете просто отправить все в различные государственные органы. Вы должны определить, что вы можете поделиться, что вы не можете поделиться, и что требует ордера. Затем убедитесь, что ваши внутренние процедуры эффективны, чтобы ваши сотрудники не пытались заслужить благосклонность, делясь тем, что не должно делиться. (Вероятно, это более длительный разговор с вашими адвокатами, поэтому заказывайте пиццу.)

Постоянно проверяйте свои системы идентификации на соответствие самым известным наборам данных, чтобы вы могли сделать распознавание более точным. (Ваш поставщик услуг распознавания лиц должен иметь такие наборы данных, и со временем вы сможете создавать свои собственные.)

• Наконец, будьте осторожны с тем, кого вы хотите получить. Члены общественности имеют строгие права на неприкосновенность частной жизни, и ваше нарушение этих прав может дорого обойтись вашей организации. (Угадайте, что? Больше времени для адвоката.)

Хотя ваша компания не может контролировать то, что правительство решает сделать с распознаванием лиц, что, вероятно, ничто из-за дисфункциональной атмосферы в Вашингтоне в настоящее время, вы можете контролировать то, что происходит в ваших собственных помещениях. На самом деле, от вас ожидают, если вы когда-нибудь окажетесь перед судьей. Следование этическим принципам ACM: быть честными и заслуживающими доверия и предпринимать шаги, чтобы не допускать дискриминации при защите конфиденциальности, стало как никогда важным.