Microsoft, лед, и проблема с технологией, являющейся 'нейтральной'

Когда вы ищете слова, чтобы описать IBM, вы думаете, твердо и уверенно, но он также окрашен. Во время Второй мировой войны под руководством своего председателя и генерального директора Томаса Уотсона IBM оказывала содействие в механизации административной работы Третьего рейха.

Немецкий филиал компании, в сотрудничестве и при координации со стороны материнской компании, создал концентрационные лагеря с арендованными машинами для сортировки карточек, которые он обслуживал, настроил приложения и обеспечил бумагой, чтобы хранить их в перфокартах. Информация, полученная этими машинами Холлерита, сыграла роль в том, что евреи оказались за колючей проволокой, от которой не уйдут миллионы.

Сегодня тысячи детей иммигрантов и лиц, ищущих убежища, находятся в своих собственных клетках в американских центрах содержания под стражей, а их запястья обернуты штрих-кодами. Компании, которые следят за технологиями, которые следят за ними, или нет, не хотят хвастаться этим фактом.

В январе Microsoft объявила о своем партнерстве с Иммиграционным и Таможенным Правоприменением (ICE), которое использует облачную службу Redmond Azure для государственных организаций. Почта вновь появилась на этой неделе на фоне шумихи по поводу политики правительства по разделению детей на границе, и на короткое время из нее было вычеркнуто любое упоминание о ДВС. Источники со знанием проблемы сообщили PCMag, что сотрудник удалил ее, увидев комментарий в социальных сетях; это было восстановлено вскоре после этого.

Источник также сказал, что они не верят, что службы Azure или Azure используются для разделения семей на южной границе, и что-то, о чем генеральный директор Сатья Наделла повторил в письме, осуждающем политику администрации по разделению семей. Он сказал, что Azure используется ICE только для устаревших рабочих нагрузок почты, календаря, обмена сообщениями и управления документами.

Но на самом деле он не может быть уверен, как именно агентство использует его услуги. Некоторые сотрудники Microsoft, очевидно, согласны; они написали открытое письмо с просьбой расторгнуть контракт с ICE. Разработчики на GitHub, который недавно приобрела Microsoft, сделали то же самое.

Это где технологические компании должны принимать решения на моральных основаниях; хотят ли они вести дела с правительственными структурами, занимающимися работой, которую Верховный комиссар ООН по правам человека назвал недобросовестной?

Спор о распознавании образов

Несмотря на то, что компания Vigilant Solutions имела более низкий профиль, она подписала контракт с ICE на программу распознавания номерных знаков (LPR), которая используется для поиска и отслеживания людей в режиме реального времени. «Наше решение LPR предназначено не только для поиска угнанных автомобилей, но и для многих других», - говорится на сайте компании.

Vigilant Solutions не ответили на запрос о своей работе с ICE. И это не единственная компания, которая молчит о технологиях распознавания изображений, используемых правоохранительными и государственными органами.

Amazon Rekognition использует глубокое обучение для обнаружения неодушевленных предметов, людей и действий. Отвечая на вопрос о законных, но, возможно, социально сомнительных видах использования, если ICE станет клиентом, представитель Amazon признал возможность злоупотреблений, но сказал, что Rekognition подчиняется Политике допустимого использования Amazon Web Services.

Чтение политики не дается таким образом, чтобы остановить нежелательное поведение. В наиболее релевантном разделе будет запрещен «Любая деятельность, которая является незаконной, нарушает права других или может нанести ущерб другим, нашей деятельности или репутации».

Rekognition не используется ICE, но используется несколькими полицейскими департаментами, что беспокоит некоторых акционеров Amazon, которые попросили компанию прекратить продажу Rekognition правоохранительным органам.

NBC News раскрыли множество технологических компаний, имеющих контракты с ICE, включая HP Enterprise, Dell и Motorola. Одна компания, которая помогает ICE, не должна удивлять: Palantir. Согласно документам, полученным The Intercept, она заключила сделку на 41 млрд долларов на продукт ICE Investigative Case Management, который является «критически важным» для агентства.

Соучредитель и председатель Палантир Питер Тиль был постоянным сторонником Дональда Трампа со времени его кампании. Сам Тиль не говорил о ситуации на границе, но в 2008 году он сделал пожертвование в размере 1 миллиона долларов антииммигрантской группе NumbersUSA, которая занимается сокращением как легальной, так и нелегальной иммиграции. Тиль, очевидно, не видит никакой иронии в том, что он стал гражданином Новой Зеландии, минуя обычный процесс.

Государственные контракты надежно выгодны, но получение прибыли от деятельности, которая настолько похожа на те, которые привели к некоторым из худших в истории злодеяний, обходится слишком дорого. Просто спросите Google, который был борется с возражениями в своей работе с Пентагоном на спорной программы дронов. Социальный капитал Силиконовой долины приобрел за эти годы, и его возможности и навыки должны быть направлены на искоренение ужасов нашего прошлого для лучшего будущего.