Techonomy: как исправить то, что не так с Google и Facebook

Пожалуй, самой удивительной темой на Techonomy этого года было то, как многие из спикеров расстроены из-за Facebook, Google и Twitter, с критикой, сфокусированной на их подходе к конфиденциальности и, в частности, на возможной роли, которую они сыграли в обеспечении возможности взлома Россией выборов 2016 года.

Широкий спектр выступающих настаивал на различного рода регулировании этих «интернет-гигантов», и никто из вышеупомянутых компаний не присутствовал на конференции, чтобы представить альтернативную точку зрения. Это сильно отличалось от прошлогодней конференции, когда генеральный директор Facebook Марк Цукерберг сказал, что идея о том, что фальшивые новости в Facebook повлияли на выборы, была «довольно сумасшедшей идеей».

С тех пор, как отметила соучредитель Techonomy Симона Росс, мы поняли, что «технология позволяет разделить нас так же легко, как объединить нас». Соучредитель конференции Дэвид Киркпатрик (вверху) задал тон конференции, заявив, что «технология - это сила добра, но только если ваша цель - добро», а затем сказал, что он считает, что крупным технологическим компаниям нужна «активная инициатива». пересечение "с правительством, называется ли это регулированием или нет.

Власть в сетевом, искусственно интеллектуальном мире

Известный инвестор Roger McNamee из Elevation Partners, ранний инвестор в Facebook и Google, был, пожалуй, самым негативным из всех спикеров. Макнами сказал, что эти компании «начали спасать мир», но это изменилось, когда реклама стала их бизнес-моделью. Он сказал, что смартфон, в сочетании с личной информацией, позволил «создать такой уровень взлома мозга, которого никогда не было в СМИ».

Макнами сказал, что, по его мнению, Цукерберг был искренен, когда сказал, что не верит, что такой взлом возможен год назад, но сказал, что роль, которую сейчас играют Google и Facebook, невозможно переоценить. Он прокомментировал: «Должно быть, им трудно быть сейчас и понять, что ты уничтожил западную цивилизацию».

Дана Бойд, Data & Society; Роджер Макнами, Elevation Partners; Марк Ротенберг, электронный информационный центр конфиденциальности (EPIC); Стратфорд Шерман, Accompli

Эта дискуссия возникла в рамках группы «Власть в сетевом, искусственно интеллектуальном мире», в которую также вошли Дана Бойд, социолог из Data & Society и Microsoft Research; Марк Ротенберг, президент Электронного информационного центра конфиденциальности (EPIC); и модератор Стратфорд Шерман из Accompli. Шерман сказал, что, хотя Facebook и Google начинали как форумы для публичных выступлений, они "радикально нерегулируемы". Шерман сказал, что с ИИ, который может существенно повлиять на человеческую расу на горизонте, он обеспокоен непредвиденными последствиями технологического развития, которые мы уже видели.

Ротенберг сказал, что, хотя он по-прежнему обеспокоен традиционными проблемами конфиденциальности, связанными с отслеживанием и профилированием, он также обеспокоен отсутствием конкуренции, отсутствием инноваций и риском для демократических институтов. Он сказал, что интернет-гиганты обладают огромной властью, и данные, которыми они располагают, создают подлинный барьер для входа, поэтому значимой конкуренции нет. Ротенберг сказал, что он был в Вашингтоне со времен администрации Рейгана, и впервые «выборы прошлого года не показались мне знакомыми».

На более ранней сессии Бойд, который написал книгу под названием « Это сложно» , говорил о сложности противодействия манипуляциям в Интернете.

Она рассказала об эскалации процесса манипуляции за последние 20 лет, который начался с того, что дети троллили Опру, а затем перешел к «Рикроллам» и таким вещам, как изменение результатов поиска для имени «Санторум». Совсем недавно, с Gamergate, более крупные персонажи стали игроками, в том числе государственными. Бойд сказал, что интернет-компании думают, что ИИ может защитить их, но группы, пытающиеся манипулировать результатами, уже экспериментируют с обработкой на естественном языке и, самое главное, вмешиваются в источники данных. Например, внедрение плохих данных в систему является новой уязвимостью, по ее мнению. Тем не менее, Бойд сказал, что единственным ответом будет «встроить технические антитела в нашу отрасль».

На этой сессии Бойд сказал, что технологические компании рассчитывают на манипуляции на нескольких фронтах, и отметил, что, хотя все смотрят на Россию, есть много других государств, предпринимающих аналогичные действия. Например, китайские компании пытаются гарантировать, что они будут контролировать ИИ, и она сказала, что это представляет собой другую проблему, потому что речь идет не о промышленной конкуренции, а о конкуренции с государством.

Отвечая на вопрос Шермана, является ли это войной, Бойд сказал, что она так считает, в то время как Макнейми сказал, что это классическая партизанская война, в которой наши враги использовали нашу технологию против нас. Макнейми сказал, что проблема не в социальных сетях или поиске, а в рекламной модели. Он сказал, что в битве за внимание людей субстанция утопает в ощущениях, и процитировал старую поговорку: «Если оно истекает кровью, оно ведет».

Шерман отметил, что страх и гнев гораздо более притягательны и, следовательно, намного дешевле. Он сказал, что, хотя органические сообщения использовались для охвата более 125 миллионов человек, целью этих усилий была реклама для разделения людей на группы, основанные на общих интересах.

Ротенберг сказал, что он выступает за обеспечение прозрачности алгоритмов и регулирование рекламы, но сказал, что мы должны уважать право людей говорить в Интернете. Но Макнами сказал, что «первая поправка была вооружена», и что онлайн-пространства в корне отличаются от публичных площадей.

Бойд описал то, что она называет «эффектом бумеранга», или, другими словами, идея о том, что провоцирование средств массовой информации сообщать о возмутительных вещах - это главное, поскольку это усиливает первоначальное послание той части аудитории, которая не доверяет СМИ. В качестве примера, Бойд говорил о Pizzagate. Она отметила, что до появления интернета СМИ часто использовали «стратегическое молчание», чтобы не освещать такие вещи, как самоубийства и митинги Клана, чтобы не публиковать их.

Ротенберг согласился с тем, что большая часть этой традиции усердия и надзора утрачена, и сказал, что такие вещи, как Раздел 230 (в котором говорится, что интернет-компании не несут ответственности за такие вещи, как сообщения пользователей), затрудняют конкуренцию традиционных новостей.

Отвечая на вопрос о решениях, McNamee сказал, что Facebook - это культ, и он должен прекратить отрицать проблему и решать ее, а также начать заниматься «депрограммированием», обращаясь к каждому из своих пользователей. Ротенберг продвигал идею регулирования. И Бойд предположил, что нам нужно вкладывать деньги в общество, чтобы «заново объединить» Америку.

Расплата с новыми гегемонистами

Марк Махани, РБК Капитал Маркетс; Дейв Морган, Simulmedia; Джойс Вэнс, Университет Алабамы; Дэвид Киркпатрик, Техономия

В ранней дискуссии на тему «Расчеты с новыми гегемонистами» почти все согласились с Джойсом Вэнсом из Университета Алабамы, который сказал, что технология действительно опередила закон, который крайне необходимо наверстать. Но Вэнс предупредил, что существует также риск «проскальзывания» политических ответов.

Дэйв Морган из Simulmedia сказал, что «будет регулирование», хотя и сказал, что, возможно, крупные компании смогут избежать значительного воздействия.

Морган отметил, что история медиаиндустрии дает параллели тому, что мы видим сейчас, поскольку газеты видели бы себя как печатные компании, а ранние вещательные компании видели себя как технологические компании. Все это позволяет обеспечить контакт с потребителем, что, безусловно, и делают Google и Facebook. Множество антимонопольных дел возникло в результате такой концентрированной медиа-власти, и правительство смогло ими управлять. Одно большое отличие сегодня состоит в том, что другие технологии требуют географической связи, которая не нужна интернет-компаниям.

Вэнс отметил, что Сенат в настоящее время рассматривает законопроект, который потребует от этих компаний сохранения их рекламной истории, а также уточнит, кто платит за политическую рекламу. Но Морган отметил, что сейчас это глобальные компании с более широким охватом. Отвечая на вопрос о европейских правилах конфиденциальности GDPR, Вэнс сказал, что США вполне могли уступить лидерство ЕС в этой области. Она сказала, что не думает, что американские компании смогут по-разному соблюдать нормативные требования в разных географических регионах, поэтому по умолчанию компании будут соблюдать европейские правила.

Марк Махани из RBC Capital Markets сказал, что компании уже находятся под контролем, особенно в Европейском союзе, и Google, в частности, тщательно изучает возможности объединения или продвижения своих услуг вместе с результатами поиска или с Android. Киркпатрик сказал, что, по его мнению, антимонопольное урегулирование действительно помогло Microsoft, но Махани возразил, что не регуляторы остановили Microsoft, а конкуренцию.

Могут ли технологии и правительство спасти демократию?

Тим Хванг, FiscalNote; Минни Ингерсолл, «Код для Америки»; Марк Ротенберг, электронный информационный центр конфиденциальности; Молли Тернер, Школа бизнеса Калифорнийского университета в Беркли Хаас; Jon Fine, Inc Журнал; Лоуренс Норден, юридический факультет Нью-Йоркского университета

Аналогичная тема возникла на круглом столе на завтрак под названием «Могут ли технологии и правительство спасти демократию?», На котором модератор Jon Fine of Inc Magazine попросил решения. Однако за круглым столом ничего не вышло.

Хванг сказал, что проблема не в технических платформах, а в том, что люди чувствуют гнев из-за того, что они не связаны с экономикой.

Лоуренс Норден из Центра Бреннана при Школе права Нью-Йоркского университета сказал, что законы, требующие большего раскрытия информации о политической рекламе, - это простой ответ, но, к сожалению, большая проблема - это «темные сообщения» или сообщения неизвестного происхождения. В этом отношении, по его словам, Интернет больше похож на городскую площадь.

Но Ротенберг сказал, что все наоборот, и что Интернет больше похож на город компании, где платформы устанавливают правила и решают, что вы видите. Минни Ингерсолл из Code For America спросила, является ли проблема иностранным вмешательством или Google контролирует то, что мы говорим. Регулирующие органы должны лучше понимать проблемы, сказала она.

Молли Тернер из Школы бизнеса Калифорнийского университета в Беркли Хаас сказала, что Интернет стал величайшим средством самовыражения, но обеспокоена тем, что подрывает гражданский дискурс. С другой стороны, она обеспокоена требованиями, предъявляемыми к платформам для удаления определенных видов информации (например, если Закон о приличии в связи был ослаблен или из-за других видов регулирования), потому что вдруг в этом случае платформа становится «арбитром речи «.

Ротенберг ответил, что, хотя автомобильные компании когда-то боролись с правилами безопасности, в конечном итоге они помогли сделать автомобили более безопасными и привели к большему количеству инноваций. Он предположил, что стабильная нормативно-правовая среда может реально помочь платформам. Ротенберг заметил, что технологические компании выдвинули «сетевой нейтралитет» для телекоммуникационных компаний, но не для себя, и призвал к равному игровому полю.

Интернет под атакой

Марк Андерсон, Служба стратегических новостей; Педер Юнгк, BAE Systems Intelligence & Security; Ребекка Маккиннон, Новая Америка; Дэвид Киркпатрик, Техономия

Последняя дискуссия под названием «Интернет под атакой» продолжила эту дискуссию.

Ребекка МакКиннон, управляющая проектом «Ранжирование цифровых прав» в Новой Америке, сказала, что когда-то существовало предположение, что из-за Интернета авторитарные режимы в конечном итоге станут больше похожи на демократии. Теперь она больше боится, что авторитарные режимы и демократии "встретятся посередине".

Маккиннон сказал, что авторитарные режимы приспосабливают Интернет к своим целям, в то время как демократии сталкиваются с популизмом, манипуляциями и «надзирательным капитализмом». Но, по ее словам, демократии должны быть осторожны в ответах регулирующих органов - хотя она согласна с тем, что существует необходимость в большей прозрачности, когда речь идет об алгоритмах и конфиденциальности, она обеспокоена тем, что система цензуры упростит борьбу с частями общества презирает правительство.

Педер Юнгк (Peder Jungck), который возглавляет разведку и безопасность в BAE Systems, согласился с тем, что правительства хотели бы использовать такие системы для поиска диссидентов, и сказал, что идея - это продукт, и, как и любой другой продукт, его можно продвигать. На вопрос, являются ли рекламные системы оружейными, он ответил: «Ящик Пандоры открыт, и мы не можем вернуться назад».

Марк Андерсон из Службы стратегических новостей сказал, что мы видели прямую линию со времен ARPANET, когда не было плохих парней, до сегодняшнего дня, когда мы видим все больше и больше злонамеренного поведения с каждым днем.

Андерсон был особенно ясен при описании того, как Китай ворует интеллектуальную собственность и использует ее, чтобы вытеснить компании из бизнеса. И он предположил, что взлом Equifax имел все признаки правительственной атаки. Подводя итог, Андерсон сказал, что "не видит решения".

Юнгк сказал, что мы должны предполагать, что плохие парни в наших системах и работают над решениями. Например, он сказал, что номер социального страхования больше не подлежит защите, поэтому вместо этого нам может понадобиться решение с использованием блокчейна.

В рамках проекта «Ранжирование цифровых прав» Маккиннон оценил 22 глобальные компании по 35 вопросам о свободе выражения мнений, конфиденциальности и безопасности. Она сказала, что две компании получили «D», а все остальные потерпели неудачу. Она хочет знать, что компании делают с вашими данными; с кем они делятся этим; проводят ли они надлежащую проверку, оценку безопасности и управление рисками; и защищают ли они конфиденциальность и безопасность, контент и самовыражение. По ее словам, прозрачности недостаточно, но это необходимый первый шаг.

Андерсон сказал, что прозрачность - это хорошая вещь, но не решение, и отметил, что тот, кто хочет манипулировать системой, не должен платить за рекламу, но может использовать 100 000 ботнетов. Затем Киркпатрик предположил, что компании могут обеспечить идентификацию и тем самым сократить использование бот-сетей.

Но Маккиннон возразил, что именно правозащитники являются наиболее уязвимыми для использования таких систем, потому что если вы навязываете личность, то в социальных сетях не будет никого, кто выступает против авторитарного правительства.

Юнгк задался вопросом, почему мы должны обеспечивать идентичность, когда сайты уже знают, кто вы и что вы собираетесь купить. «В интернете нет анонимности, он давно ушел», - сказал он. Разница лишь в том, сколько времени нужно, чтобы понять, кто ты.

В заключение Маккиннон сказала, что она настроена оптимистично в течение очень длительного периода, но в течение следующих 100 лет «не так уж много».

Слушая все это, легко быть пессимистами или, по крайней мере, фаталистами в отношении объема необходимого регулирования и его влияния. Но я все еще склонен быть оптимистом, и хотя я думаю, что некоторое дополнительное регулирование является и вероятным, и необходимым, я полагаю, что столь же вероятно, что сегодняшние интернет-гиганты - или некоторые будущие игроки - найдут лучшие ответы.

Насколько вероятно, что вы порекомендуете PCMag.com?