Как gdpr повлияет на индустрию ай | Бен Диксон

В процессе, который можно охарактеризовать как гонку вооружений, технологические компании накапливают большие объемы пользовательских данных, чтобы отточить алгоритмы искусственного интеллекта, которые обеспечивают их приложения и платформы. До сих пор они в основном были в состоянии избежать ответственности, когда их практика подтолкнула их в юридически и этически серые зоны.

Но это может измениться 25 мая, когда вступят в силу Общие правила защиты данных Европейского Союза (GDPR). GDPR наложит беспрецедентные ограничения на сбор и обработку пользовательских данных в регионе ЕС и наложит тяжелые санкции на компании, которые не соблюдают их.

Это может звучать как плохая новость для компаний, использующих алгоритмы ИИ, которые выиграли от слабых правил сбора данных (а также длинных, скучных и неоднозначных документов об условиях обслуживания). Некоторые опасаются, что более строгие правила будут препятствовать инновациям и внедрению искусственного интеллекта во многих приложениях и областях. Другие считают, что новая директива создаст фундамент, на котором приложения ИИ станут более надежными и заслуживающими доверия.

Как бы то ни было, индустрия искусственного интеллекта переживает большой сдвиг в эпоху GDPR.

Владение данными и конфиденциальность

«GDPR очень важен для ИИ, потому что он требует, чтобы мы по-разному думали о том, как мы собираем и используем данные», - говорит Тим ​​Эстес, основатель и президент Digital Reasoning. «Слишком долго технологические компании настаивали на том, что для получения выгоды от их продуктов и услуг вы должны были отказаться от своих данных».

Ранее компании должны были получать от пользователей только смутное согласие на сбор всех видов данных. «ИИ помог поддержать шумиху вокруг больших данных, предоставив еще одну причину, по которой предприятия должны собирать и добывать все имеющиеся данные», - говорит Эстес. «Многие компании начали внедрять ИИ для анализа своих данных только потому, что они думают, что должны это делать, не задумываясь о влиянии на конфиденциальность пользователей или владение данными».

Самая основная предпосылка GDPR состоит в том, что данные принадлежат пользователям. В рамках GDPR компании должны будут раскрывать весь объем собираемой ими информации, а также то, как они ее используют и как они будут защищать ее и предотвращать несанкционированный доступ. Новые правила заставят компании ИИ более тщательно относиться к собираемым данным, а не заниматься бессмысленным накоплением, обработкой и обменом пользовательской информацией.

Право быть забытым

GDPR дает пользователям возможность требовать, чтобы компания удалила все свои данные со своих серверов. Это не подходит для компаний ИИ, которые заинтересованы в хранении как можно большего количества пользовательских данных для выполнения таких задач, как прогнозирование тенденций и поведение пользователей.

«В конце концов, GDPR - это все о том, как вы собираете данные и управляете ими, а не обязательно о том, сколько у вас данных», - говорит Марина Бурушкина, генеральный директор GrowthChannel. «Основная трудность, с которой столкнется большинство компаний, заключается не столько в получении подписки, сколько в управлении данными, передаче информации об использовании данных пользователям и предоставлении пользователям возможности их удаления».

Компании ИИ должны будут предпринять дополнительные шаги, чтобы анонимизировать свои данные, если они все еще хотят иметь доступ к этой информации. Но другие проблемы стоят перед компаниями, которые уже имеют большие хранилища пользовательских данных.

«В рамках GDPR, если компания хочет стереть определенный PII, они должны обеспечить его стирание повсюду», - говорит Амнон Дрори, генеральный директор Octopai. Это может быть сложной задачей для выполнения вручную, когда ваши данные разбросаны по разным серверам и хранятся в разных структурированных и неструктурированных форматах.

Например, при удалении номера кредитной карты пользователя (безусловно, конфиденциальной части информации) компаниям придется просматривать каждый отчет, базу данных, объект базы данных и ETL, где хранится информация. «Иногда мы видим разные имена метаданных для одного и того же элемента: например, « номер кредитной карты », « номер кредитной карты », номер кредитной карты« c », « номер карты », « номер кредитной карты ». Список продолжается и на ", говорит Дрори. Часто невозможно узнать, где искать, и этот процесс может занять недели или даже месяцы, и, как и многие ручные процессы, он подвержен ошибкам и неточностям человека, говорит Дрори.

GDPR также повысит стоимость человеческих ошибок при обработке данных. «Вот почему сегодня так много компаний ищут автоматизированное решение для точного управления своими метаданными», - говорит Дрори. Возможно, по иронии судьбы, сам ИИ может быть решением в этом отношении. Инструменты управления метаданными на основе AI могут сканировать все источники данных в организации и консолидировать отношения между различными инструментами и источниками данных.

Право на объяснение

Одна из наиболее важных частей ВРП в отношении ИИ - это то, что стало известно как «право на объяснение». В директиве говорится, что компании должны уведомлять пользователей о «существовании автоматизированного принятия решений» и предоставлять им «значимую информацию об используемой логике, а также о значении и предполагаемых последствиях такой обработки для субъекта данных».

Это в основном означает, что пользователи должны знать, когда они прямо или косвенно подчиняются алгоритмам ИИ, и должны иметь возможность оспаривать решения, принимаемые этими алгоритмами, и запрашивать доказательство того, как был сделан вывод. Это будет одной из самых больших проблем, с которыми столкнется индустрия искусственного интеллекта.

Глубокие нейронные сети, основная технология современных алгоритмов ИИ, представляют собой сложные программные структуры, которые создают свои собственные правила функциональности, анализируя большие наборы данных и находя корреляции и шаблоны. По мере усложнения нейронных сетей их поведение становится все сложнее разлагать. Часто даже инженеры не могут объяснить причины решений, принимаемых их алгоритмами ИИ.

Вызывая проблему «черного ящика», необъяснимость алгоритмов искусственного интеллекта затруднила их применение в решениях судебных заседаний, в правоохранительных органах, в приложениях о займах и кредитах, в рекрутинге, здравоохранении и других важных областях. Но без каких-либо юридических рычагов у компаний ИИ не было стимула сделать свои алгоритмы ИИ более прозрачными, особенно когда они были тесно связаны со своими коммерческими секретами.

Теперь GDPR будет привлекать компании ИИ к учету решений, принимаемых их алгоритмами.

«Как часть GDPR, организации несут ответственность за четкое описание метода обработки на человеческом языке, в то же время запрашивая согласие у субъекта», - говорит Паскаль Гиненс, исследователь безопасности в Radware. «По мере развития глубокого обучения, когда исследователи данных не могут охарактеризовать детерминированную природу рассуждений нейронной сети, это описание может стать более сложным и трудным для объяснения».

По словам Гиненса, в целом, ВВПР - это обеспечение ответственности людей, которые обрабатывают данные. Поэтому, если вы используете алгоритмы машинного обучения для выполнения обработки, вы должны разработать их таким образом, чтобы вы могли объяснить, какие решения они принимают от вашего имени.

Горстка организаций пытается разработать технологии, чтобы сделать ИИ более прозрачным. Среди них выделяется Объясняемый ИИ (XAI) DARPA, исследовательский проект, цель которого - сделать решения на основе ИИ понятными.

Аутсорсинг ИИ

GDPR также повлияет на организации, которые предоставляют свои данные третьим сторонам. Ярким примером такой компании является Facebook; в своем скандале с Cambridge Analytica гигант социальных сетей не смог помешать компании, занимающейся интеллектуальным анализом данных, собирать и использовать данные 87 миллионов пользователей. Но GDPR также будет иметь значение для компаний, которые передают свои функции AI на аутсорсинг и предоставляют свои данные поставщикам AI.

«Хотя многие полагают, что провайдеры искусственного интеллекта похожи на других провайдеров услуг - просто предлагают свои технологии в обмен на денежную компенсацию, - на самом деле провайдеры искусственного интеллекта также вступают в деловые партнерские отношения в качестве способа развития и развития своих технологий», - говорит Эстес, руководитель руководитель от Digital Reasoning. Это означает, что провайдер ИИ может захотеть сохранить данные клиента, чтобы дополнительно обучать свои собственные алгоритмы и использовать их в других областях.

Например, поставщик искусственного интеллекта, который помогает организации здравоохранения находить закономерности в симптомах и улучшать диагностику, может встретить набор данных, который улучшает его собственные алгоритмы. Компания ИИ может затем использовать данные для улучшения своих алгоритмов для других видов ухода за пациентами, чтобы развить свои возможности, чтобы помочь другим поставщикам медицинских услуг. Согласно GDPR, организация здравоохранения, отвечающая за данные, будет нести ответственность за любое неэтичное использование провайдером AI. Эстес полагает, что ключом для бизнеса является поиск провайдеров искусственного интеллекта, которые верят в владение алгоритмами, а не данными.

«GDPR заставит предприятия уделять больше внимания тому, как и когда используются их данные, где они хранятся и что происходит с ними после завершения проекта», - говорит Эстес. «Это означает работу с провайдерами искусственного интеллекта, которые помогают определять границы владения данными и реализовывать стратегии, которые защищают пользовательскую информацию, не препятствуя тому, как она может помочь развить успех алгоритмов искусственного интеллекта».

Будет ли GDPR препятствовать инновациям?

Эксперты, с которыми мы беседовали, считают, что, хотя новые правила будут бросать вызов существующим практикам и привычкам, принятым компаниями ИИ, они также заставят их искать новые пути для инноваций, а также поддерживать уважение конфиденциальности и этических стандартов.

«С вступлением в силу регулирования GDPR все крупные компании-разработчики программного обеспечения принимают необходимые меры, чтобы не только обеспечить соблюдение, но и вводить новшества и мыслить нестандартно, чтобы находить новые возможности на рынке», - говорит Бурушкина из GrowthChannel.

«Инновациям не будет мешать, а направлять и мотивировать их ВВП», - говорит Дрори из Octopai. В то же время GDPR также приведет к появлению новых предприятий и технологий, которые помогут организациям достичь и поддерживать соответствие GDPR.

Стандарты, установленные GDPR, на самом деле могут помочь преодолеть растущий разрыв в доверии между поставщиками и пользователями услуг на базе AI. Эстес полагает, что GDPR сделает поставщиков ИИ и тех, кто внедряет их технологии, более ответственными за то, как и где они используют ресурсы данных, и подтолкнет их к тому, чтобы пользователи получали прибыль. «В конце концов, - говорит он, - поставщикам искусственного интеллекта нужно только владеть алгоритмами, а не данными, чтобы внедрять свои возможности и решения».