Технономия: инновации, аи и этика

Некоторые из моих любимых сессий на конференции Techonomy в начале этого месяца были посвящены этике, ценностям, инновациям и тому, как искусственный интеллект стал играть роль в этих областях.

Человеческие ценности для технологичного века

Основатель Techonomy Дэвид Киркпатрик начал конференцию с выступления о том, как сосредоточиться на человеческих ценностях технологии Первый большой разговор был о «человеческих ценностях» с Джули Ханной, исполнительным председателем Kiva, которая говорила о технологиях как о демократизирующей силе и отметила, что большая часть мира живет менее чем на 2 доллара в день. Она сказала, что «величайшая форма справедливости - это справедливый доступ».

Преподобный Майкл К. Макфарланд, казначей, Северо-восточная провинция Общества Иисуса, США, сказал, что мы должны спросить себя, где справедливость, с точки зрения использования технологий, и подумать о предположениях, заложенных в технологии. Он обеспокоен тем, что технологии на рабочем месте, которые могут обеспечить большую эффективность и производительность, часто используются, не задумываясь о воздействии на работников, которые иногда испытывают разрушительные последствия. Он призвал аудиторию начать с размышлений об опыте рабочего.

Эрика Кочи, исполнительный директор по инновациям и соучредитель ЮНИСЕФ по инновациям, отметила, что семь лет назад не было хорошего технологического решения для беднейших из бедных, и единственным общим знаменателем было текстовое сообщение. Ее группа сосредоточилась на создании собственных решений с использованием текстовых сообщений и отметила, что, хотя существуют очень недорогие телефоны Android, ОС была создана для людей с тарифным планом, а не для тех, кто живет менее чем на 2 доллара в день. «Если мы собираемся создавать продукты и услуги для людей, которые не являются нами, мы должны думать об этом с их точки зрения», - сказала она.

Ханна говорила о «ложном выборе между целью и прибылью, между миссией и продуктом» и сказала, что управляемые миссией культуры - лучшие места для работы, порождают большую лояльность и помогают создавать устойчивые компании. Кочи сказал, что вы можете сделать и то, и другое, и сказал, что основная бизнес-модель должна быть ориентирована на социальную ответственность, а не на то, что делается на стороне.

Макфарланд говорил о том, что нужно сосредоточиться не только на акционерах, но и на всех заинтересованных сторонах компании, и использовал его в качестве примера в Bell Labs AT & T до распада компании. Он обеспокоен неспособностью инвестировать в долгосрочные исследования и разработки и сказал: «Мы должны изменить культуру того, как мы думаем о бизнесе и что значит быть успешным».

Библиотека

В последующем выступлении Тони Маркс, президент Публичной библиотеки Нью-Йорка, произвел на меня впечатление, сказав, что, в отличие от предположения о том, что библиотеки уходят, он увидел, что новые технологии предоставляют величайшую в истории возможность для библиотек. всегда стоял за - помочь людям получить доступ к информации.

Он отметил, что в прошлом библиотеки сдерживались физическими и финансовыми ограничениями привлечения людей в коллекции, но сказал, что это меняется.

По его словам, библиотеки могут оказывать влияние тремя основными способами. Во-первых, просто соединяя людей, и он отметил, что у трети американцев дома нет подключения к Интернету, но библиотеки также могут служить для обучения людей работе с компьютерами и программированию.

Он сказал, что хотя современные поисковые системы «невероятны», у них есть ограничения, и отметил, что большая часть качественной информации, полученной тысячелетиями усилий, все еще недоступна. Он сказал, что его видение заключается в том, чтобы предложить посетителям библиотеки «каждую книгу, каждое изображение, каждый документ и каждый архив в любой точке мира бесплатно».

Все это восходит к старомодному представлению о библиотеке как о фундаменте, сказал Маркс, и призвал нас представить себе, обладают ли все таланты в мире способностью учиться, создавать и вводить новшества так, как они захотят. «У нас есть инструменты, чтобы остановить его», - сказал он. "Давай сделаем это."

Боги в коробках: всемогущие алгоритмы и скрытые ценности

Орен Бойман, соучредитель и генеральный директор Magisto, который использует AI для редактирования видео, сказал, что «компьютеры становятся все более и более черными ящиками», а алгоритмы, созданные нейронными сетями, превосходят лучшие алгоритмы, разработанные программистами. Хотя эти алгоритмы могут принимать решения намного лучше, чем люди, никто не понимает, как они это делают.

Вивьен Мин, соучредитель и исполнительный председатель Socos, занимающийся продажей программного обеспечения, которое помогает детям учиться, посылая родителям одну рекомендацию в день, рассказала о создании интеллектуальных алгоритмов. Она сказала, что большая часть работы с глубокими нейронными сетями зависит от тренировочных наборов, и рассказала об алгоритме распознавания лиц, который не распознает черные лица из-за пристрастного подхода к обучению. «Компьютеры как люди», - сказала она. «Это зависит от того, как вы их поднять».

Главный ученый Yahoo Рон Брахман (Ron Brachman) сказал, что, хотя мы используем антропоморфизированные термины для описания машин, между людьми и компьютерами все еще существует фундаментальное различие. Люди принимают решения исходя из своих потребностей и желаний, что сильно отличается от того, как вычислительные системы принимают решения в наши дни.

Бойман объяснил, как в большинстве этих «черных ящиков» все связано, и небольшие изменения во входных данных могут привести к большим, а иногда и хаотическим различиям в результатах, например, когда видео становится вирусным. Он сказал, что это делает вещи непредсказуемыми, и трудно проследить вещи назад к тому, что произошло первоначально. Брахман отметил, что, поскольку у нас нет возможности контролировать то, что учат дети, то же самое относится и к вычислительным механизмам.

Интеллектуальные Бизнес Машины

Обсуждение искусственного интеллекта и возникающих этических вопросов продолжилось на другой панели с лидерами некоторых более специализированных компаний-разработчиков программного обеспечения. Бабак Ходжат, соучредитель и главный научный сотрудник машиностроительной компании Sentient Technologies, сказал, что вопрос этики немного отвлекает, когда речь идет об искусственном интеллекте, и что этика также влияет на все виды других технологий, от смартфонов до баллов FICO., Джордж Джон, председатель и основатель программной рекламной компании Rocket Fuel, отметил преимущества технологии и сказал: «Если ИИ действительно работает, люди должны вернуться домой раньше». Он говорил о необходимости новых навыков управления, а также управления людьми и умными машинами. Он также говорил о поиске приложений ИИ, которые не только подходят для крупных компаний, но также могут принести пользу и отдельным людям.

Jag Duggal, старший вице-президент по управлению продуктами для компании по измерению аудитории Quantcast, сказал, что это инструменты, призванные сделать нас более продуктивными, выполнить больше задач и расширить наши возможности. Он сказал, что из этого может быть множество инноваций и производительности, и сказал, что, хотя есть опасения, что технологии станут слишком хорошими, он гораздо больше обеспокоен ограничениями технологии.

Он был особенно обеспокоен стимулами и тем, что происходит, когда алгоритмы машинного обучения в конечном итоге следуют неправильным стимулам. Например, он отметил, что на рынке размещения онлайн-рекламы поставщики услуг электронной коммерции отдают должное последнему объявлению, которое видел человек перед размещением заказа. Это приводит к тому, что больше рекламы будет таргетироваться после того, как человек уже посетил сайт электронной коммерции, и часто после того, как кто-то решил купить; другими словами, когда реклама может быть потрачена впустую. Quantcast пытается подать лучшие примеры, сказал он.

Джон Стейн, основатель и генеральный директор инвестиционной компании Betterment, основанной на искусственном интеллекте, рассказал о том, что технология может принести пользу, и согласился, что важно установить четкие стимулы. Он говорил о соблюдении фидуциарных стандартов, таких как действия в интересах вашего клиента, и сказал, что прозрачность играет большую роль, чтобы люди могли понять, где могут возникнуть конфликты.

Стейн сказал, что с течением времени технологии усложнят быть преступником, но Дуггал сказал, что он настроен более скептически, потому что у мошенников тоже есть технологии. Тем не менее, он впечатлен потенциалом технологии и привел пример проекта от Google, где ИИ может идентифицировать рак у родинок на коже. Он сказал, что его беспокоит "неправильная формулировка" проблемы противниками технологии.