Почему технические компании используют людей, чтобы помочь ай | Бен Диксон

«Andrew Ingram» - это цифровой помощник, который сканирует ваши электронные письма, дает идеи для планирования встреч и встреч, которые вы обсуждаете со своими коллегами, ставит задачи и рассылает приглашения соответствующим сторонам без особой помощи. Он использует передовые возможности искусственного интеллекта X.ai, New Йорк основе стартап, который специализируется на разработке помощников AI. Решаемые им проблемы могут сэкономить много времени и разочарования для людей (таких как я), у которых грязный график.

Но согласно опубликованной в мае истории Wired, интеллект Эндрю Ингрэма не является полностью искусственным. Его поддерживает группа из 40 филиппинцев в высоко защищенном здании на окраине Манилы, которые следят за поведением ИИ и занимают его, когда помощник сталкивается с делом, с которым он не может справиться.

Хотя идея о том, что ваши электронные письма сканируются реальными людьми, может показаться странной, она стала обычной практикой среди многих компаний, предоставляющих услуги AI своим клиентам. Недавняя статья в The Wall Street Journal раскрыла информацию о нескольких фирмах, которые позволяют своим сотрудникам получать доступ к электронным письмам клиентов и читать их, чтобы создавать новые функции и обучать свой ИИ в случаях, которых раньше не было.

Называемая техникой «Волшебник страны Оз» или псевдо-ИИ, практика бесшумного использования людей для устранения недостатков алгоритмов ИИ проливает свет на некоторые из самых глубоких проблем, с которыми сталкивается индустрия ИИ.

ИИ не готов к широким проблемам

За большинством инноваций ИИ в последние годы стоят алгоритмы глубокого обучения и нейронные сети. Глубокие нейронные сети очень эффективны при классификации информации. Во многих случаях, таких как распознавание голоса и лица или выявление рака при МРТ и КТ, они могут превзойти людей.

Но это не означает, что глубокое обучение и нейронные сети могут выполнить любую задачу, которую могут сделать люди.

«Глубокое обучение позволяет нам решать проблему восприятия. Это большое дело, потому что восприятие ограничивало ИИ с момента его создания более 60 лет назад», - говорит Джонатан Муган, соучредитель и генеральный директор DeepGrammar. «Решение проблемы восприятия сделало ИИ полезным для таких вещей, как распознавание голоса и робототехника».

Однако, как отмечает Муган, восприятие - не единственная проблема. Глубокая учеба борется там, где необходимы здравый смысл и понимание.

«Глубокое обучение не помогает нам решить эту проблему», - говорит он. «Мы достигли некоторого прогресса в НЛП (обработке естественного языка), рассматривая язык как проблему восприятия, т. Е. Преобразовывая слова и предложения в векторы. Это позволило нам лучше представлять текст для классификации и машинного перевода (когда существует много данные), но это не помогает в здравом рассуждении. Вот почему чат-боты в основном потерпели неудачу ».

Одна из основных проблем, с которой сталкиваются все приложения глубокого обучения, - это сбор правильных данных для обучения их моделей искусственного интеллекта. Усилия и данные, которые идут на обучение нейронной сети для выполнения задачи, зависят от того, насколько широким является проблемное пространство и какой уровень точности требуется.

Например, приложение для классификации изображений, такое как приложение Not Hotdog из Силиконовой долины HBO, выполняет очень узкую и специфическую задачу: оно показывает, показывает ли камера вашего смартфона хот-дог или нет. При достаточном количестве горячих изображений ИИ приложения может выполнять свою очень важную функцию с высоким уровнем точности. И даже если он время от времени совершает ошибку, это никому не повредит.

Но другие приложения ИИ, такие как приложение X.ai, решают гораздо более широкие проблемы, а это значит, что они требуют много качественных примеров. Кроме того, их терпимость к ошибкам намного ниже. Существует абсолютная разница между принятием огурца за хот-дога и назначением важной деловой встречи в неподходящее время.

К сожалению, качественные данные не являются товаром, которым обладают все компании.

«Эмпирическое правило заключается в том, что чем более общая проблема, которую пытается решить ИИ, тем больше крайних случаев или необычного поведения, которые могут возникнуть. Это неизбежно означает, что вам нужно гораздо больше обучающих примеров, чтобы охватить все», - говорит доктор Стив Марш. Технический директор в Geospock. «У стартапов, как правило, нет доступа к огромным объемам обучающих данных, поэтому модели, которые они могут реально построить, будут очень нишу и хрупкими, которые обычно не соответствуют их ожиданиям».

Такой объем информации принадлежит только крупным компаниям, таким как Facebook и Google, которые годами собирают данные о миллиардах пользователей. Небольшие компании должны платить большие суммы за получение или создание обучающих данных, что задерживает запуск их приложений. Альтернативой является запуск в любом случае и начало обучения своего ИИ на лету, используя тренеров-людей и живые данные клиентов, и надеясь, что со временем ИИ станет менее зависимым от людей.

Например, Edison Software, калифорнийская компания, которая разрабатывает приложения для управления электронной почтой, заставила своих сотрудников читать электронные письма своих клиентов, чтобы разработать функцию «умного ответа», потому что у них не было достаточно данных для обучения алгоритму, компании Генеральный директор рассказал The Wall Street Journal. Создание умных ответов является широкой и сложной задачей. Даже Google, у которого есть доступ к электронной почте миллиардов пользователей, предоставляет умные ответы для очень узких случаев.

Но использование людей для обучения ИИ с живыми данными пользователей не ограничивается небольшими компаниями.

В 2015 году Facebook запустил M, чат-бота AI, который мог понимать и реагировать на различные нюансы разговоров и выполнять множество задач. Facebook сделал M доступным для ограниченного числа пользователей в Калифорнии и создал штат операторов-людей, которые будут следить за работой ИИ и вмешиваться, чтобы исправить его, когда он не сможет понять запрос пользователя. Первоначальный план состоял в том, чтобы люди-операторы помогали ассистенту реагировать на крайние случаи, которых он раньше не видел. Со временем М сможет действовать без помощи людей.

Недостижимая цель?

Неясно, сколько времени понадобится Edison Software, X.ai и другим компаниям, которые запустили системы «человек в цикле», чтобы сделать их ИИ полностью автоматизированным. Существует также сомнение в том, что текущие тенденции ИИ могут когда-либо достичь уровня более широких областей.

В 2018 году Facebook закрыл M без всякого официального развертывания. Компания не поделилась подробностями, но ясно, что создать чат-бота, который может участвовать в широких разговорах, очень сложно. И чтобы сделать M доступным для всех двух миллиардов пользователей Facebook, не сделав его полностью способным автоматически реагировать на все виды разговоров, потребовалось бы, чтобы социальный гигант нанял огромный штат людей, чтобы заполнить пробелы в M.

Муган из DeepGrammar считает, что в конечном итоге мы сможем создать ИИ, способный решать здравый смысл, то, что другие классифицируют как общий ИИ. Но это не произойдет в ближайшее время. «В настоящее время на горизонте нет методов, которые позволили бы компьютеру понять, что знает маленький ребенок», - говорит Муган. «Без этого базового понимания компьютеры не смогут хорошо выполнять многие задачи в 100% случаев».

Чтобы представить это в перспективе, эксперты OpenAI недавно разработали Dactyl, роботизированную руку, способную обрабатывать объекты. Это задача, которую любой ребенок учится выполнять подсознательно в раннем возрасте. Но потребовалось 6444 ЦП Dactyl и 8 ГП и около ста лет опыта, чтобы развить те же навыки. Хотя это захватывающее достижение, оно также подчеркивает существенные различия между узким искусственным интеллектом и работой человеческого мозга.

«Мы очень далеки от искусственного общего интеллекта, и вполне вероятно, что AGI будет сочетать и координировать множество различных типов узких или специфических ИИ», - говорит Марш. «Я действительно думаю, что в настоящее время существует тенденция преуменьшать возможности ИИ, но я также вижу, что огромная ценность состоит в том, чтобы сделать первые первые шаги и реализовать традиционные модели машинного обучения».

Очередной ИИ зимой вырисовывается?

В 1984 году Американская ассоциация искусственного интеллекта (позже переименованная в Ассоциацию развития искусственного интеллекта) предупредила бизнес-сообщество о том, что шумиха и энтузиазм в отношении ИИ в конечном итоге приведут к разочарованию. Вскоре после этого инвестиции и интерес к ИИ рухнули, что привело к эпохе, более известной как «зима ИИ».

С начала 2010-х годов интерес и инвестиции в этой области снова возросли. Некоторые эксперты опасаются, что если приложения ИИ будут неэффективными и не оправдают ожиданий, наступит еще одна зима ИИ. Но эксперты, с которыми мы говорили, считают, что ИИ уже стал слишком интегрированным в нашу жизнь, чтобы проследить его шаги.

«Я не думаю, что мы находимся в опасности зимы ИИ, подобной той, что была раньше, потому что ИИ теперь приносит реальную, а не гипотетическую ценность», - говорит Муган. «Однако, если мы продолжим говорить широкой публике, что компьютеры умны, как люди, мы рискуем получить обратную реакцию. Мы не будем возвращаться к тому, чтобы не использовать глубокое обучение для восприятия, но термин« ИИ »может быть запятнан, и мы должен был бы назвать это как-то иначе."

Что точно, так это то, что, по крайней мере, эра разочарования стоит перед нами. Мы собираемся узнать, насколько мы можем доверять современным комбинациям ИИ в различных областях.

«Я ожидаю увидеть, что некоторые компании приятно удивлены тем, как быстро они могут предоставить ИИ для ранее ручного и дорогостоящего сервиса, и что другие компании обнаружат, что сбор данных занимает больше времени, чем они ожидали. финансово жизнеспособен », - говорит Джеймс Бергстра, соучредитель и руководитель отдела исследований в Kindred.ai. «Если последних слишком много, а первых недостаточно, это может спровоцировать еще одну зиму ИИ среди инвесторов».

• Искусственный интеллект имеет проблему смещения, и это наша вина Искусственный интеллект имеет проблему смещения, и это наша ошибка
• Почему важно научить ИИ играть в игры Почему важно учить ИИ играть в игры
• ИИ предлагает огромный потенциал, но это не произойдет в одночасье ИИ предлагает огромный потенциал, но это не произойдет в одночасье

Marsh Geospock прогнозирует, что, хотя финансирование не уменьшится, в его динамике произойдут некоторые коррективы. Поскольку инвесторы понимают, что реальный опыт редок, и только те, кто имеет доступ к данным для обучения моделей, будут отличаться в отрасли, произойдет большая консолидация на рынке, и гораздо меньше стартапов получат финансирование.

«Для многих стартапов ИИ без нишевого рынка приложений или огромного количества данных: зима приближается», - заключает Марш.