Несправедливое преимущество: не ожидайте, что Ай будет играть как человек

Недавние подвиги DeepMind в разработке искусственного интеллекта, способного победить игроков мирового уровня в StarCraft II, вызвали много волнений. В то время как DeepMind назвал это крупным прорывом, другие утверждали, что это было обманом, нечестным и сверхчеловеческим.

Но то, что показывают все дебаты, это то, что, возможно, нам нужно изменить контекст, в котором мы обсуждаем и оценить возможности ИИ, и перестать сравнивать его игровой процесс с нашим.

AlphaStar, бот DeepMind, играющий в StarCraft, использует глубокое обучение, популярную область ИИ, в которой программисты развивают поведение своих моделей ИИ, предоставляя им безумное количество примеров. AlphaStar сначала обучалась на большой базе данных человеческих игровых данных, выпущенных Blizzard, играя в миллионы игр против себя, чтобы изучить и освоить правила StarCraft. Затем он был настроен против людей, охватывая собственных игроков-любителей DeepMind, прежде чем идти против чемпионов мира.

Когда AlphaStar победили TLO и MaNa, двух лучших игроков мира, появилась причина полагать, что индустрия искусственного интеллекта прошла важный рубеж. В своем блоге DeepMind назвал AlphaStar «шаг вперед в нашей миссии по созданию интеллектуальных систем, которые однажды помогут нам найти новые решения для некоторых из самых важных и фундаментальных научных проблем в мире».

Но потом пришла критика.

Нечестное преимущество

Критики утверждают, что у AlphaStar есть несколько характеристик, которые делают его нечестным противником против людей.

Во-первых, AlphaStar блистает быстро. Инженеры DeepMind говорят, что они мешали AlphaStar, чтобы он не мог выполнять больше действий, чем может совершить человек. Но люди-игроки делают много спама, или импульсивных действий, которые не имеют никакой ценности или размышлений.

Например, когда игроки хотят приказать своим отрядам переместиться в локацию или атаковать врага, они часто нажимают несколько раз на одно и то же место или на траекторию к месту назначения, потому что это дает ложное ощущение, что щелчок ускорит это действие. В действительности, юниты выполняют только самые последние команды и игнорируют предыдущие. В отличие от этого, каждый ход AlphaStar является точным.

Критики утверждают, что несоответствие позволяет AlphaStar микроуправлять игрой в сверхчеловеческой манере. Например, в большом сражении, в котором участвует много юнитов, AlphaStar может давать индивидуальные команды каждому из своих юнитов со скоростью и точностью, которые были бы невозможны для его человеческих противников. В анализе производительности AlphaStar Тимоти Б. Ли из ArsTechnica описал несколько сценариев, в которых скорость и точность AlphaStar дают ему несправедливое преимущество.

Другие аналитики отмечают, что AlphaStar получает больше информации, чем люди-игроки. Версия бота, которая победила MaNa и TLO, имела доступ ко всей карте, в отличие от того, чтобы видеть ценность поля битвы монитора как человека-игрока. Но он все еще был ограничен «туманом войны», что означает, что он не мог извлекать информацию из областей, где у него не было активных подразделений.

Другие же критиковали ограничения AlphaStar: он мог играть только за Протосса, одну из трех рас в StarCraft, и только на одной из множества карт игры. Учитывая новую расу и карту, AlphaStar, вероятно, проиграет противникам-любителям, потому что, с точки зрения ИИ, это все равно что играть в совершенно другую игру.

Что такое честная игра?

DeepMind до сих пор не выпустил технические детали, но некоторые подозревают, что вместо обработки необработанных пикселей, как это делают люди, у AlphaStar мог быть доступ к необработанным игровым данным через API (интерфейсы прикладного программирования).

Спасибо! но это не говорит о том, использовало ли конкретное программное обеспечение, выигравшее у экспертов, пиксели или готовые APi, которые оба доступны, но очень разные

- Гэри Маркус (@GaryMarcus) 31 января 2019 года

Тимоти Б. Ли Арса приходит к такому выводу: «Лучший способ выровнять игровое поле - заставить AlphaStar использовать точно такой же пользовательский интерфейс, как и у людей». Это означает, что, подобно игроку-человеку, наблюдающему за монитором компьютера, ИИ будет иметь доступ только к игровой графике и должен будет имитировать нажатия клавиш, щелчки мыши и прокрутки, а не взаимодействовать с игрой через вызовы API.

Это было бы справедливо, если бы мы ожидали, что ИИ точно воспроизведет человеческий мозг и чувства. Но глубокое обучение и нейронные сети, которые по-прежнему являются передовыми для ИИ, имеют определенные ограничения, которые мешают им воспроизводить некоторые из самых основных человеческих функций.

Глубокое обучение - это узкий ИИ, что означает, что он очень хорош в выполнении определенных задач, таких как маркировка изображений или распознавание речи, но он ужасен при обобщении задач или передаче своих знаний в другие области. Чем больше вы расширяете проблемную область, тем более ограничены возможности ИИ и тем больше требуется обучение. Вот почему AlphaStar не сможет играть в другие RTS-игры, такие как Warcraft 3 или Company of Heroes.

Для освоения протоссов на одном уровне играм AlphaStar понадобилось 200 лет. Вероятно, потребуется столько же, чтобы научиться играть в терранов или зергов, двух других рас StarCraft. Напротив, игрок-человек мог быстро перенести знания, полученные от одной игры, на новую.

Мы все еще далеки (по крайней мере) от общего ИИ, типа, который может соответствовать когнитивным способностям людей. Некоторые ученые считают, что нам никогда не удастся воспроизвести человеческий мозг.

Но узкий ИИ очень хорошо обрабатывает большие объемы информации с очень высокой скоростью. Вот почему AlphaStar может обрабатывать всю карту StarCraft одновременно. Разработчики StarCraft могли бы изменить игру, чтобы предоставить игрокам полный обзор игровой карты, но это, вероятно, скорее сбило бы с толку игроков, чем помогло бы им. Людям также может быть предоставлен доступ к необработанным игровым данным, но это тоже не поможет.

Люди медленны в обработке данных, но обладают здравым смыслом и способностями абстрактного мышления, которые позволяют им планировать и принимать решения без полной информации. Вот почему они предпочитают иметь ограниченный обзор карты и сосредоточиться на одной части поля битвы; в то же время они имеют представление о том, что происходит в других частях игры, и могут разработать общий план игры.

АльфаСтар обманывает?

Учитывая различия между ИИ и человеческим мозгом, можно сказать, что критики были правы в своей оценке: DeepMind сфальсифицировал конкуренцию в пользу AlphaStar, ограничив ее одной картой и одной расой. Но дебаты об AlphaStar могут привести нас к очень важным выводам.

Во-первых, главное в игре не должно проверять, может ли ИИ щелкать и прокручиваться, как человек. Вместо этого мы должны сосредоточиться на том, как ИИ работает в игре, которая предоставляет несовершенную информацию и требует принятия решений в режиме реального времени. В этом отношении AlphaStar проделал довольно хорошую работу.

• Что заставит вас доверять помощнику ИИ? Как насчет лица? Что заставит вас доверять помощнику ИИ? Как насчет лица?
• Год этического расчета в индустрии ИИ Год этического расчета в индустрии ИИ
• Этот ИИ слишком силен, чтобы публиковать его Этот ИИ слишком силен, чтобы публиковать его

Во-вторых, StarCraft, возможно, не лучшее место для тестирования возможностей ИИ в области стратегического планирования и планирования. Как отметил один аналитик, «StarCraft II - это игра, которую можно сломать механическим совершенством». Это означает, что ИИ может компенсировать свои плохие навыки стратегии сверхчеловеческой скоростью и хирургической точностью.

Наконец, ИИ и человеческий интеллект настолько различны, что, вероятно, было бы невозможно создать равное игровое поле между ними. Небольшие изменения в правилах быстро склонят игру в пользу той или иной стороны до такой степени, что это сделает конкуренцию несправедливой.

Мы должны искать среды и параметры, в которых мы можем раскрыть и протестировать ИИ на полную мощность, а не замедлять его с искусственными человеческими ограничениями. Чего могут достичь люди и ИИ, когда они сотрудничают, а не соревнуются?