4 причины не бояться глубокого обучения (пока) | Бен Диксон

В 2012 году группа ученых из Университета Торонто совершила прорыв в классификации изображений.

На ImageNet, ежегодном конкурсе искусственного интеллекта (ИИ), в котором участники соревнуются за создание наиболее точного алгоритма классификации изображений, команда из Торонто дебютировала в AlexNet, «который побил поле с колоссальной 10, 8 процентной маржей… на 41 процент лучше, чем следующий лучший ", по словам Кварца.

Глубокое обучение, метод, используемый командой, было радикальным улучшением по сравнению с предыдущими подходами к ИИ и открыло новую эру инноваций. С тех пор она нашла свой путь в образование, здравоохранение, кибербезопасность, настольные игры и перевод и получила миллиарды долларов от инвестиций в Силиконовой долине.

Многие высоко оценили глубокое обучение и его сверхнабор, машинное обучение, как технологию общего назначения нашей эпохи, и более глубокую, чем электричество и огонь. Другие, тем не менее, предупреждают, что глубокое обучение в конечном итоге поможет людям справиться с любой задачей и станет главной причиной смерти. И взрыв приложений и услуг, основанный на глубоком обучении, вызвал опасения по поводу апокалипсиса ИИ, когда сверхинтеллектуальные компьютеры покоряют планету и загоняют людей в рабство или вымирание.

Но, несмотря на ажиотаж, у глубокого обучения есть некоторые недостатки, которые могут помешать ему реализовать некоторые из своих обещаний - как положительные, так и отрицательные.

Глубокое обучение слишком полагается на данные

Глубокое обучение и глубокие нейронные сети, которые составляют его основную структуру, часто сравнивают с человеческим мозгом. Но наши умы могут изучать концепции и принимать решения с очень небольшим количеством данных; глубокое обучение требует тонны образцов для выполнения простейшей задачи.

По своей сути, глубокое обучение представляет собой сложную технику, которая отображает входные данные в выходные данные путем нахождения общих закономерностей в маркированных данных и использования знаний для классификации других образцов данных. Например, предоставьте приложению глубокого изучения достаточно изображений кошек, и оно сможет определить, содержит ли фотография кошку. Аналогичным образом, когда алгоритм глубокого обучения принимает достаточно звуковых образцов различных слов и фраз, он может распознавать и транскрибировать речь.

Но этот подход эффективен только тогда, когда у вас есть много качественных данных для подачи ваших алгоритмов. В противном случае алгоритмы глубокого обучения могут совершать дикие ошибки (например, ошибочно принять винтовку за вертолет). Когда их данные не являются инклюзивными и разнообразными, алгоритмы глубокого обучения даже демонстрируют расистское и сексистское поведение.

Опора на данные также вызывает проблему централизации. Поскольку у них есть доступ к огромным объемам данных, такие компании, как Google и Amazon, имеют больше возможностей для разработки высокоэффективных приложений для глубокого обучения, чем стартапы с меньшим количеством ресурсов. Централизация ИИ в нескольких компаниях может препятствовать инновациям и слишком сильно влиять на их пользователей.

Глубокое обучение не гибко

Люди могут изучать абстрактные понятия и применять их в различных ситуациях. Мы делаем это все время. Например, когда вы впервые играете в компьютерную игру, такую ​​как Mario Bros., вы можете немедленно использовать знания реального мира, такие как необходимость перепрыгивать через ямы или уклоняться от огненных шаров. Впоследствии вы сможете применить свои знания об игре в других версиях Mario, таких как Super Mario Odyssey, или в других играх с похожей механикой, таких как Donkey Kong Country и Crash Bandicoot.

Приложения AI, однако, должны учить все с нуля. Взгляд на то, как алгоритм глубокого обучения учится играть в Марио, показывает, насколько процесс обучения ИИ отличается от процесса обучения людей. По сути, он начинает ничего не знать о своей среде и постепенно учится взаимодействовать с различными элементами. Но знания, которые он получает от игры в Марио, служат лишь узкой области этой одиночной игры и не могут быть переданы другим играм, даже другим играм Марио.

Отсутствие концептуального и абстрактного понимания удерживает приложения глубокого обучения, ориентированные на ограниченные задачи, и препятствует развитию общего искусственного интеллекта, типа ИИ, который может принимать интеллектуальные решения, как люди. Это не обязательно слабость; некоторые эксперты утверждают, что создание общего ИИ является бессмысленной целью. Но это, безусловно, ограничение по сравнению с человеческим мозгом.

Глубокое обучение непрозрачно

В отличие от традиционного программного обеспечения, для которого программисты определяют правила, приложения для глубокого обучения создают свои собственные правила, обрабатывая и анализируя данные испытаний. Следовательно, никто действительно не знает, как они приходят к выводам и решениям. Даже разработчики алгоритмов глубокого обучения часто оказываются озадачены результатами своих разработок.

Отсутствие прозрачности может стать серьезным препятствием для ИИ и глубокого обучения, поскольку технология пытается найти свое место в таких чувствительных областях, как лечение пациентов, правоохранительные органы и автомобили с самостоятельным вождением. Алгоритмы глубокого обучения могут быть менее подвержены ошибкам, чем люди, но когда они совершают ошибки, причины этих ошибок должны быть объяснимы. Если мы не сможем понять, как работают наши AI-приложения, мы не сможем доверять им критические задачи.

Глубокое обучение может стать чрезмерным

Глубокое обучение уже доказало свою ценность во многих областях и будет продолжать трансформировать наши методы работы. Несмотря на свои недостатки и ограничения, глубокое обучение не подвело нас. Но мы должны скорректировать наши ожидания.

Как предупреждает исследователь искусственного интеллекта Гари Маркус, чрезмерное использование технологии может привести к еще одной «зиме искусственного интеллекта» - периоду, когда чрезмерно высокие ожидания и недостаточная производительность приводят к общему разочарованию и отсутствию интереса.

Маркус полагает, что глубокое обучение - это не «универсальный растворитель, а один из многих инструментов», что означает, что, хотя мы продолжаем изучать возможности, которые предоставляет глубокое обучение, мы должны также рассмотреть другие, принципиально различные подходы к созданию приложений ИИ.

Даже профессор Джеффри Хинтон, который был пионером в работе, которая привела к глубокой революции, считает, что, вероятно, придется изобретать совершенно новые методы. «Будущее зависит от какого-то аспиранта, который глубоко подозрителен ко всему, что я сказал», - сказал он Аксиосу.