Ян Лекун обсуждает силу, пределы глубокого обучения

На семинаре по искусственному интеллекту и будущему труда в начале этого месяца Ян ЛеКун, директор по исследованиям искусственного интеллекта в Facebook и директор-основатель Центра наук о данных NYU, говорил о «мощи и ограниченности глубокого обучения». ЛеКун, ставший пионером сверточных нейронных сетей, лежащих в основе многих недавних достижений ИИ, с энтузиазмом относился к прогрессу, достигнутому в этой области в последние годы, и реалистично относился к тому, что такие системы могут и не могут делать.

По словам ЛеКуна, было множество волн ИИ, и в то время как текущая волна была сосредоточена на глубоком обучении, впереди «восприятие», при этом наиболее яркими примерами являются такие приложения, как медицинская визуализация и автомобили с автоматическим вождением. Почти во всех этих приложениях используется контролируемое обучение, и большинство из них используют сверточные нейронные сети, которые LeCun впервые описал в 1989 году и которые впервые были развернуты при распознавании символов в банкоматах в 1995 году. По словам ЛеКуна, срок действия патента на такие сети истек в 2007 году.

Именно большие наборы данных с большими размерами выборки, а также огромный рост вычислительной мощности (чему способствовала работа Джеффри Хинтона по выяснению того, как использовать графические процессоры для распознавания изображений), привели к наибольшим изменениям за последние годы. Даже для LeCun прогресс в распознавании изображений был «не чем иным, как удивительным». Хотя восприятие «действительно работает», все еще не хватает рассуждений.

ЛеКун рассказал о трех разных подходах и об ограничениях каждого из них. Усиление обучения требует огромного количества образцов. Это отлично подходит для игр, поскольку система может выполнять миллионы испытаний и становиться все лучше и лучше, но ее трудно использовать в реальном мире, так как, например, вы не хотите водить машину с обрыва 50 миллионов раз, и реальное время является фактором в реальном мире.

Контролируемое обучение, которое является большей частью того, что мы видим сейчас, требует среднего количества отзывов и работает хорошо. Однако у контролируемого машинного обучения есть некоторые проблемы. По словам ЛеКуна, такие системы отражают отклонения в данных, хотя он и выражает оптимизм по поводу того, что эту проблему можно преодолеть, и считает, что устранять отклонения с машин легче, чем людей. Но также сложно проверить надежность таких систем и сложно объяснить решения, принятые на основе результатов таких систем, и ЛеКун рассказал о кредитных заявках в качестве примера.

Необучаемое или прогнозирующее обучение, которое в настоящее время исследуется для таких вещей, как прогнозирование будущих кадров в видео, требует большого количества обратной связи. Неуправляемое обучение включает в себя прогнозирование прошлого, настоящего или будущего из любой доступной информации, или, другими словами, способность заполнять пробелы, которые, по словам ЛеКуна, - это то, что мы называем здравым смыслом. Он отметил, что дети могут делать это, но что заставить машины делать это было очень сложно, и рассказал о том, как исследователи работают над такими методами, как генеративные состязательные сети (GAN), для предсказаний, сделанных в неопределенных условиях. Мы далеки от того, чтобы иметь полное решение, сказал он.

ЛеКун говорил о трех типах обучения как о частях торта: обучение с подкреплением - это вишня на вершине, контролируемое обучение обледенению, а интеллектуальное обучение - основная часть торта.

ЛеКун предсказал, что ИИ изменит то, как все оценивается: товары, созданные роботами, стоят дешевле, а подлинный человеческий опыт - дороже, и сказал, что это может означать, что у джазовых музыкантов и ремесленников есть «светлое будущее».

В целом, по словам ЛеКуна, AI - это технология общего назначения (GPT), такая как паровой двигатель, электричество или компьютер. Таким образом, это повлияет на многие сферы экономики, но пройдет 10 или 20 лет, прежде чем мы увидим влияние на производительность. ЛеКун сказал, что ИИ приведет к замене работы, но отметил, что внедрение технологий ограничено тем, насколько быстро работники могут обучаться этому.

Что касается «настоящей революции ИИ», ЛеКун сказал, что этого не произойдет, пока машины не обретут здравый смысл, и для определения принципов его построения может потребоваться два, пять, двадцать или более лет; кроме того, потребуются годы, чтобы разработать практическую технологию искусственного интеллекта, основанную на этих принципах. В конце концов, отметил он, понадобилось двадцать лет, чтобы сверточные сети стали важными. И все это основано на предположении, что принципы просты; это становится намного сложнее, если «интеллект - это клочок».