Обучение без учителя

В шесть месяцев ребенок и глазом не моргнет, если игрушечный грузовик вдруг полетит. Но проведите тот же эксперимент несколькими месяцами позже, и он сразу поймет, что что-то не так. Ребенок уже усвоил понятие гравитации.

«Никто не говорит ребенку, что предметы должны падать», - сказал Янн ЛеКун (Yann LeCun), главный ученый в области искусственного интеллекта (ИИ) в Facebook и профессор Нью-Йоркского университета. По его гипотезе, поскольку у младенцев нет сложного моторного контроля, «многое из того, что они узнают о мире, они получают через наблюдения».

Эта теория может иметь важные последствия для исследователей, надеющихся расширить границы ИИ.

Deep learning, глубокое обучение, положило начало последней революции в области ИИ и добилось огромных успехов в наделении машин такими способностями восприятия, как зрение. Но ему не удалось наполнить их сложными рассуждениями, основанными на концептуальной модели реальности. Другими словами, машины плохо понимают окружающий мир, что лишает их способности взаимодействовать с ним. Новые методы помогают преодолеть это ограничение - например, предоставляя машинам своего рода рабочую память, чтобы по мере того, как они изучают и извлекают основные факты и принципы, они могли накапливать их для использования в будущих взаимодействиях.

Но ЛеКун считает, что это только часть головоломки. «Очевидно, что мы что-то упускаем», - сказал он. Ребенок может понять, что такое слон, увидев лишь две его фотографии, в то время как алгоритмы глубокого обучения должны увидеть их тысячи, если не миллионы. Подросток может научиться безопасно водить машину, потренировавшись в течение 20 часов, и сможет избежать аварии, не попадая в них. В то время как алгоритмы обучения с подкреплением (подкатегория глубокого обучения) должны пройти десятки миллионов испытаний, включая множество грубейших сбоев.

По его мнению, ответ заключается в недооцененной подкатегории глубокого обучения, известной как обучение без учителя. В то время как алгоритмы, основанные на контролируемом обучении и обучении с подкреплением, обучаются достижению цели с помощью человеческого ввода, неконтролируемые алгоритмы полностью самостоятельно извлекают закономерности в данных. В последние годы такие алгоритмы получили значительное распространение в обработке естественного языка благодаря их способности находить взаимосвязи между миллиардами слов. Это оказывается полезным для создания систем прогнозирования текста, таких как автозаполнение, или для создания правдоподобной прозы. Но подавляющее большинство исследований ИИ в других областях сосредоточено на контролируемом обучении или обучении с подкреплением.

ЛеКун считает, что следует сместить акцент. «Все, что мы изучаем как люди, почти все, мы узнаем в процессе самообучения. Есть тонкий слой информации, которую мы узнаем посредством обучения с учителем, и крошечная ее доля, которую мы узнаем посредством обучения с подкреплением, - сказал он. - Если машинное обучение или ИИ это пирог, то подавляющее большинство пирога - это самообучение».

Как это выглядит на практике? Исследователи должны сосредоточиться на временном предсказании. Другими словами, обучите большие нейронные сети предсказывать вторую половину видео, если дана первая. Хотя не все в нашем мире можно предсказать, это основной навык, лежащий в основе способности ребенка осознавать, что игрушечный грузовик должен упасть. «Если хотите, это своего рода имитация того, что происходит у вас в голове», - сказал ЛеКун.

Как только будут разработаны методы, улучшающие эти способности, они найдут важное практическое применение. «Это хорошая идея - делать видео-предсказания в контексте беспилотных автомобилей. Тогда вы сможете заранее знать, что собираются делать другие автомобили на улицах», - сказал он.

В конечном итоге, обучение без учителя поможет машинам разработать модель мира, которая затем сможет предсказывать будущее состояние мира, сказал он. Это большие амбиции, которые ускользнули от исследований ИИ, но которые открывают совершенно новые возможности. ЛеКун уверен: «Следующую революцию в области искусственного интеллекта никто не будет контролировать».

Перевод: Максим Родионов