Мечтают ли андроиды об электроовцах?

Разговор со специалистом по Computer Science Константином Яковлевым о проблеме целеполагания ИИ, роботах-нонконформистах и искусственном сознании
28.08.2019
Андрей Бабицкий


commons.wikimedia.org

Искусственный интеллект

- Искусственный интеллект - это новомодное слово? Специалисты используют это определение?

- Да, конечно, используют. Я, например, состою в Российской ассоциации искусственного интеллекта, ведущей официальную историю с 1992 года и являющейся правопреемницей Советской ассоциации, которая была создана в 1974 году, когда меня еще не было. Вадим Львович Стефанюк, один из активных деятелей ассоциации в то время, вместе с коллегами из Америки, отцами искусственного интеллекта как науки, организовывал в Тбилиси, Грузии, четвертую мировую конференцию по искусственному интеллекту. Так что это не новомодное слово, а название научного направления. Школа, к которой я принадлежу, рассматривает ИИ как область наук, которая ставит своей целью создание искусственных устройств, способных к целенаправленному поведению.

- Поскольку ИИ - это область, которая развивается очень бойко, что появилось за год, за чем надо следить и о чем мы будем говорить завтра?

- В рамках ИИ мне интересна область, которую можно отнести к классическому подходу, который ориентирован на данные: обработка, поиск закономерностей. Также интересен машинно-обученческий подход, который сейчас активно развивается.

Что касается актуальных вопросов. Все знают тест Тьюринга, который введен в обиход уже очень давно. Периодически появляются сообщения, что, конечно, мы уже его прошли, но на самом деле это в каком-то смысле лукавство. Тест Тьюринга должен выявить, понимает ли вас искусственная система, когда вы ведете с ней диалог на естественном языке. Насколько мне известно, никакой галочки напротив этой задачи до сих пор не стоит. То есть разговорная программа, например чат-бот, может с вами общаться на естественном языке, но в очень узкой предметной области - скажем, это помощник по банковским или юридическим делам.

Из современных проблем я выделяю задачу целеполагания, которой в том числе в нашей лаборатории занимаются мои коллеги. Рамка многих исследований в нашей области поставлена таким образом, что цель искусственной системе задана извне, и она должна это целенаправленное поведение демонстрировать согласно определению. Мы хотим исключить человека из цепочки и наблюдать феномен генерации целей в искусственной системе, то есть чтобы система делала не то, что мы сказали.

- Я правильно понимаю, что вы будете счастливы в тот момент, когда робот-пылесос перестанет пылесосить, а прыгнет в кресло и включит телевизор?

- Да! Если он хотя бы продемонстрирует это поведение, я уже буду счастлив. А если он еще и сможет объяснить мне в знаковой системе, понятной мне, а именно на естественном языке, то, что вы сказали, - это будет бомба.

- А как отличить робота, у которого есть собственные цели, от робота, которого заставили быть нонконформистом? Вам кажется, что у этой задачи может быть решение в области вашей науки, а не в области философии и смены нашего отношения к роботам?

- Моя наука - это искусственный интеллект. Но я не ставлю знака равенства между искусственным интеллектом и машинным обучением, как сейчас принято. Последнее - это способ приобретения знаний и решения каких-то задач, а ИИ к этому не сводится. Поэтому к решению задачи целеполагания должны подключаться не только информатики, математики вроде меня, но и специалисты других направлений, например когнитивные психологи.

- Есть же попытки создать какую-то модель мира роботов? Я так понимаю, что те алгоритмы машинного обучения, о которых больше всего сейчас говорят, не имеют никакой природы, у них есть только обучение. Ты им даешь огромную выборку картинок, и они на ней учатся различать объекты.

- Это интересная и сложная задача, которой, как я говорил, занимаются в том числе мои коллеги. Она заключается в создании знаковой модели мира, где мы знак понимаем как семиотический элемент. То есть у него есть образ, который может быть закодирован возбуждающимися нейронами, но у него есть еще некий смысл и значение, которое разделяется общностью индивидов, живущих в определенной культуре. Моделирование когнитивных функций - это, конечно, очень сложная задача.

Навигация роботов

- Вы занимаетесь локомоцией. Что это такое?

- Локомоция - это низшая ступень навигации, тот самый спинной мозг, когда робот способен к сложному передвижению, может забираться на ступеньки, совершать сложные маневры, закладывать агрессивные виражи. Мы этим не занимаемся. Я занимаюсь навигацией следующего уровня, которая начинается с такой постановки: у нас есть интеллектуальный агент, робот, персонаж компьютерной игры, который уже умеет двигаться. А теперь следующий вопрос: как роботу дойти из точки А в точку Б? Это уже навигация.

- Какое сейчас состояние дел в области навигации?

- Сейчас популярно построение карты по видеопотоку. Почти на всех роботах стоят видеокамеры, которые воспринимают мир как глаза у человека, то есть видят картинку. Есть идея: используя видеопоток, делать эту карту, а потом по ней передвигаться. Однако сейчас у нас много проблем: эта схема работает для построения карты в условиях одной освещенности и перестает работать, например, под дождем или во время снегопада. Для этого робота нужно обвешать множеством дорогих датчиков, которые будут потреблять большое количество энергии, чтобы как-то точно восстанавливать мир вокруг себя.

- Роботы могут эффективно заниматься краудсорсингом, то есть весь мир нарисовать?

- Да. Роботам достаточно просто решать задачи сообща с технической точки зрения, потому что их можно сделать много и заставить обмениваться данными карт. Например, если мы больше сторонники делиберативного подхода, это называется многоагентными системами. Есть реактивный подход, в рамках которого используется концепция swarm robotics (роевая робототехника). Это привлекательная идея разбить группу на много простых систем и заставить их что-то делать сообща. При таком подходе возникает проблема эффективности: роботы должны координироваться, обмениваться информацией, и это уже не так просто.

Во время навигации и движения проще всего уворачиваться, но иногда это будет похоже на историю про велосипедиста: ты едешь, а напротив тебя твой коллега; ты поворачиваешь влево - и он влево, ты вправо - и он вправо. Договориться сложно. Если бы вы умели обменяться сигналами, было бы гораздо эффективнее. Для этого необходимо настраивать протоколы. Существует точка зрения: если бы мы полностью убрали человека из системы, оставив одни беспилотники, тогда построение системы обмена информацией имело бы смысл, потому что все бы действовало по протоколам, а хаоса бы не возникало.

Источник: ПостНаука

Читайте другие наши материалы