В Кембридже прошли двухчасовые дебаты по поводу потенциальной опасности искусственного интеллекта. Защитником выступала машина Project Debater, разработанная IBM. Используя свои аргументы и разбивая доводы оппонентов, ей удалось доказать аудитории, что в итоге AI принесёт обществу больше пользы, чем вреда.

Дискуссия проходила в Cambridge Union, обществе дебатов с 200-летней историей. Оно принимало сотни мировых лидеров и известных ученых с диспутами по поводу политики, истории или культуры. Но такой гость был у общества впервые: двухметровая черная панель, говорящая роботизированным женским голосом.

Модель Project Debater тренировалась на более чем 30 000 аргументах, оцененных людьми-рецензентами по уровню их убедительности. Так она научилась распознавать, какие доводы работают лучше других, и как можно построить веское доказательство. Ноам Слоним, руководитель проекта в IBM, говорит, одна из идей дальнейшего исследования теперь - разобрать эту модель и понять, почему люди считают одни аргументы более убедительными, чем другие.

Сейчас Project Debater хранит базу из 400 млн статей, которые он может интерпретировать своими словами, обсуждая около 100 разных тем. Перед дебатами машина разобрала более 1100 аргументов и вопросов об AI, присланных на сайт IBM за неделю до мероприятия. Она определила 570 из них в категорию «За», и 511 в категорию «Против». Некоторые аргументы были отброшены как не относящиеся к дискуссии.

Робот выступал сразу за обе позиции, плюс ему помогали по два человека с каждой стороны, дополняя аргументы или задавая вопросы. Машина использовала AI с распознаванием речи для выслушивания и анализа аргументов её оппонентов. Каждый раз это занимало несколько минут, но зато Project Debater отвечал по сути, непосредственно на поднятые вопросы.

Довольно ироничной получилось вступительное слово машины. Она начала со стороны «против»:

Искусственный интеллект может принести человечеству много вреда. Он не сможет принять морально правильное решение в новой ситуации. Потому что наличие морали - уникальная черта человека.

Роботесса говорила четко и последовательно, но всё же несколько ляпов случилось. Пару раз она повторила один и тот же довод - например, говоря о возможностях AI выполнять скучные и повторяющиеся задачи. Несколько раз машина не приводила доводов в поддержку своих теорий вообще, как будто считая свои слова фактами.

Ещё, описывая потенциальные пользы AI, машина как будто запуталась, за какую сторону она сейчас выступает, и стала противоречить сама себе:

Искусственный интеллект создаст новые рабочие места, даст людям больше креативных занятий, повысит эффективность работы. В сферах заботы о пациентах или обучения детей - необходимости в людях здесь больше не будет.

По итогам сторона «За AI» победила. Из трёхсот людей в аудитории за неё проголосовало 51,22%.

До этого в феврале Project Debater уже вступал в спор с людьми - соревнуясь с Харишем Натарджаном, рекордсменом-дебатером, считающимся одним из лучших в мире в сфере дебатов, финалист Чемпионата мира-2016. ИИ был отключен от интернета, на подготовку отводилось 15 минут, большое внимание уделялось опровержению аргументов соперника. Тогда машина потерпела поражение. Аудитория решила, что, хотя точность и насыщенность информации у AI были выше, человек говорил более пламенно, и в целом звучал убедительнее.

Команда IBM стала разрабатывать Project Debater после победы компьютера компании Watson над участниками телевикторины Jeopardy (американская «Своя игра»). Сейчас системе шесть лет. По их словам, за последние полгода машина показала очень хороший рост, и теперь готова дискутировать с кем угодно.

Project Debater - первая AI-система, которая умеет переубеждать людей по самым сложным вопросам. Она переваривает огромные массы текстов, строит хорошо структурированную речь на заданную тему, четко её подает и опровергает доводы своего оппонента. В конце концов, такая машина поможет людям рассуждать, предоставляя убедительные, основанные на фактах доводы, и отбросив эмоции.

В планах IBM - использовать искусственный интеллект для сбора мнений от большого количества людей, например, на конференциях или политических ралли. Машина быстро определяет, аргументы за какую сторону приводит тот или иной человек. Правительство и большие компании смогут использовать её при опросах общественного мнения - перед принятием важных решений.

Эта технология может помочь нам установить интересный и эффективный канал связи между руководителями и теми людьми, которые будут затронуты их решениями. Наконец у нас появилась возможность взглянуть на вопрос непредвзято, без личных пристрастий.

IBM также рассчитывает, что подобный AI поможет ей с созданием более грамотных виртуальных цифровых помощников.