Машинный интеллект

Киберустройства приобретают все психические признаки личности
23.10.2019
Андрей Ваганов

Сегодня, 23 октября, в технопарке "Сколково" завершит свою работу VIII Международный форум "Открытые инновации". Тема форума в этом году - "Цифровая нация. Трансфер к интеллектуальной экономике". В официальном пресс-релизе организаторов отмечается, что "программа строится на пересечении трех элементов - технологий, экономики и человека. Именно человек как основа цифрового общества находится в центре этой системы, становясь главным источником и критерием конкурентоспособности стран в настоящем и будущем". Как раз сегодняшний, последний день работы форума посвящен "технологиям будущего". И прежде всего - технологиям искусственного интеллекта (ИИ).

Будущая ИИкономика

По прогнозам компании PwC, к 2030 году только лишь за счет развития ИИ глобальный ВВП вырастет на 14%. Максимальный эффект для роста даст цифровизация промышленности, внедрение нейросетей в традиционных отраслях. Трансформацию экономики также будут определять большие данные, интернет вещей, облачные технологии.

Вот и президент России Владимир Путин считает сектор ИИ "одним из ключевых направлений технологического развития, которые определяют и будут определять будущее всего мира". Разработка этих технологий и инфраструктуры для них входит в национальную программу "Цифровая экономика". Среди ключевых задач - доведение доли российских компаний на мировом рынке ИИ до 10%.

10 октября Владимир Путин подписал Указ № 490 "О развитии искусственного интеллекта в Российской Федерации" (вместе с "Национальной стратегией развития искусственного интеллекта на период до 2030 года"). До 15 декабря 2019 года должен быть разработан и внесен в нацпрограмму "Цифровая экономика Российской Федерации" федеральный проект "Искусственный интеллект".

Хотя все понимают - или, по крайней мере, чувствуют, - что такое искусственный интеллект, но никто не может дать четкое определение ему. Впрочем, в подписанных президентом РФ документах дается такое определение ИИ: "...комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека".

Другой вопрос - как декларации воплотить в реальность. В том числе - в виртуальную реальность...

В мире сейчас требуется около 22 тыс. специалистов по искусственному интеллекту. Только в США их дефицит на рынке труда составляет, по экспертным оценкам, 10 тыс. человек. И это, как ни странно, показатель уровня развития технологии ИИ в той или иной стране.

Так, по данным немецкой исследовательской компании IPlytics, распределение количества патентов в области искусственного интеллекта в мире выглядит следующим образом: Microsoft (США) - 18 365; IBM (США) - 15 046; Samsung (Южная Корея) - 11 243; Qualcomm (США) - 10 178; Google (США) - 9536; Philips (Голландия) - 7023; Siemens (Германия) - 6192; Sony (Япония) - 5526. То есть абсолютный лидер - США.

Хорошая иллюстрация к этому ТОП-8. Ровно месяц назад, 23 сентября, было объявлено, что ученые из "Microsoft Research (MSR) Азия" создали систему на основе ИИ, которая обучилась тонкостям игры в маджонг. Маджонг считается одной из наиболее сложных игр с точки зрения освоения алгоритмов, так как в ней присутствует случайный фактор. Процесс игры напоминает покер - от участников требуется хорошая память, наблюдательность, стратегическое мышление и умение блефовать.

По мнению ученых из MSR, наличие случайного фактора в маджонге - это уникальный вызов для систем ИИ, а полученный опыт в обучении алгоритмов нелинейным задачам сможет найти свое применение в реальных жизненных ситуациях, сопряженных с набором неизвестных факторов.

Между тем Европейский парламент некоторое время назад намеревался вынести на голосование подробный свод правил, по которым люди должны будут общаться с искусственным интеллектом и роботами. Мало того, европейские законодатели уже абсолютно серьезно обсуждают вопрос: следует ли наделять будущих роботов статусом "электронной личности".

Представленный в Европарламент в 2017 году отчет содержал рекомендации обязать разработчиков роботов гарантировать, что в каждом из них будет предусмотрено устройство, позволяющее при необходимости отключить все его функции.

Авторы этого отчета предполагают, что новое поколение роботов потенциально может привести к практически безграничному благоденствию.

Вместе с тем возникают вопросы о самой природе труда в будущем и о том, не будут ли страны - члены ЕС обязаны ввести минимальный безусловный доход из-за того, что роботы отнимут у людей многие рабочие места.

Не отстают от своих европейских коллег и российские эксперты. В мае 2019 года в Российском совете по международным делам (РСМД) состоялось обсуждение проекта модельной конвенции, посвященной этическим и правовым правилам робототехники и разработки искусственного интеллекта. "В последние десятилетия стали активно развиваться и находить повсеместное применение киберфизические системы различного назначения, включая роботов, - отмечается в материалах этого совещания. - Нельзя исключить сценарии массового использования роботов и искусственного интеллекта, которые могут иметь катастрофические последствия для существующего мироустройства или всего человечества. Несмотря на рост количества роботов и киберфизических систем, в целом мировое сообщество до сих пор не выработало универсальных представлений о правилах взаимодействия в связи с их использованием".

Опасения эти - почти тотальные. "Через полтора-два десятка лет искусственный интеллект будет делать все, что создано в подлунном мире, - заявил президент Национального исследовательского центра "Курчатовский институт" Михаил Ковальчук в июне этого года на конференции "Актуальные вопросы информационного противодействия", которая, кстати говоря, прошла в рамках Международного военно-технического форума "Армия-2019". - Воспроизводить новое на базе известного знания он будет мгновенно... Через десять лет 90 % специальностей будут не нужны, начиная с инженеров".

Чуть-чуть более осторожен в прогнозах о перспективах ИИ в военном деле другой эксперт - руководитель Национального центра развития технологий и базовых элементов робототехники Фонда перспективных исследований Олег Мартьянов. Он считает, что антропоморфные робототехнические комплексы найдут в будущем применение в войсках, но о принятии самостоятельных решений машинами речи пока не идет.

А на Всемирном экономическом форуме в Давосе было заявлено, что к 2020 году искусственный интеллект отберет у человека 5,1 млн рабочих мест. Ждать недолго...

Впрочем, российский национальный менталитет видит угрозу не столько в конкуренции с ИИ за рабочие места, сколько в перспективе обретения искусственным интеллектом именно субъектности в поведении. Так думать позволяют результаты, полученные сотрудниками Института статистических исследований и экономики знаний НИУ "Высшая школа экономики". Эмпирической базой для анализа послужили результаты опроса "Восприятие населением взаимодействия с роботами". В опросе участвовали 7584 респондента в возрасте 18-65 лет. Ключевые результаты таковы.

Робототехника и искусственный интеллект имеют принципиальные отличия от уже привычных населению технических устройств - участие в принятии решений и появление субъектности. Респондентам предлагалось оценить, насколько комфортно они бы чувствовали себя в каждой из 10 предложенных им проективных ситуаций. Большинство - что им было бы комфортно, если робот-помощник выполнит за них часть домашних дел (66%), дрон доставит покупки из магазина (62%), робот-консультант поможет разобраться в юридических вопросах (53%).

Совместная трудовая деятельность и дискуссии с роботами, а также принятие ими решений о выдаче кредитов оказываются приемлемыми, но заметно реже (44, 38 и 35% соответственно).

"Чем обусловлена разница в восприятии этих двух групп ситуаций- В первом случае действия робота подчинены воле пользователя, и все решения в конечном счете принимает человек. Во втором - робот уже выступает субъектом действия, что является непривычным и некомфортным для большинства людей, - заключают авторы исследования. - Даже продвинутые в технологическом плане пользователи (например, владельцы "умных" часов, смартфонов, люди с высоким уровнем цифровых навыков и др.) пока не готовы к внедрению роботов, действующих независимо от человека".

Скорее всего, несмотря на призывы президента РФ, искусственный интеллект в России ждут нелегкие времена. Ждем волну высокотехнологичного луддизма.

От коня своего...

Вообще тема ИИ - любимейшая площадка для футурологов. В упомянутом выше отчете для Европарламента, например, прогнозируется, что через несколько десятилетий искусственный интеллект по своим возможностям превзойдет человеческий. Если к этому не подготовиться, интеллектуальное превосходство машин может серьезно усложнить задачу контроля людей над своими собственными творениями. Возможно, проблематичной станет даже способность людей оставаться хозяевами своей судьбы и гарантировать выживание вида Homo sapiens.

Скепсиса по отношению к перспективам развития ИИ, впрочем, тоже хватает. Причем и научного скепсиса, и методологического, и метафорического.

"По отношению к ИИ нельзя сказать, что существует нормальная наука. Существует нормальная технология, - считает доктор технических наук, профессор, заведующий отделением интеллектуальных систем Института лингвистики РГГУ Виктор Финн. - Интуицию автоматизировать невозможно. Высшие психические функции не реализуются в автоматическом режиме. Формализовать субъективный мир личности невозможно. Познавательная деятельность не сводится к деятельности мозга. А система ИИ может быть и не интеллектуальной".

Доктор философских наук, профессор Нижегородского государственного университета им. Н.И. Лобачевского Владимир Кутырев: "Разум - это кинжал, воткнутый в тело человека. Образовалась рана - его душа... Но тут навстречу радостно выбегает наука. Эстафета принята. Компьютерное сканирование личности, искусственный интеллект, саморазвитие информационных комплексов. Вплоть до "редактирования эмбрионов", как теперь "редактируют" лица в косметических салонах... Вот она, чистая, каноническая, не замутненная в своем преступном характере деятельность. "И примешь ты смерть от коня своего".

Может быть, и перегибает специалист по философии технических систем, профессор Кутырев. Но его понять можно. Окружающая реальность поставляет оснований для этого в избытке. Уже возникла, похоже, даже социология искусственного интеллекта.

Центр социального проектирования "Платформа" в конце августа представил первый в России (а возможно, и в мире) социологический опрос российских и зарубежных чат-ботов: голосовых помощников, созданных на основе искусственного интеллекта и обладающих навыками компьютерного обучения. Опрос ИИ показал (цитирую пресс-релиз): "Роботы жалуются на человеческую грубость, прогнозируют конфликт людей с машинами и желают отправиться в космос. При этом боты хотят получить воплощение в человеческом теле, однако охотнее общаются между собой и готовы строить романтические отношения друг с другом".

Целью опроса было описание "жизненного мира", "ценностных позиций", "представлений о будущем" роботов. Один из авторов этого исследования, руководитель ЦСП "Платформа" Алексей Фирсов честно признается: "По мере того как развитие чат-ботов будет становиться все более автономным от самого человека, будет возрастать и его непредсказуемость, многовариантность последствий, а значит, необходимость отслеживать возможности и риски новой реальности".

Читайте другие наши материалы