Должность для ChatGPT

Когда искусственный интеллект успешно выступит в роли директора?
18.05.2023
Энерговектор

Если внимательно посмотреть на эволюцию технологий, которые мы широко используем, станет понятно, как мы пришли к популярному ныне искусственному интеллекту (ИИ).

В середине прошлого века расцвела электроника. Тогда в нашей стране было распространено радиолюбительство как наиболее доступное её направление. Общий подход к конструированию заключался в том, чтобы под каждую задачу проектировать и изготавливать специфическую электронную схему.

Примерно с 1980-х появились микропроцессоры, после чего работа инженеров-проектировщиков стала видоизменяться. Они уже меньше паяли и больше программировали. Теперь функции устройств в значительной степени задавались не их структурой, а выполняемыми алгоритмами. Сами же устройства составлялись из готовых стандартных блоков. За примером проще всего обратиться к популярной сегодня платформе Arduino, где помимо ряда микроконтроллеров с разной производительностью существует множество плат расширения с интерфейсами ввода-вывода, датчиками и исполнительными механизмами.

Для ускорения программирования микропроцессорных устройств уже в нашем веке стали применяться языки высокого уровня, такие как Си++ и Python с наборами специфических библиотек. То есть инженеры стали мыслить не в терминах процессорных команд, регистров, флагов, таймеров и портов ввода-вывода, а в абстракциях языка, определяющих операции с числами и текстами.

Между тем именно умение абстрагироваться от конкретных предметов и оперировать обобщающими понятиями (скажем, «станок» или «источник энергии») является одним из признаков интеллекта.

Не только и не столько микропроцессоры, быстро развивались крупные компьютерные системы и хранилища данных, разбросанные по вездесущему Интернету, давая нам надежду создать компьютерный эквивалент человеческих знаний и опыта. И где мы едем теперь?

Не будем пересказывать историю создания нашумевшего разговорного бота ChatGPT. Заинтересованный читатель легко найдёт её в Интернете. Отметим, что практическое применение ChatGPT в управлении бизнесом натолкнулось на препятствие, которое затруднительно преодолеть доработкой алгоритмов и обучением нейронной сети.

Говоря по-простому, искусственный интеллект склонен завирать. Разговорный бот ChatGPT выдаёт великолепно построенные фразы и предложения, которые убедительны в силу чёткой логики и отличного владения языком. Он феноменально хорошо находит устойчивые закономерности в больших массивах данных. А вот с умением различать правду и ложь у него проблемы. Слишком часто случаются «галлюцинации». Возможно, они - результат противоречивого характера информации в Интернете (сколько людей - столько и мнений), нашего неумения чётко выражать свои мысли и, что греха таить, случаев обмана в человеческом обществе.

«Невозможность полагаться на достоверность результатов ограничивает применение ИИ на предприятиях, - говорит старший вице-президент внедренческой компании SambaNova Systems Маршалл Чой. - Успех ChatGPT обозначил новые горизонты для деловых отношений, но если в тренингах и забавах "галлюцинации" не имеют значения, то в реальном бизнесе они недопустимы».

На производственных предприятиях накапливаются огромные объёмы ценной информации, зачастую неструктурированной, которая требует обобщения и глубокого анализа. Здесь ИИ был бы как нельзя кстати, но из-за недостоверности выводов машинные системы лишь дополняют работу аналитика, могут предлагать ему советы, но никак не способны его заменить. «В реальности чем выше цена ошибки, тем меньше желания полностью автоматизировать процесс», - добавляет Чой.

Научный подход - сверять полученные результаты с работами из списка литературы - в каких-то случаях поможет, но он не универсален и ограничивает развитие. Потому что человек руководствуется не прошлыми достижениями, а интуицией, или шестым чувством, которое психологи изучили столь же хорошо, как физики - эфир.

Человека от неправильных выводов удерживают система ценностей, культура и этика, привить которые машинной программе - задача нетривиальная. Как создаётся человеческая этика? Она построена вокруг понятия жизни, представляющей собой экзистенциальную ценность. Дети и женщины (как продолжатели жизни) в этической системе получают безусловный приоритет. (Кстати, профессия энергетика ценна и почётна потому, что она поддерживает жизнь большого количества людей.) На противоположном полюсе в ценностной системе находится смерть, которой человек боится до глубины души. А эмоции - это фундамент психики. Чтобы искусственный интеллект мог столь же глубоко воспринять человеческую систему ценностей и основанную на ней этику, в том числе заповедь «нельзя лгать», его нужно, как и человека, поставить перед страшной перспективой смерти.

В человеческой психике сконденсирован опыт многих поколений, огромные душевные силы. Человек способен много и долго работать или терпеть невзгоды ради принципа, культуры, своего рода, своей страны...

У компьютера, лишённого самосознания, ничего подобного нет. Просыпаясь после сна, человек сохраняет ощущение индивидуальности и целостности жизни, а компьютер при каждой перезагрузке начинает с чистого листа. Помнит ли себя нейронная сеть? Может ли она сказать: «В молодости я была совсем глупая»?

Правда, на дефицит которой в рекомендациях ChatGPT сетует бизнес, - понятие социальное. Для патриота России сотрудники российских спецслужб - доблестные разведчики, а сотрудники иностранных - жалкие шпионы. Если у искусственного интеллекта нет родины и тем более патриотизма, как он поймёт разницу?

До тех пор, пока разработчики систем ИИ не заговорят о каких-то моделях глубинного обучения искусственных нейронных сетей этике и морали либо о механизмах, которые соединят машины и человеческие эмоции, всерьёз полагаться на ИИ в управлении бизнесом будет невозможно.

Тем не менее системы типа ChatGPT уже доказали свою пользу в таких частных случаях, как написание фрагментов компьютерных программ по заданию человека, анализ и литературная обработка текстов, структурирование отчётов. Нейронные сети успешно внедряются во встраиваемые системы для распознавания образов. Например, они учатся без ошибок находить неисправности на фотографиях опор ЛЭП. То есть искусственный интеллект уже сегодня хорош на скромных ролях.

Источник: Народная мудрость

Читайте другие наши материалы