[07-2024] Еще раз об искусственном интеллекте

[Admin]

Еще раз об искусственном интеллекте

ОРЛЮК Анатолий Алексеевич, канд. экон, наук, Москва, Россия

В статье автор высказывает мнение о роли искусственного интеллекта в создании общих предпосылок совершенствования общества благодаря значительному росту производительности труда. Представлено видение применения ИИ и его сосуществования с человеком.

В опубликованной ранее статье [1 ] были выражены надежды и описаны проблемы, связанные с развитием искусственного интеллекта. Однако серьезных изменений и позитивных начал в этом вопросе за прошедшее время не произошло. Помимо полит-экономической составляющей, возникает и общая проблема, не зависящая от существующей формации. Выясняется, что ИИ, как и всякое новшество, несет в себе не только благо для человечества, но и негативные последствия. Некоторые деятели высказываются о скором верховенстве ИИ над человеком и опасении появления в обществе класса ненужных людей. Настораживает применение ИИ в социальных процессах, когда он влияет на сознание, навязывает свое видение мира, завоевывает доверие людей не всегда с добрыми намерениями. Неудивительно, что в прошлом году более тысячи технических экспертов подписали письмо против слишком быстрого развития ИИ на фоне явного отставания законодательства, регулирующего его разработку и использование.
Для последних лет характерно бурное развитие нейронных сетей. Нейросеть в некотором смысле является низкоуровневой моделью нейросвязей мозга, где действует большое количество простых элементов, связанных друг с другом. В этом смысле принципы работы искусственного мозга будут такими же, т.е. открывается один из путей создания общего ИИ по образу и подобию человеческого мозга.

Появление генеративных нейронных сетей стало прорывом в области разработки и использования ИИ. Что же представляют собой генеративные нейронные сети типа GPT (generative pre-trained transformer - генеративный предобученный трансформер)? Начало работ восходит к науке об обработке больших данных (data science), куда входит NLP (natural language processing), как средство общения человека с машиной. С использованием NLP-технологий построены в основном языковые модели типа ChatGPT и др. NLP-алгоритмы обрабатывают текстовые данные, которые накопились в процессе использования человеческого языка. Причем можно перевести в текстовой формат и обработать с помощью NLP-алгоритмов все то, что мы произносим, пишем, печатаем и слышим.
Подобные GPT-модели представляют собой класс больших языковых моделей LLM (large language models) на основе трансформенной архитектуры, которые еще называют генеративными нейросетя
ми. У современных LLM-моделей большое число параметров, например GPT 3 содержит 175 млрд параметров. Параметры модели - это множество весовых коэффициентов, которые изменяются и оптимизируются в процессе обучения. Итоговые значения этих параметров являются результатом обучения модели, определяющими процесс обработки и генерации информации. Чем больше таких параметров, тем точнее и мощнее модель. Считается, что языковая модель является большой, если содержит более одного миллиарда параметров.

Возникает вопрос. Способен ли такой вариант реализации ИИ к рассуждениям, как это свойственно интеллекту человека, или он может действовать только по правилам, которым его обучили, не допуская при этом исключений? В случае работы ИИ по правилам требуется четкое их определение, начиная от актуальности и заканчивая широтой охвата. Поскольку всему и сразу обучить невозможно или возможно только на определенный момент, нет гарантии получения правильного ответа, если модель не будет пополнена новыми правилами. Из этого следует, что решением проблемы должен быть рассудок, способный восполнить недостаток правил или знаний на данный момент или, иначе говоря, прибегнуть к исключению из правил. Однако большие языковые модели пока этого делать не умеют, им еще не по силам сложные логические выводы на основе рассуждений.

Усилить интеллектуальные возможности большой языковой модели можно за счет создания механизмов взаимодействия с другими моделями, системами и алгоритмами, специальным программным обеспечением. Формирование эффективного подхода к такому взаимодействию и есть попытка научить большую языковую модель логическому мышлению, рассудку. Когда нечто подобное будет реализовано в различных областях жизни, человечество подойдет к общему ИИ. В отличие от специального он сможет оперировать не только в границах того, что ранее было придумано, но в отдельных случаях создавать что-то новое, например, находить некие скрытые закономерности, неизвестные ранее.

Создание, таким образом, общего ИИ не означает появление интеллекта, аналогичного интеллекту человека, так как он не обладает сознанием и эмоциями. Самообучение ИИ должно быть допустимо только в рамках очерченных человеком, т.е. познание им окружающего мира осуществляется не напрямую, а через человека. Только в таком случае дальнейшее совершенствование ИИ не грозит выходом его из-под контроля.
Замечу, что создание общего ИИ с точки зрения практического применения не должно предполагать получение полного аналога человека. Ведь речь идет не об искусственном человеке, а только об интеллекте. То, что ИИ не обладает эмоциями и др., является его главным преимуществом как мощного помощника человека. Допустим, мы получим полный аналог, но какой смысл применять его на практике, если человек гораздо эффективнее? Применение целесообразно в тех случаях, когда он обладает такими качествами, которые не свойственны человеку, например, неподкупностью или колоссальной вычислительной мощностью, присущей специальному ИИ и др.
Имитация сознания, свободы воли, эмоций и других качеств с целью достижения абсолютного сходства с человеком в прикладном смысле в обозримом будущем не представляет интереса. При этом сточки зрения науки это крайне интересно, и здесь нет никаких ограничений по части самообучения и попыток познания природы и общества напрямую. С одной стороны в этом случае появляется возможность порождения искусственным интеллектом принципиально нового, чего ранее никогда не было. И такой подход важен не только в силу совершенствования и развития общего ИИ, но и для самой науки, которая нуждается в мощном инструментарии познания, появлении новых самых невероятных идей.
С другой стороны это тот случай, когда ИИ выходит из-под контроля человека, и именно наука должна провести экспертизу и дать заключение на допустимость выхода такого ИИ в жизнь. Если решение положительное, необходимо определить с каким статусом и сроком действия будет применяться ИИ, оставляя при этом контроль за человеком.

Появление общего ИИ требует непременного переосмысления, например, чем он является (субъектом или объектом) с позиции философии. Не обладая сознанием и волей, он является объектом, как предмет познания и деятельности человека (субъекта). Вместе с тем, в него могут быть заложены мировоззренческие аспекты, такие как система взглядов и понятий об окружающем мире. ИИ может быть материалистом или идеалистом и в зависимости от этого трактовать каждое явление или факт. Разумеется, идеологическая направленность имеет большое значение для принятия им решений в сложных ситуациях. В конце концов ИИ может быть носителем интересов тех, кто его создал.
С внедрением ИИ в различные области экономики за короткий срок обострилась проблема занятости населения [1]. Появление GPT расширило возможности ИИ по замещению специалистов, занятых умственной или производственной деятельностью. При правильном подборе параметров ИИ может осуществлять любую функцию: от создания рекламных роликов до написания технического задания на проект. Можно оспаривать качество таких работ, но это только начало. Аналитики Goldman Sachs пришли к выводу, что генеративный ИИ может заменить человека как минимум в 18 % рабочих задач и повлиять на 300 млн рабочих мест по всему миру.

Изъяв человека из производственной сферы, государство должно заботиться о нем не только в
части обеспечения дополнительного гарантированного дохода. Это возможно при условии, если речь идет о построении социального государства. При этом вопрос из социально-экономической плоскости переходит в политическую. Если государство заинтересовано только в вытеснении человека из производства, то это, по-видимому, соответствует той миссии, которую возлагает на ИИ мировая элита. Отсюда и утверждение о возникновении в новом обществе класса ненужных людей.
Думается, что в РФ строится социальное государство, которое обеспечит максимальную занятость даже в случае высвобождения человека из производственной сферы, возьмет на себя заботу о нем, включая дальнейшее использование его потенциала для других общественных потребностей. Поэтому уже сейчас необходимо готовить общество к работе в новых условиях. При этом важным фактором является подготовка и переподготовка кадров.
По моему мнению, вредным является подход, когда в средней школе начинается профилирование, например, отказ от физики в пользу обществоведения. Каждый учащийся должен получать базовые знания по всем предметам. Это обеспечит высокую адаптивность молодого поколения в быстро меняющемся мире. Не менее важно и повышение качества высшего образования. Необходимо наладить систему профессиональной переподготовки кадров, исходя из потребностей экономики. Это поможет обеспечить занятость населения, когда человек будет подготовлен для работы не только в производственной сфере, но и в науке, культуре, охране природы и других областях, где раскроется его личный потенциал, который принесет пользу обществу и повысит интеллектуальный потенциал государства. Именно такая альтернатива должна быть противопоставлена замыслам, направленным против самого существования человечества.
Кроме существенных изменений на рынке труда имеется ряд других проблем, связанных с широким внедрением ИИ разного типа: от голосовых помощников до написания доклада с помощью генеративных нейросетей. При этом в каждом конкретном случае требуется понимание того, насколько оправдано использование ИИ с учетом его готовности, степени доверия и ответственности. Так, для создания рекламного ролика уровень требований нужен более низкий, чем для заключения о выдаче кредита. В случаях применения ИИ для принятия решения по дорогостоящему инвестиционному проекту или в качестве налогового оптимизатора должны выдвигаться совсем иные требования, которым соответствует более мощный специальный ИИ. Сегодня применение ИИ сопряжено с рисками, связанными с вероятностью появления ошибок. И даже разработчикам трудно выявить их причину. Ведутся работы по созданию объяснимого ИИ. Это направление исследований по созданию систем и моделей, способных объяснить свои действия и принимать решения понятным для человека образом, что, несомненно, повысит надежность и доверие к ИИ.

Особую озабоченность вызывает применение ИИ в социальных процессах. Он уже может в социальных сетях имитировать человека, становясь в руках злоумышленников опасным инструментом. В этом случае целесообразно в первую очередь направить ИИ на борьбу со всякого рода злоумышленниками - от выявления ложных сайтов и дипфейков до блокировки телефонных мошенников. Нужно возложить на ИИ функцию аутентификации. Заслуживает всяческого одобрения государственная система борьбы с телефонными мошенниками «Антифрод», запущенная Роскомнадзором в прошлом году. Уже сейчас чат GPT реально используют злоумышленники для написания вредоносных кодов, внедряемых в программные продукты. Наблюдаются инциденты утечки и публикации конфиденциальной информации, организация хакерских атак. Не решив эту проблему, дальнейшее внедрение ИИ будет сопряжено с огромными рисками и потерей доверия.
Актуальным становится вопрос наличия в современных информационных системах технологий ИИ. К примеру, на железнодорожном транспорте уже долгие годы эксплуатируется автоматизированная система управления движением поездов, с помощью которой диспетчер контролирует и регулирует движение в соответствии с заданным графиком. На базе информации, которую он получает от системы, можно создать на основе ИИ автодиспетчера, т.е. заменить человека. Это повысит надежность и качество работы системы в целом, так как работа диспетчера требует большого напряжения и сопряжена с ошибками, вызванными «человеческим фактором». До появления общего ИИ имеет смысл хотя бы ограничиться функциями интеллектуального помощника на основе специального ИИ. Похожая ситуация сложилась в медицине, где функционирует много систем, но они не содержат интеллектуальных компонент, которые выдавали бы предварительный диагноз и рекомендации, хотя технологии ИИ активно применяются для обработки снимков, кардиограмм и др. Дополнение информационных систем ИИ существенно повысит их эффективность и значимость. В целом можно сделать вывод, что современные информационные системы немыслимы без ИИ, который, в конечном счете, является их основой.

Для успешного функционирования систем ИИ необходимо организовать их сопровождение, которое заключается в постоянном обновлении и совершенствовании алгоритмов и программ, обязательном их тестировании. Это не менее важный и трудоемкий процесс, чем собственно разработка. Пренебрежение сопровождением приводит к ошибкам и некорректной работе. Более того, реализация и эксплуатация систем проходят в условиях, когда РФ не обладает полным суверенитетом в области информационных технологий и ИИ, что накладывает дополнительные требования по обеспечению надежной и бесперебойной работы систем с применением технологий ИИ. В отдельных случаях, в частности при использовании ИИ на объектах критической инфраструктуры, необходимо предусматривать резервирование и дублирование, включая альтернативные разработки.
Не менее важной проблемой является регулирование ИИ, которое предполагает создание нормативных актов, начиная от законов и заканчивая инструкциями по эксплуатации. В конечном счете, задача регулирования сводится к нахождению баланса между выгодой, которую может принести технология ИИ, и заложенными в ней рисками. Надо признать, что в настоящее время подобное регулирование практически отсутствует. Такое положение может не только усилить риски, но и привести к хаосу в этой сфере. Для контроля развития ИИ странам нужно разработать соответствующие законы и нормативные акты.

При использовании ИИ в разных отраслях экономики потребуются стандарты, определяющие разработку, тестирование и применение технологии. Также понадобятся этические кодексы и международные соглашения в сфере использования ИИ, чтобы она соответствовала общественным ценностям и нормам.
Однако в текущей ситуации крайне сложно договориться на международном уровне, где наблюдается гонка за лидерством. В РФ также нет единого документа, полноценно регулирующего сферу ИИ, есть только несколько отдельных норм и рекомендаций. В идеале такие нормы должны опережать работы по разработке и использованию ИИ. Тогда можно будет избежать или минимизировать неоправданные издержки. Федеральный закон Ns 408-ФЗ о регулировании рекомендательных технологий от 1 октября 2023 г. обязывает владельцев сайтов и приложений раскрывать, какие данные используются для работы рекомендательных систем, а также уведомлять о них пользователей. Однако этот закон охватывает не все стороны и нюансы сложного процесса.
С учетом рассмотренных проблем представляется целесообразным создать некий орган, который обеспечил бы их решение, что особо актуально на начальной стадии. Он мог бы выполнять такие основные функции, как:

• регистрация, учет движения и тестирование всех имеющихся и вновь созданных типов систем ИИ (например, провести или организовать тестирование GPT4 с выдачей соответствующих рекомендаций);
• выдача сертификата на использование с указанием типа и фирмы производителя, области применения, уровня надежности, степени ответственности и др. (например, о юридическом консультанте пользователю важно иметь полную информацию о нем, включая юридическую дееспособность);
• разработка стандартов и классификаторов (стандарты помогли бы консолидировать ресурсы для разработки сложных специальных систем или общего ИИ, где потребуются значительные ресурсы);
• постоянный мониторинг и обобщение опыта по сопровождению и эксплуатации систем с последующей выдачей рекомендаций;
• периодическое представление в законодательные институты предложений по изменениям существующих и по принятию новых законов, положений и др.

Отмечу, что искусственный интеллект-это венец информационных технологий. Он неизбежно сыграет положительную роль в построении совершенного и справедливого общества, будет приносить людям пользу при минимальных рисках. Вместе с тем особо следует подчеркнуть, что ИИ надо рассматривать не только с точки зрения потребностей бизнеса. Целесообразно усилить внимание науки к ИИ, как к средству получения новых знаний, а также как к средству обеспечения научного обоснования, и оказать всемерное содействие в развитии и совершенствовании ИИ. Он должен быть важным приоритетом в работе РАН. Среди других весомых предпосылок успешного использования ИИ является достижение международных договоренностей по регулированию этого процесса.

СПИСОК источников

1. Орлюк А.А. Искусственный интеллект в современном обществе//Автоматика, связь, информатика. 2018. № 10. С. 31-33.