РАПСИ начинает серию статей - размышлений на тему того, превратится ли Ai в надежного помощника человека или станет в итоге контролирующей человечество машиной.

Сегодня искусственный интеллект (в англоязычной литературе его сокращают до Ai, в отечественной – ИИ, я буду равноценно использовать оба термина) является одним из основных трендов мирового научно-технического развития. Каждое уважающее себя государство стремится разработать собственную стратегию в области искусственного интеллекта. Лидер в этой сфере — Китай, на долю которого приходится около 60% мировых инвестиций в исследования и разработки в области ИИ. По прогнозам экспертов, внедрение технологий искусственного интеллекта позволит к 2030 году удвоить темпы роста ВВП ведущих стран мира и увеличить мировой ВВП на 15 триллионов долларов. Из них 7 триллионов придутся на Китай, а 3,7 триллиона — на США. Россия в группе лидеров, не по финансовым инвестициям в эту сферу, но по ее качеству и нацеленности. Это неудивительно, отечественные программисты – в первой мировой тройке, математическая школа лучшая, государство уделяет огромное внимание сфере IT. В октябре 2019 года указом Президента РФ была утверждена Стратегия развития ИИ в стране.

Уже очевидно, что внедрение технологий искусственного интеллекта может привести к значительным экономическим и социальным изменениям в различных областях. В сфере промышленности искусственный интеллект может быть крайне полезен при прогнозировании спроса, оптимизации логистики поставок комплектующих, планировании и оптимизации производственных процессов, а также при создании полностью автоматизированных производств. В транспортных и логистических системах ИИ может оптимизировать грузоперевозки, помочь в разработке беспилотного транспорта и обеспечить водителей средствами виртуальной и дополненной реальности для снижения аварийности. В энергетике искусственный интеллект способен прогнозировать сетевые перегрузки и перераспределять мощность, а также снижать количество отказов оборудования. В финансовом и банковском секторе ИИ будет незаменим при прогнозировании динамики финансовых рынков, выявлении финансовых рисков и случаев злонамеренного поведения. Неоценимый вклад ИИ может внести в обеспечение безопасности и противодействие терроризму, а также в сферу обороны.

В то же время всё больше людей высказывают опасения по поводу ИИ. Незадолго до своей кончины, известный британский физик-теоретик Стивен Хокинг выразил мнение, что развитие искусственного интеллекта может стать как «наиболее позитивным, так и самым страшным фактором для человечества» (апрель 2017 года). Предприниматель Илон Маск настроен ещё более пессимистично: «Искусственный интеллект — это самый большой риск, с которым мы сталкиваемся как цивилизация» (июль 2017 года). Совсем недавно группа учёных и предпринимателей во главе с Маском и Стивом Возняком, сооснователем компании Apple, подписала открытое письмо, в котором говорится, что системы искусственного интеллекта, способные конкурировать с человеком, могут представлять серьёзную опасность для всего человечества. В письме содержится призыв ко всем лабораториям, занимающимся искусственным интеллектом, немедленно прекратить обучение систем, которые мощнее GPT-4.

Кто ты, ИИ?

Чтобы понять, насколько обоснованы опасения по поводу искусственного интеллекта, нужно прежде всего разобраться, что это такое? Многих удивит тот факт, что хотя исследования в области Ai начались ещё в 1950-х годах, до сих пор нет единого определения искусственного интеллекта. Да, их существует множество, но большинство довольно расплывчаты. Вот некоторые:

ИИ – это научное направление, в котором решаются задачи аппаратного и программного моделирования тех видов человеческой деятельности, которые традиционно считаются интеллектуальными. Системы, которые способны выполнять задачи, обычно ассоциирующиеся с человеческими способностями, можно назвать обладающими искусственным интеллектом.

Однако справедливость данных определения вызывает большие сомнения. Во-первых, под него, например, подпадает обычный калькулятор, поскольку он выполняет интеллектуальные функции человека (а арифметические и тригонометрические вычисления, безусловно, относятся к таковым), причем при их выполнении калькулятор получает результаты (по точности и скорости вычислений), во много раз превышающие результаты интеллектуальной деятельности человека. Следовательно, исходя из данного определения, калькулятор обладает искусственным интеллектом?! Во-вторых, попугай тоже может имитировать интеллектуальные функции человека, а именно человеческую речь, но обладает ли он при этом интеллектом – это большой вопрос. Кроме того, современные чат-боты так хорошо подражают разумному человеческому общению, что зачастую очень трудно понять, с кем ты разговариваешь – с роботом или человеком?

Существует классическое определение искусственного интеллекта, предложенное еще в 1950 году знаменитым английским математиком Аланом Тьюрингом в статье «Вычислительные машины и разум». Он разработал процедуру, которая, по его мнению, позволяет определить, когда вычислительная машина сравнивается по интеллекту с человеком. Суть этой процедуры в следующем: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить − с кем он разговаривает: с человеком или с компьютером. Задача компьютерной программы − ввести человека в заблуждение, заставив сделать неверный выбор». Помните фильм «Бегущий по лезвию» про киборгов и людей? Примерно такой тест там используют для понимания, с кем беседует собеседник – с человеком или машиной? Соревнования на тест Тьюринга проводятся ежегодно. Так вот, в 2014 году программа «Женя Гутман», имитирующая общение с пятнадцатилетним мальчиком из Одессы, впервые прошла тест Тьюринга. То есть, исходя из определения Тьюринга можно сделать вывод, что ИИ уже создан. В действительности это абсолютно не так, поскольку программа «Женя Гутман» – это просто очень хороший чат-бот, который «может ввести человека в заблуждение» и не более того.

Как уже сказано выше, с момента начала эры ИИ было предложено множество формальных и неформальных определений ИИ. Если обобщить все эти определения, то их можно разбить на два принципиально разных философских подхода. Ученый Марвин Минский в 1968 году предложил следующее определение: «ИИ – это наука о создании машин, способных выполнять задачи, которые потребовали бы интеллекта, если бы их выполняли люди». Здесь очень важно обратить внимание на то, что исходя из этого определения вовсе не обязательно, чтобы сама машина обладала ИИ, а главное, чтобы она могла выполнять те задачи, которые бы потребовали интеллекта, если бы их решал человек.

Однако системы искусственного интеллекта, которые отлично справляются с некоторыми специфическими задачами, зачастую не обладают интеллектом. Ведь все навыки, которыми они обладают, были заложены в них разработчиком. По сути, эти системы лишь формализуют результаты умственной работы своего создателя. Поэтому их интеллект не больше, чем у компьютера, который выполняет написанную человеком программу. Здесь можно привести пример игры в шахматы. Если человек играет в шахматы на гроссмейстерском уровне, то мы можем с уверенностью предположить, что этот человек обладает высоким интеллектом. Но того же нельзя сказать о программах, которые сегодня способны обыграть чемпиона мира по шахматам, поскольку они делают это не за счет какого-то своего собственного высокого интеллекта, а за счет запрограммированного в них интеллекта их создателей и огромного быстродействия суперкомпьютеров, на которых они реализованы. Например, суперкомпьютер Deep Blue, впервые обыгравший чемпиона мира по шахматам в 1997 году, успевал за одну секунду анализировать до 200 миллионов ситуаций на шахматной доске и просчитывать варианты их развития до 20 ходов вперед. Понятно, что никакой человеческий мозг при этом просто не может конкурировать с суперкомпьютером. 

Другая группа ученых считает, что ИИ заключается в способности системы приобретать и создавать новые навыки, которые можно использовать для решения заранее неизвестных ей задач. «Более четкое, с моей точки зрения, было предложено французским исследователем Франсуа Шолле, который сказал: искусственный интеллект – это способность системы самостоятельного формирования навыков выполнения задач, к которым она не была подготовлена заранее, на основе имеющихся у нее ранее сформированных навыков, априорных знаний и накопленного опыта. Иными словами, данное определение подразумевает способность системы справляться с решением широкой категории заранее неизвестных задач (т.е. задач, которые не могли быть предусмотрены создателем системы) без помощи человека, хотя на начальной стадии система может быть и обучена человеком», - сказал РАПСИ один из ведущих российских ученых в области ИИ, академик РАН Игорь Каляев.

«Сильные» против «Слабых»

Сегодня ученые разделяют искусственный интеллект на слабый и сильный. Эти понятия не имеют отношения к мощности или сложности алгоритмов, а скорее к способностям и возможностям ИИ.

Слабый искусственный интеллект — это ИИ, который предназначен для выполнения конкретных задач и функций. Он может быть использован для обработки данных, прогнозирования, распознавания образов и других задач. Слабый ИИ широко применяется в различных областях, таких как медицина, финансы, транспорт, создание текстов и иллюстраций, написания IT-кода. Типичные представители слабого Ai – ChatGPT компании OpenAi или отечественный YandexGPT, в основе которых технология нейросетей. Слабый ИИ ограничен в своих возможностях и не способен к самостоятельному обучению и адаптации. Он работает на основе алгоритмов и правил, которые были заданы разработчиками.

Сильный искусственный интеллект, также известный как общий искусственный интеллект, представляет собой гипотетический ИИ, который способен к самостоятельному мышлению, обучению и адаптации. То есть он может самостоятельно ставить себе задачи, сам их решать, и приходить к самостоятельным выводам. В этом самая большая опасность – человек не узнает, какие задачи себе поставил сильный ИИ и к какому решению пришел. А вдруг это решение касается судьбы отдельного человека или всего человечества?

Сильный ИИ пока не существует, и его создание является предметом научных исследований и разработок. Именно его появления боятся многие эксперты.

Продолжение следует

Андрей Кибернович

*Мнение редакции может не совпадать с мнением автора