Искусственный интеллект с нами уже несколько лет, и он сильно влияет на наши жизни. Это полезный инструмент, который управляет нашими телефонами, переводит тексты, решает, какая информация дойдет до нас первой, и оказывает огромную помощь научным исследованиям. Это инструмент, а инструменты можно использовать по-разному: топором можно нарубить дров или убить соседа.

 

Инструменты искусственного интеллекта тоже можно использовать либо разумно и правильно, либо неразумно и неправильно. Они могут помочь вам разоблачить виноватых в уголовном преступлении, а также послужить для шпионажа и ужесточения недемократического надзора. Искусственный интеллект способен за нас оценить сложные массивы данных и выявить в них необходимые элементы, но точно так же он может заключить нас в информационные пузыри и эхо-камеры, которые негативно влияют на ответственное формирование мнения. Совершенно понятно, что искусственный интеллект — прекрасный слуга, но он может стать и плохим хозяином.

 

В последнее время искусственный интеллект и успехи на поле машинного обучения широко обсуждаются общественностью. Он обладает буквально научно-фантастическими способностями: ведет с нам беседы на обычном языке, пишет книги, анализирует сложные тексты и на основании указаний генерирует замечательные картины. И это только начало. Ограниченному числу пользователей уже доступна продвинутая языковая модель GPT-4, которая преодолела некоторые недостатки предыдущей модели, включает новые функции и справляется даже с невероятно сложными задачами. Вскоре появятся новые и новые, которые будут все лучше и лучше, и у каждой — свои удивительные когнитивные способности и спектр проблем, с которыми они будут справляться.

 

Но это не основная причина, почему об искусственном интеллекте столько говорят. Недавно группа специалистов опубликовала открытое письмо, в котором они предупреждают о вероятных рисках и призывают остановить разработки на полгода. Это время, по их мнению, следует использовать для того, чтобы уяснить для себя, какие риски связаны с применением так называемых продвинутых систем, и разработать механизмы их минимизации. Кое-кто даже возвращается к идее искусственного интеллекта как экзистенциального риска (по мнению некоторых, даже максимального).

 

Если их опасения оправдаются, искусственный интеллект может стать нашим последним изобретением, после которого уже не останется ничего, что можно было бы назвать человечеством. Это не значит, что искусственный интеллект обязательно захочет нас истребить. Но не исключено, что при решении какой-то задачи люди встанут на его пути. Мы, люди, тоже не слишком беспокоимся о созданиях, которые нам, с нашей антропоцентрической точки зрения, кажутся менее совершенными. Когда строится новая плотина, над судьбой муравейника никто особо не задумывается.

 

 

Но обоснованы ли эти опасения? Стоит ли нам действительно остановить развитие искусственного интеллекта, скажем, на предложенные полгода, и задуматься над этическими и социальными рисками и вызовами, которые с ним сопряжены?

 

Мы считаем, что в обоих случаях ответ — НЕТ. Современные системы искусственного интеллекта могут нас изумлять, и нам даже может казаться, что искусственный интеллект обладает некой волей, желаниями, замыслами, пониманием и даже эмоциями. Кстати, мы делаем то же с вещами, которые никак не связаны с искусственным интеллектом, например, с игрушками или созданиями, чьи умственные способности очень далеки от человеческих. Пример — собаки и кошки. Но даже самая совершенная система, как, скажем, столь часто упоминаемая в последнее время GPT-4, ничем подобным не обладает.

 

Это всего лишь инструмент. Сложный, продвинутый, мощный и, тем не менее, только инструмент. Он работает с языком, но не понимает его, не знает значения слов, не осознает, что делает. Искусственный интеллект способен анализировать статистические отношения между словами, фразами и их контекстом, и именно в этом ключ к пониманию его навыков. Если написать запрос, то он сможет его анализировать и на основании выученных образцов сформировать ответ. Искусственный интеллект немного похож на человека, который не понимает китайского, но держит в руках справочник, позволяющий ему сопоставлять с некоторыми иероглифами и их сочетаниями соответствующие слова и предложения на родном языке. У внешнего наблюдателя может сложиться впечатление, что этот человек понимает китайский, но это не так. Механическое применение правил не равно пониманию.

 

Тем не менее зачастую мы не можем избавиться от ощущения, что за навыками современного искусственного интеллекта что-то стоит. Хотя он же не нанял себе юридического представителя, чтобы защищали его права? И не утверждает же он о себе, что обладает сознанием, боится за свое существование, и не грозит же он навредить нам?