Москва, 11 сентября — «Вести.Экономика» Министерство обороны США потратит в течение следующих пяти лет $2 млрд на различные разработки в области искусственного интеллекта(ИИ), сообщает CNN. Пока речь не идет о системах, которые самостоятельно принимают решения о нанесении удара и выбирают цели.
Большая часть ИИ-проектов в Пентагоне развивает подконтрольное Управление перспективных исследовательских проектов (Defense Advanced Research Projects Agency, DARPA). Сотрудники этого подразделения занимаются совершенствованием и внедрением систем искусственного интеллекта в различные образцы вооружения. В DARPA работают над наделением машин возможностью общаться и думать, так же как это делают люди.
Кроме того, американские власти поддерживают развитие ИИ-систем, позволяющие роботам быстро выявлять в сети видеоролики, изображения и аудиозаписи с отслеживаемым и потенциально опасным контентом.
Инвестиции DARPA невелики по стандартам расходов Пентагона, где стоимость покупки и обслуживания новых боевых самолетов F-35, как ожидается, превысит триллион долларов. Но это самые большие траты в истории технологии ИИ и сравнимы с суммами, которые Соединенные Штаты потратили на Манхэттенский проект, который производил ядерное оружие в 1940-х гг.
Высока вероятность, что военные захотят заручиться поддержкой высокотехнологических компаний для более эффективной и скорой разработки подходящих ИИ-систем. Впрочем, сами техгиганты от этой перспективы не в восторге. В июле около 160 компаний, а также более 2,4 тыс. ученых и предпринимателей во время Международной конференции по искусственному интеллекту (IJCAI) в Стокгольме подписали договор, который предполагает отказ от разработки оружия с искусственным интеллектом.
Среди подписавших документ, оказались основатель DeepMind Демис Хассабис, предприниматель Илон Маск, программист и основатель Skype Жаан Таллин. Инициаторы соглашения призывают правительство согласовать нормы, законы и правила, которые навеки запретят разработку роботов-убийц на основе технологий искусственного интеллекта. Пока такие меры не приняты, подписавшие соглашение стороны обязуются «не участвовать и не поддерживать разработку, производство, торговлю или применение смертоносного автономного оружия».
Появление оружия, способного самостоятельно выбрать цель и вступить с ней в бой, несет угрозу моральным и прагматическим принципам человечества, а право о лишении человека жизни никогда не должно передаваться машине, говорится в документе. Прагматическая угроза заключается в том, что «летальное автоматическое оружие, способное самостоятельно выбирать и нацеливаться на объект без вмешательства человека, опасно дестабилизирует ситуацию для каждой страны и индивида». Предприниматели и ученые также обратились к Организации Объединенных Наций (ООН) с требованием принять законы, ограничивающие разработку боевых роботов.
Профессор физики из Массачусетского технологического института Макс Тегмарк, который также подписал документ, заявил о том, что соглашение знаменует переход лидеров в сфере искусственного интеллекта «от слов к делу». По его словам, оружие, оснащенное алгоритмами, так же отвратительно, как и биологическое, поэтому оно должно строго регулироваться.
«Автономное оружие неприемлемо, и это должно стать международной нормой. Мы не сможем удержать конкретного человека от создания автономного оружия, так же как мы не в состоянии удержать кого-либо от создания химического оружия, — считает Тоби Уолш, профессор ИИ в университете нового Южного Уэльса в Сиднее, также подписавший соглашение. — Но если мы не хотим, чтобы государства-изгои или же террористы имели легкий доступ к автономному оружию, мы должны убедиться, что они не продаются открыто компаниями по поставкам вооружений».
По мнению доцента кафедры информатики университета Северной Дакоты (США) Джереми Страуба, который также является заместителем директора Института исследований в области кибербезопасности, страны развивают и строят оружие на основе передовых технологий, как и после Второй мировой войны. Во время «холодной войны» главным оружием были ядерные ракеты, а сегодня это ПО, независимо от того, используется ли оно для атаки на компьютерные системы или на цели в реальном мире.
«Как человек, который изучает использование ИИ для беспилотных летательных аппаратов, самонаводящихся транспортных средств и кибербезопасности, я волнуюсь, что мир может войти или, возможно, уже вошел в еще одну „холодную войну“, подпитываемую ИИ, — пишет Страуб. — И я не один».
Сейчас в мире существует около тысячи боевых систем с искусственным интеллектом. Министр обороны Великобритании Гэвин Уильямсон недавно рассказал о запуске двухмиллиардного проекта по созданию нового истребителя ВВС Соединенного Королевства «Буря», который сможет летать без летчика. При этом британские власти утверждают, что Лондон не разрабатывает роботов-убийц и что британские военные всегда смогут контролировать ИИ.
