Однако количество жертв среди гражданского населения в Газе и на Украине заставляет усомниться в том, что конфликты становятся менее смертоносными — особенно по мере того, как они распространяются на городские районы. А появление ИИ в военных действиях открывает ящик Пандоры с этическими и юридическими проблемами. Например, авторитарное государство может легко взять системы ИИ, предназначенные для сбора разведданных в бою, и развернуть их против несогласных или политических оппонентов. Китайская компания DJI, например, была замечена в нарушении прав человека по отношению к китайским уйгурам, а связанная с Россией ЧВК «Вагнер» помогала малийским военным наносить удары беспилотниками по мирным жителям. Эти опасения касаются не только врагов США. Израильские военные используют программу искусственного интеллекта Lavender для выявления потенциальных боевиков и нанесения авиаударов по их домам в густонаселенном секторе Газа. Программа практически не контролируется человеком. По некоторым данным, военные тратят всего 20 секунд на подтверждение каждой атаки.

 

В худшем случае война с участием ИИ может даже поставить под угрозу человечество. Военные игры, проведенные с использованием моделей ИИ от OpenAI, Meta и Anthropic, показали, что модели ИИ склонны к внезапной эскалации кинетической войны, включая ядерную, по сравнению с учениями, проводимыми людьми. Не нужно обладать большим воображением, чтобы понять, как все может пойти не так, если эти системы ИИ будут использоваться на практике. В 1983 году советская система обнаружения ракет ошибочно классифицировала свет, отраженный от облаков, как приближающуюся ядерную ракету. К счастью, в советской армии за обработку сигнала тревоги отвечал человек, который определил, что предупреждение было ложным. Но в век искусственного интеллекта человека, который бы перепроверил работу системы, может не оказаться. К счастью, Китай и США, похоже, признают, что им необходимо сотрудничать в области ИИ.

 

После саммита в ноябре 2023 года президент США Джо Байден и Си пообещали совместно обсудить вопросы риска и безопасности ИИ, и в мае в Женеве состоялся первый раунд переговоров. Этот диалог крайне важен. Даже если сотрудничество между двумя сверхдержавами начнется с малого, возможно, не достигнув ничего большего, чем создание общего языка в отношении использования ИИ в войне, оно может заложить основу для чего-то большего. Во время холодной войны — эпохи соперничества великих держав, значительно более интенсивного, чем нынешнее американо-китайское противостояние, — Советский Союз и Соединенные Штаты смогли создать прочный режим мер ядерной безопасности. Как и Советы, китайские чиновники имеют стимулы для сотрудничества с Вашингтоном в области контроля над новыми вооружениями. У Соединенных Штатов и Китая разное видение глобального развития, но ни один из них не хочет, чтобы террористы завладели опасными роботами. Они также желают не допустить, чтобы другие государства приобрели такие технологии. Великие державы, обладающие грозными военными технологиями, почти всегда заинтересованы в том, чтобы держать их при себе.

 

Даже если Китай откажется сотрудничать, Соединенные Штаты должны обеспечить строгий контроль над собственным военным ИИ. Они должны убедиться, что системы ИИ могут различать военные и гражданские цели. Они должны находиться под управлением человека. Руководство должно постоянно тестировать и оценивать системы, чтобы убедиться, что они работают так, как задумано, в реальных условиях. Соединенные Штаты должны добиваться от других стран — как союзников, так и противников — внедрения подобных процедур. Если другие государства откажутся, Вашингтон и его партнеры должны использовать экономические санкции, чтобы ограничить их доступ к военному ИИ. Следующее поколение автономного оружия должно быть создано в соответствии с либеральными ценностями и всеобщим уважением прав человека, а это требует агрессивного лидерства США.

 

Война — это мерзкое, жестокое и зачастую слишком долгое дело. Это иллюзия — думать, что технологии изменят основную человеческую природу конфликта. Но характер войны меняется быстро и фундаментально. Соединенные Штаты тоже должны меняться и адаптироваться, причем американские чиновники должны делать это быстрее, чем их противники. Вашингтон не сможет сделать все абсолютно правильно — но он должен ошибаться меньше, чем его враги.