Искусственный интеллект меняет ядерную стратегию США: что означает человек в петле.

Скорость принятия решений в условиях ядерных угроз

Как сообщает Vox: Примерно 30 минут потребуется межконтинентальной баллистической ракете, оснащенной ядерной боеголовкой, чтобы преодолеть расстояние от России до Соединенных Штатов. Если запуск будет осуществлен с подводной лодки, время может сократиться еще больше. После подтверждения запуска президент получает отчет, и у него остается всего 2-3 минуты, чтобы решить, соответствовать ли запуском её ICBM или же рисковать потерей возможности ответить.

Это короткое время для принятия любого важного решения, особенно по теме, которая может быть самой значимой в истории человечества. Хотя многие эксперты изучали способы ведения ядерной войны, важные решения, скорее всего, будут приниматься лидерами без должной подготовки и возможности обратиться за советом.

Основные выводы

• В последнее время военные лидеры все больше интересуются интеграцией искусственного интеллекта в систему командования и управления ядерными силами США, учитывая его способность быстро обрабатывать большие объемы информации и выявлять закономерности.
• Сюжеты о неконтролируемых ИИ, берущих под контроль ядерное оружие, стали привычными в фильмах, таких как WarGames или Терминатор, и, вероятно, повлияли на восприятие этого вопроса в обществе.
• Несмотря на интерес к ИИ, официальные лица подчеркивают, что компьютерные системы не получат контроль над решением о запуске ядерного оружия; в прошлом году президенты США и Китая выпустили совместное заявление по этому поводу.
• Некоторые ученые и бывшие военные утверждают, что более важный риск заключается не в неконтролируемых ИИ, а в том, что, полагаясь на ИИ в принятии решений, данные могут оказаться ненадежными и привести к катастрофическим последствиям.

Поэтому не удивительно, что ответственные за ядерный потенциал США ищут способы автоматизации частей процесса — в частности, посредством использования искусственного интеллекта. Идея заключается в том, чтобы предоставить США преимущество или, по крайней мере, выиграть немного времени.

Тем не менее для тех, кто обеспокоен потенциальным существующим риском ядерного оружия, сочетание этих двух рисков выглядит как ночной кошмар. Антониу Гутерриш, Генеральный секретарь ООН, в сентябре заявил: “до тех пор, пока ядерное оружие существует, любое решение о его использовании должно оставаться за людьми, а не за машинами.”

Стоит ли сочитать ИИ и ядерное оружие?

Чтобы понять, какой риск связан с внедрением ИИ в ядерную систему, важно сначала разобраться, как он используется сегодня. Несмотря на свою критическую значимость, многие аспекты ядерного командования США остаются удивительно низкотехнологичными, частично из-за желания сохранить критические системы 'изолированными' от больших сетей, чтобы избежать кибератак или шпионажа.

До 2019 года коммуникационная система, которой президент пользовался для отдачи приказа о ядерном ударе, все еще основывалась на дискетах. США в настоящее время модернизируют ядерное командование, контроль и связь, тратя около триллиона долларов. Генеральный директор STRATCOM, генерал Энтони Коттон, назвал ИИ 'центральным' в этом процессе.

Коттон во время свидетельства в этом году отметил, что STRATCOM ищет способы “использовать AI/ML [машинное обучение] для помощи в принятии решений.”

Некоторые роли для ИИ вполне обоснованы, например, в “прогнозном обслуживании”. Теоретически, могла бы возникнуть ситуация, где ИИ получит полномочия для запуска ядерных ракет в ответ на нападение, если президент не может быть достигнут. Однако США пока что не идут на создание такого решения.

Это вызывает опасения у многих, ведь сочетание ядерного оружия и ИИ может быть опасным.

Почему мы должны волноваться о ИИ в ядерных вопросах

В ядерных кругах часто подчеркивается, что важно, чтобы “человек был в курсе” во время принятия решений о использовании ядерного оружия. Вероятно, это касается и Джека Шанахана.

Шанахан, бывший генерал ВВС, некоторое время занимался управлением ядерными войсками. В его финальном назначении он возглавлял Центр искусственного интеллекта Пентагона. Он обеспокоен тем, что ИИ все больше внедряется в систему управления ядерными силами, даже без четкого осмысления его влияния на всю систему.

“Это все теория. Это доктрина, настольные игры, эксперименты и модели. Это не реальные данные.”

Отставной генерал-лейтенант Джек Шанахан

Современные модели ИИ хорошо развиты, но все еще подвержены ошибкам. Существующие системы могут быть уязвимыми для кибератак или манипуляций.

Таким образом, калибровка участия в ядерной войне является деятельностью, в которой “нет реальных примеров, кроме двух в 1945 году,” подчеркивает Шанахан.

Современные модели ИИ остаются “черной коробкой”, несмотря на необходимость внедрения в ядерные системы. Если опасения скептиков относительно ИИ оправдаются, могут возникнуть ситуации, когда высококачественная система сознательно вводит людей в заблуждение.

Скорость в ядерном управлении

Для Адама Лоуты, ядерного стратега, эти аргументы игнорируют основную суть. В 2019 году он вызвал резонанс среди ядерных аналитиков, утверждая, что США должны создать аналог российской системы “мертвый механизм”.

Эта система, известная как Периметр, была разработана Советским Союзом в 1980-х годах и позволяет операторам запускать остаток ядерного арсенала страны, если ядерный нападение будет подтверждено, но советские лидеры уже не могут отдать приказы.

Лоуты считает, что ИИ может помочь президенту принимать решения в критический момент, принимая во внимание уже утвержденные курсы действий. “В случае кризиса система может сказать президенту: “Вы говорили, что если случится вариант номер 17, вот что вы хотите сделать,” - подчеркивает Лоуты.

Лоут не утверждает, что ИИ никогда не ошибается. Он подчеркивает, что, возможно, удастся снизить количество ошибок по сравнению с решениями, принимаемыми под давлением человека.

В то же время, несмотря на возможные технические недостатки, Лоуты считает, что принятие решений о ядерном оружии следует оставить людям.

В конце концов, именно страх последствий ядерной эскалации, а не что-то другое, удерживало нас на плаву все эти годы. Все возможности ИИ, которые обрабатывают больше данных, чем человеческий мозг мог бы, не могут заменить интеллект, способный ощущать страх.

Эта статья была подготовлена в партнерстве с Outrider Foundation и Journalism Funding Partners.