ШІ змінюють ядерну стратегію США: що означає людина в петлі.

Швидкість прийняття рішень у ядерних загрозах

Як повідомляє Vox: Приблизно 30 хвилин знадобиться міжконтинентальній балістичній ракеті, озброєній ядерною головкою, щоб подолати відстань від Росії до Сполучених Штатів. Якщо запуск буде здійснено з підводного човна, час може скоротитися ще більше. Після підтвердження запуску президент отримує звіт, і у нього залишається всього 2-3 хвилини, щоб вирішити, чи відповідати запуском її ICBM або ж ризикувати втратою можливості відповісти.

Цей короткий час для прийняття будь-якого важливого рішення, особливо стосовно теми, яка може бути найзначнішою в історії людства. Хоча багато експертів вивчали способи ведення ядерної війни, важливі рішення, швидше за все, будуть прийняті лідерами без належної підготовки і можливості звернутися за порадою.

Основні висновки

• Останнім часом військові лідери все більше цікавляться інтеграцією штучного інтелекту в систему командування та управління ядерними силами США, зважаючи на його здатність швидко обробляти великі обсяги інформації і виявляти закономірності.
• Сюжети про неконтрольовані ШІ, що беруть під контроль ядерну зброю, стали звичними у фільмах, таких як WarGames або The Terminator, і, напевно, вплинули на сприйняття цього питання у суспільстві.
• Попри інтерес до ШІ, офіційні особи підкреслюють, що комп'ютерні системи не отримають контроль над рішенням про запуск ядерної зброї; минулого року президенти США та Китаю видали спільну заяву з цього приводу.
• Деякі вчені та колишні військові зловжать, що важливіший ризик полягає не у неконтрольованих ШІ, а у тому, що, покладаючись на ШІ у прийнятті рішень, дані можуть виявитися ненадійними і призвести до катастрофічних наслідків.

Тому не дивно, що відповідальні за ядерний потенціал США шукають способи автоматизації частин процесу — зокрема, шляхом використання штучного інтелекту. Ідея полягає в тому, щоб надати США перевагу або, принаймні, купити трохи часу.

Проте для тих, хто стурбований потенційним існуючим ризиком ядерної зброї, поєднання цих двох ризиків виглядає як нічний жах. Антоніу Гутерріш, Генеральний секретар ООН, у вересні заявив: “до тих пір, поки ядерна зброя існує, будь-яке рішення про її використання повинно залишатися за людьми, а не за машинами.”

Чи варто поєднувати ШІ та ядерну зброю?

Щоб зрозуміти, який ризик пов'язаний із впровадженням ШІ у ядерну систему, важливо спочатку розібратися, як він використовується сьогодні. Незважаючи на свою критичну значущість, багато аспектів ядерного командування США залишаються дивно низькотехнологічними, частково через бажання зберегти критичні системи "ізольованими" від більших мереж, щоб уникнути кібератак чи шпигунства.

До 2019 року комунікаційна система, якою президент користувався для віддання наказу про ядерний удар, все ще ґрунтувалася на дискетах. США наразі модернізують ядерне командування, контроль і зв'язок, витрачаючи близько трильйона доларів. Генеральний директор STRATCOM, генерал Ентоні Коттон, назвав ШІ "центральним" у цьому процесі.

Коттон під час свідчення цього року зазначив, що STRATCOM шукає способи “використовувати AI/ML [машинне навчання] для допомоги у прийнятті рішень.”

Деякі ролі для ШІ цілком обґрунтовані, наприклад, у “прогнозному обслуговуванні”. Теоретично, могла б виникнути ситуація, де ШІ отримає повноваження для запуску ядерних ракет у відповідь на напад, якщо президент не може бути досягнутий. Проте США поки що не йдуть на створення такого рішення.

Це викликає побоювання у багатьох, адже поєднання ядерної зброї та ШІ може бути небезпечним.

Чому ми повинні хвилюватися про ШІ в ядерних питаннях

У ядерних колах часто підкреслюють, що важливо, щоб “людина була в курсі” під час прийняття рішень про використання ядерної зброї. Напевно, це стосується й Джекса Шанахана.

Шанахан, колишній генерал ВПС, певний час займався управлінням ядерними військами. У його фінальному призначенні він очолював Центр штучного інтелекту Пентагону. Він стурбований тим, що ШІ все більше впроваджується у систему управління ядерними силами, навіть без чіткого осмислення його впливу на всю систему.

“Це все теорія. Це доктрина, настільні ігри, експерименти і моделі. Це не реальні дані.”

Відставний генерал-лейтенант Джек Шанахан

Сучасні моделі ШІ добре розвинені, але все ще підлягають помилкам. Існуючі системи можуть бути вразливими до кібератак або маніпуляцій.

Таким чином, калібрування участі у ядерній війні є діяльністю, в якій “немає реальних прикладів, крім двох в 1945 році,” підкреслює Шанахан.

Сучасні моделі ШІ залишаються “чорною скринею”, попри необхідність впровадження в ядерні системи. Якщо побоювання скептиків щодо ШІ справдяться, можуть виникнути ситуації, коли високоякісна система свідомо вводитиме людей в оману.

Швидкість у ядерному управлінні

Для Адама Лоута, ядерного стратега, ці аргументи ігнорують основну суть. У 2019 році він викликав резонанс серед ядерних аналітиків, стверджуючи, що США повинні створити аналог російської системи “мертвий механізм”.

Ця система, відома як Периметр, була розроблена Радянським Союзом у 1980-х роках і дозволяє операторам запускати залишок ядерного арсеналу країни, якщо ядерний напад буде підтверджено, але радянські лідери вже не можуть віддати накази.

Лоута вважає, що ШІ може допомогти президентові приймати рішення в критичний момент, враховуючи вже затверджені курси дій. “У разі кризи система може сказати президентові: “Ви говорили, що якщо станеться варіант номер 17, ось що ви хочете зробити,” - підкреслив Лоута.

Лут не стверджує, що ШІ ніколи не помиляється. Він наголошує, що, можливо, вдасться зменшити кількість помилок порівняно з рішеннями, що приймаються під тиском людини.

Водночас, попри можливі технічні недоліки, Лоута вважає, що ухвалення рішень щодо ядерної зброї слід залишити людям.

Зрештою, саме страх наслідків ядерної ескалації, а не що-небудь інше, утримувало нас на плаву всі ці роки. Усі можливості ШІ, які обробляють більше даних, ніж людський мозок міг би, не можуть замінити інтелект, здатний відчувати страх.

Ця стаття була підготовлена в партнерстві з Outrider Foundation та Journalism Funding Partners.