ШІ та ядерна зброя: чи контролюємо ми технології, що несе загроза.

AI та ядерна зброя: чи варто хвилюватися?

Як повідомляє Vox: Люди завжди боялися штучного інтелекту та ядерної зброї. Фільми, такі як Термінатор, де Скайнет стає свідомим і запускатиме ядерні ракети, та Війни Gamers, які ледве не призвели до ядерної війни через непорозуміння, показують ці страхи. Новий фільм Кетрін Бігелоу Будинок динаміту порушує питання про можливу участь AI у ядерному ударі по Чикаго.

Штучний інтелект вже вбудовано в нашу ядерну інфраструктуру, підкреслює Джош Кітін з Vox у програмі Today, Explained. “Комп’ютери були частиною цієї системи з самого початку”, - говорить він. “Деякі з перших цифрових комп’ютерів використовувалися під час створення атомної бомби в рамках Манхеттенського проєкту.” Проте деталі того, як саме це працює, залишаються незрозумілими.

Чи справді є підстави для занепокоєння?

Чи варто хвилюватися? Можливо, але не через те, що AI може повстати проти людства, впевнений Кітін.

“Є частина в Будинку динаміту, де намагаються з’ясувати, що сталося і чи є AI причетним до інциденту. Чи мають ці фільми підстави для хвилювання?”

Цікаво, що за всю історію ядерна війна жодного разу не відбувалася в умовах бойових дій. Технологічний прогрес постійно піднімав питання про ядерну зброю. Наприклад, у 60-х роках Стратегічне повітряне командування навіть випустило відповідь на Доктора Стрейнджлава і Четверту безпеку. У 80-х роках телевізійний фільм Вечір після став потужним поштовхом для руху за ядерну заморозку.

Штучний інтелект у ядерній інфраструктурі

Багато прихильників інтеграції AI в ядерну командну систему запевняють: “Це не буде Скайнет”. Генерал Ентоні Коттон, нинішній командувач Стратегічного командування, підтримує більше впровадження AI. Він зазначив, що “в стратегічному командуванні не буде WOPR”. Однак стурбованість викликає те, в якому стані знаходиться AI вже сьогодні.

“Чи дійсно люди, які працюють над ядерною зброєю, розуміють AI?”

Ми досі не знаємо, як саме AI впливає на ядерну інфраструктуру. Багато людей будуть здивовані, дізнавшись, наскільки застарілими були попередні системи. До 2019 року для зв’язку використовувалися флешки 1980-х років. У рамках модернізації ядерної артилерії, що триває, заплановано оновлення цих систем.

Недоліки інтеграції AI в ядерні системи

Навіть найсучасніші моделі AI можуть помилятися. Ще одна проблема — ймовірна зовнішня інтервенція. Також існує явище, яке багато дослідників називають упередженістю автоматизації, коли люди занадто довіряють інформації від комп’ютерів.

Досвід показав, що технологічні збої можуть призвести до можливих ядерних катастроф, і саме людський фактор стримував ескалацію. Наприклад, у 1979 році Збігнєв Бжезінський отримав повідомлення про запуск тисяч ракет з боку СРСР, але з’ясувалося, що це була помилка системи.

“Які б не були технології, людство завжди рятує нас від краю, коли вони зазнають невдачі.”

Страх, безумовно, відіграє важливу роль у запобіганні ядерним конфліктам. Найбільше лякає, що AI може підвищити ймовірність використання ядерної зброї людьми.

Отже, судячи з висновків з Будинку динаміту, очевидно, що AI вже є частиною нашої ядерної інфраструктури і, ймовірно, залишиться. Ті, хто намагається заперечити можливість створення надійного AI, не повинні займатися ядерною зброєю.