AI zmieniają strategię nuklearną USA: co oznacza człowiek w pętli.

Szybkość podejmowania decyzji w obliczu zagrożeń nuklearnych

Jak informuje Vox: Międzykontynentalna rakieta balistyczna uzbrojona w głowicę nuklearną potrzebuje około 30 minut, aby pokonać dystans z Rosji do Stanów Zjednoczonych. Jeśli start nastąpi z okrętu podwodnego, czas może się jeszcze bardziej skrócić. Po potwierdzeniu startu prezydent otrzymuje raport, a pozostaje mu jedynie 2-3 minuty na podjęcie decyzji, czy odpowiedzieć odpalenie swojego ICBM, czy ryzykować utratę możliwości odpowiedzi.

Ten krótki czas na podjęcie jakiejkolwiek ważnej decyzji, szczególnie w odniesieniu do tematu, który może być najznaczniejszy w historii ludzkości. Mimo że wielu ekspertów analizowało sposoby prowadzenia wojny nuklearnej, ważne decyzje najprawdopodobniej będą podejmowane przez liderów bez odpowiedniego przygotowania i możliwości skonsultowania się.

Główne wnioski

• Ostatnio liderzy wojskowi coraz bardziej interesują się integracją sztucznej inteligencji w systemie dowodzenia i kontroli amerykańskich sił nuklearnych, biorąc pod uwagę jej zdolność do szybkiego przetwarzania dużych ilości informacji i identyfikowania wzorców.
• Fabuły o niekontrolowanych AI, które przejmują kontrolę nad bronią nuklearną, stały się powszechne w filmach, takich jak WarGames czy The Terminator, i prawdopodobnie wpłynęły na postrzeganie tej kwestii w społeczeństwie.
• Pomimo zainteresowania AI, urzędnicy podkreślają, że systemy komputerowe nie uzyskają kontroli nad decyzją o uruchomieniu broni nuklearnej; w ubiegłym roku prezydenci USA i Chin wydali wspólne oświadczenie w tej sprawie.
• Niektórzy naukowcy i byli wojskowi zauważają, że większym ryzykiem nie są niekontrolowane AI, lecz to, że polegając na AI w podejmowaniu decyzji, dane mogą okazać się niewiarygodne i prowadzić do katastrofalnych konsekwencji.

Nie jest więc dziwne, że odpowiedzialni za potencjał nuklearny USA szukają sposobów na automatyzację części procesu — w szczególności poprzez wykorzystanie sztucznej inteligencji. Idea polega na stworzeniu USA przewagi lub przynajmniej na zakupie trochę czasu.

Jednak dla tych, którzy martwią się o potencjalne ryzyko związane z bronią nuklearną, połączenie tych dwóch ryzyk wydaje się być nocnym koszmarem. Antonio Guterres, sekretarz generalny ONZ, w wrześniu powiedział: “dopóki broń nuklearna istnieje, każda decyzja o jej użyciu powinna pozostawać w rękach ludzi, a nie maszyn.”

Czy warto łączyć AI i broń nuklearną?

Aby zrozumieć, jakie ryzyko wiąże się z implementacją AI w systemie nuklearnym, ważne jest najpierw zrozumieć, jak jest on obecnie wykorzystywany. Pomimo swojej kluczowej znaczenia, wiele aspektów amerykańskiego dowodzenia nuklearnego pozostaje zaskakująco niskotechnologicznych, częściowo z powodu chęci utrzymania krytycznych systemów 'izolowanych' od większych sieci, aby uniknąć ataków cybernetycznych lub szpiegostwa.

Do 2019 roku system komunikacji, z którego korzystał prezydent, aby wydać rozkaz o uderzeniu nuklearnym, wciąż opierał się na dyskietkach. USA modernizują obecnie dowodzenie nuklearne, kontrolę i łączność, wydając około biliona dolarów. Dyrektor STRATCOM, generał Anthony Cotton, nazwał AI 'centralnym' w tym procesie.

Cotton podczas zeznań w tym roku zauważył, że STRATCOM szuka sposobów „wykorzystania AI/ML [uczenie maszynowe] do pomocy w podejmowaniu decyzji.”

Niektóre role dla AI są całkowicie uzasadnione, na przykład w “prognozowaniu konserwacji”. Teoretycznie mogłaby zaistnieć sytuacja, w której AI uzyskałoby uprawnienia do uruchomienia rakiet nuklearnych w odpowiedzi na atak, jeśli prezydent nie może być osiągnięty. Jednak USA na razie nie planują stworzenia takiego rozwiązania.

To budzi obawy u wielu, ponieważ połączenie broni nuklearnej i AI może być niebezpieczne.

Dlaczego powinniśmy martwić się o AI w kwestiach nuklearnych

W kręgach nuklearnych często podkreśla się, że ważne jest, aby “człowiek był na bieżąco” podczas podejmowania decyzji o użyciu broni nuklearnej. Prawdopodobnie odnosi się to także do Jacka Shanahana.

Shanahan, były generał Sił Powietrznych, przez pewien czas zajmował się zarządzaniem siłami nuklearnymi. Jest zaniepokojony coraz większym wprowadzeniem AI do systemu zarządzania siłami nuklearnymi, nawet bez jasnego zrozumienia jego wpływu na cały system.

“To wszystko teoria. To doktryna, gra planszowa, eksperymenty i modele. To nie prawdziwe dane.”

Emerytowany generał-lejtenant Jack Shanahan

Nowoczesne modele AI są dobrze rozwinięte, ale nadal podlegają błędom. Istniejące systemy mogą być podatne na ataki cybernetyczne lub manipulacje.

W związku z tym kalibracja w uczestnictwie w wojnie nuklearnej jest czynnością, w której “nie ma rzeczywistych przykładów, poza dwoma w 1945 roku,” podkreśla Shanahan.

Nowoczesne modele AI pozostają “czarną skrzynią”, mimo konieczności ich wprowadzenia do systemów nuklearnych. Jeśli obawy sceptyków dotyczące AI się spełnią, mogą zaistnieć sytuacje, w których wysokiej jakości system celowo wprowadzi ludzi w błąd.

Szybkość w zarządzaniu nuklearnym

Dla Adama Louta, stratega nuklearnego, te argumenty ignorują sedno sprawy. W 2019 roku wywołał poruszenie wśród analityków nuklearnych, twierdząc, że USA powinny stworzyć odpowiednik rosyjskiego systemu „martwego mechanizmu”.

System ten, znany jako Perimetr, został opracowany przez Związek Radziecki w latach 80. i pozwala operatorom uruchomić resztę arsenału nuklearnego kraju, jeśli atak nuklearny zostanie potwierdzony, ale radzieccy liderzy już nie mogą wydać rozkazów.

Louta uważa, że AI może pomóc prezydentowi w podejmowaniu decyzji w krytycznych momentach, biorąc pod uwagę już zatwierdzone działania. “W przypadku kryzysu system może powiedzieć prezydentowi: “Mówiłeś, że jeśli zdarzy się wariant numer 17, oto co chcesz zrobić,” - podkreślił Louta.

Lout nie twierdzi, że AI nigdy nie myli się. Podkreśla, że mogą udać się zminimalizować liczbę błędów w porównaniu do decyzji podejmowanych pod presją człowieka.

Jednak mimo możliwych niedociągnięć technicznych, Louta uważa, że podejmowanie decyzji w sprawie broni nuklearnej powinno pozostać w rękach ludzi.

Ostatecznie to strach przed konsekwencjami eskalacji nuklearnej, a nie cokolwiek innego, trzymało nas na powierzchni przez te wszystkie lata. Wszystkie zdolności AI, które przetwarzają więcej danych, niż ludzki mózg mógłby, nie mogą zastąpić inteligencji zdolnej do odczuwania strachu.

Ten artykuł został przygotowany we współpracy z Outrider Foundation i Journalism Funding Partners.