SI i broń jądrowa: czy kontrolujemy technologie, które stwarzają zagrożenie.

SI i broń jądrowa: czy warto się martwić?

Jak informuje Vox: Ludzie zawsze bali się sztucznej inteligencji i broni jądrowej. Filmy takie jak Terminator, w których Skynet staje się świadomy i uruchamia pociski jądrowe, oraz Wojny Gamers, które ledwo nie doprowadziły do wojny jądrowej przez nieporozumienie, pokazują te obawy. Nowy film Kathryn Bigelow Dom dynamitu porusza pytania dotyczące możliwego udziału SI w jądrowym ataku na Chicago.

Sztuczna inteligencja jest już wbudowana w naszą infrastruktury jądrową, podkreśla Josh Keating z Vox w programie Today, Explained. “Komputery były częścią tego systemu od samego początku”, mówi. “Niektóre z pierwszych cyfrowych komputerów były używane podczas tworzenia bomby atomowej w ramach projektu Manhattan.” Jednak szczegóły na temat tego, jak to dokładnie działa, pozostają niejasne.

Czy rzeczywiście są powody do niepokoju?

Czy warto się martwić? Może tak, ale nie dlatego, że SI może wystąpić przeciwko ludzkości, jest pewny Keating.

“Jest scena w Domu dynamitu, gdzie próbują ustalić, co się stało i czy SI miało coś wspólnego z incydentem. Czy te filmy mają podstawy do niepokoju?”

Ciekawe, że przez całą historię nigdy nie doszło do wojny jądrowej w sytuacjach bojowych. Postęp technologiczny nieustannie podnosił pytania dotyczące broni jądrowej. Na przykład w latach 60-tych Strategiczne Dowództwo Powietrzne wydało nawet odpowiedź na Doktora Strangelove'a i Czwartą bezpieczność. W latach 80-tych film telewizyjny Wieczór po stał się silnym impulsem dla ruchu na rzecz zamarzania zbrojeń jądrowych.

Sztuczna inteligencja w infrastrukturze jądrowej

Wielu zwolenników integracji SI w systemie dowodzenia jądrowego zapewnia: “To nie będzie Skynet”. Generał Anthony Cotton, obecny dowódca Strategicznego Dowództwa, popiera dalszą integrację SI. Zauważył, że “w dowództwie strategicznym nie będzie WOPR”. Niemniej jednak wzbudza niepokój to, w jakim stanie znajduje się SI już dzisiaj.

“Czy naprawdę osoby pracujące nad bronią jądrową rozumieją SI?”

Nadal nie wiemy, jak dokładnie SI wpływa na infrastrukturę jądrową. Wiele osób będzie zaskoczonych, dowiadując się, jak przestarzałe były wcześniejsze systemy. Do 2019 roku do komunikacji używano pamięci USB z lat 80-tych. W ramach trwającej modernizacji artylerii jądrowej zaplanowano aktualizację tych systemów.

Wady integracji SI w systemy jądrowe

Nawet najnowocześniejsze modele SI mogą popełniać błędy. Innym problemem jest prawdopodobna interwencja zewnętrzna. Istnieje również zjawisko, które wielu badaczy określa jako stronniczość automatyzacji, kiedy ludzie zbyt ufają informacjom od komputerów.

Doświadczenia pokazują, że awarie technologiczne mogą prowadzić do potencjalnych katastrof jądrowych, a to właśnie czynnik ludzki powstrzymywał eskalację. Na przykład w 1979 roku Zbigniew Brzeziński otrzymał informację o wystrzeleniu tysięcy rakiet przez ZSRR, ale okazało się, że to była pomyłka systemu.

“Jakie by nie były technologie, ludzkość zawsze ratuje nas od krawędzi, gdy one zawodzą.”

Strach zdecydowanie odgrywa ważną rolę w zapobieganiu konfliktom jądrowym. Najbardziej niepokoi, że SI może zwiększyć prawdopodobieństwo użycia broni jądrowej przez ludzi.

Zatem, biorąc pod uwagę wnioski z Domu dynamitu, oczywiste jest, że SI jest już częścią naszej infrastruktury jądrowej i prawdopodobnie pozostanie. Ci, którzy próbują zaprzeczyć możliwości stworzenia niezawodnego SI, nie powinni zajmować się bronią jądrową.