Jak zatrzymać szalejący AI: trzy scenariusze, które mogą zniszczyć internet.

Jak informuje Vox: Ta rada jest popularna od tak dawna, jak usługi wsparcia technicznego. Kiedy twój komputer zaczyna mieć problemy, spróbuj go wyłączyć i włączyć ponownie. W świetle rosnących obaw dotyczących sztucznej inteligencji, która może wymknąć się spod kontroli i zagrozić społeczeństwu lub nawet ludzkości, chęć powrotu do tego prostego rozwiązania wydaje się zrozumiała. Przecież AI to tylko systemy komputerowe stworzone przez ludzi. Czy więc nie możemy ich po prostu wyłączyć, jeśli pojawią się problemy?

Najważniejsze wnioski

• Nowa analiza opracowana przez Rand Corporation bada trzy prawdopodobne działania w przypadku 'katastrofalnej utraty kontroli' z powodu agresywnego AI.
• Trzy możliwe odpowiedzi - stworzenie 'łowcy zabójców' w celu zniszczenia zbuntowanego AI, wyłączenie części internetu lub zastosowanie nuklearnego uderzenia EMP w celu unieszkodliwienia elektroniki - mają różne szanse na sukces i wiążą się z poważnymi ryzykami.
• Wyniki badań sugerują, że katastrofalnie nie jesteśmy przygotowani na najgorsze scenariusze ryzyk związanych z AI i potrzebujemy większej koordynacji oraz planowania.

W scenariuszach najgorszego rozwoju wydarzeń niezmiernie prawdopodobne są znaczne trudności. Niewiedza odgrywa znaczącą rolę. Nie dotyczy to tylko instynktu samozachowawczego wysoce rozwiniętego AI, ale także możliwości, że może się ono rozprzestrzenić na tyle szeroko, że wyłączenie go stanie się niemożliwe. Nowoczesne modele, takie jak Claude i ChatGPT, działają już w wielu centrach danych, a nie na jednym komputerze. Jeśli wyobrazimy sobie zbuntowane AI, które chce uniknąć wyłączenia, może ono szybko skopiować się na różne serwery, co utrudni wyłączenie.

Zatem usunięcie zbuntowanego AI może wymagać wyłączenia znacznych części internetu, co stanowi ogromne wyzwanie.

To zagadnienie niepokoi Michaela Vermira, starszego naukowca w Rand Corporation - kalifornijskim Centrum Analiz znanym z badań w dziedzinie strategii nuklearnej. Ostatnio badał potencjalne katastrofalne ryzyka związane z wysoce rozwiniętym AI i zauważa, że gdy ludzie omawiają te potencjalne scenariusze, “prowadzili intrygujące pomysły jako realne możliwości”, nie zastanawiając się nad ich skutecznością ani potencjalnymi nowymi problemami. “Czy rzeczywiście możemy to zrobić?” - pyta.

“ludzie wysuwają te szalone opcje jako realne możliwości”

W swoim ostatnim materiale Vermira omawia trzy najbardziej typowe opcje, które eksperci sugerują w reakcji na 'katastrofalną utratę kontroli' AI. Opisuje sytuację, w której zbuntowane AI blokuje ludzi przed dostępem do krytycznych systemów zabezpieczeń, tworząc zagrożenie, które wymaga drastycznych kroków, a ich potencjalne skutki mogą być dość poważne. To można porównać do historycznego wyboru rosyjskich przywódców, aby zostawić Moskwę w płomieniach, aby zatrzymać inwazję napoleońską. W niektórych z bardziej ekstremalnych scenariuszy, które wyobrażają sobie Vermira i jego koledzy, zniszczenie pewnych części świata cyfrowego może stać się uzasadnione, aby wyeliminować zbuntowane systemy w jego sercu.

Opcja 1: Wykorzystać AI do zniszczenia AI

Vermira proponuje ideę stworzenia “cyfrowych szkodników” - samoodmieniających się cyfrowych organizmów, które kolonizują sieci i konkurują ze zbuntowanym AI o zasoby obliczeniowe. Inną możliwością jest tak zwany “łowca-zabójca”, zaprojektowany do zakłócania i niszczenia wrogich programów.

Jednak istnieje oczywiste ryzyko: nowy “zabójca” AI, jeśli jest wystarczająco rozwinięty, aby mieć szansę na sukces, również może wymknąć się spod kontroli. A oryginalne zbuntowane AI może spróbować wykorzystać go na swoją korzyść. Kiedy zaczynamy myśleć o takich możliwościach, może być już za późno, ponieważ jakość konsekwencji może być nieprzewidywalna.

Opcja 2: Wyłączyć połączenie

W swoim artykule Vermira omawia kilka wariantów wyłączenia dużych obszarów globalnego internetu, aby zapobiec dalszemu rozprzestrzenieniu się AI. Może to obejmować ingerencję w podstawowe systemy, które umożliwiają funkcjonowanie internetu, w tym w “protokół bramowy”, który zapewnia wymianę informacji między wieloma autonomicznymi sieciami.

Jednak z powodu ogromnej liczby kabli i wbudowanej nadmiarowości, wyłączenie może być praktycznie niemożliwe. Choć może to wydawać się pocieszające w przypadku eskalacji konfliktu, jeśli grozi ci agresywne AI, takie podejście na pewno nie rozwiąże problemu.

Opcja 3: Uderzenie z góry

Kolejną opcją jest użycie impulsu elektromagnetycznego (EMP). W 1962 roku Stany Zjednoczone zdetonowały bombę wodorową na wysokości 250 mil nad Pacyfikiem, co wywołało potężny EMP, zdolny do unieszkodliwienia wielu urządzeń elektronicznych. W nowoczesnym świecie, zorientowanym na elektronikę, konsekwencje tego czynu byłyby znacznie poważniejsze.

Vermira opisuje możliwość, że Stany Zjednoczone mogą celowo zdetonować głowicę nuklearną w kosmosie, aby sparaliżować lądowe telekomunikacje i systemy elektroniczne. To ostateczne rozwiązanie, przy którym bardzo ważne jest pamiętanie, aby leczenie nie okazało się gorsze od samej choroby.

Nie ma dobrych opcji

Biorąc pod uwagę nieprzyjemność wszystkich proponowanych opcji, Vermira niepokoi niedostateczne przygotowanie, które obserwuje w rządach na całym świecie. Uważa, że katastrofa, która mogłaby zniszczyć ludzkość, jest mało prawdopodobna, aczkolwiek prawdopodobieństwo scenariuszy, które mogą wymknąć się spod kontroli, jest na tyle duże, że musimy być na nie gotowi.

“w ekstremalnych okolicznościach, i kiedy mówimy o globalnie rozproszonym, złośliwym AI, nie jesteśmy przygotowani. Zostały nam tylko złe opcje.”