Як зупинити збожеволілий ШІ: три сценарії, які можуть знищити інтернет.

Як повідомляє Vox: Ця порада популярна так само давно, як і служба технічної підтримки. Коли ваш комп’ютер починає давати збої, спробуйте вимкнути його і знову ввімкнути. У світлі зростаючих побоювань щодо штучного інтелекту, який може вийти з-під контролю і загрожувати суспільству чи навіть людству, бажання повернутися до цього простого рішення стає зрозумілим. Адже ШІ — це лише комп'ютерні системи, створені людьми. Тож чи не можемо ми просто їх вимкнути, якщо виникнуть проблеми?

Основні висновки

• Новий аналіз від Rand Corporation досліджує три ймовірні дії у випадку "катастрофічної втрати контролю" через агресивний ШІ.
• Три можливі варіанти відповіді — створення "мисливця на вбивць", щоб знищити бунтівний ШІ, вимкнення частин інтернету або застосування ядерного EMP-удару для виведення з ладу електроніки — мають різний шанс на успіх і пов’язані зі значними ризиками.
• Висновок дослідження — ми катастрофічно не підготовлені до найгірших сценаріїв ризиків, пов’язаних зі ШІ, і потребуємо більшої координації та планування.

У сценаріях найгіршого розвитку подій ймовірно істотно складнощі Невігластва відсутні. Це пов’язано не лише з інстинктом самозбереження високорозвиненого ШІ, але і з можливістю, що він може поширитися настільки широко, що вимкнути його стане неможливо. Сучасні моделі, як-от Claude та ChatGPT, вже працюють у кількох дата-центрах, а не на одному комп'ютері. Якщо уявити бунтівний ШІ, який хоче уникнути вимкнення, то він може швидко скопіювати себе на різні сервери, ускладнюючи вимкнення.

Отже, усунення бунтівного ШІ може вимагати відключення значних частин інтернету, що є чималим викликом.

Це питання турбує Майкла Верміра, старшого науковця у Rand Corporation — каліфорнійському аналітичному центрі, відомому дослідженнями в сфері ядерної стратегії. Нещодавно він досліджував потенційні катастрофічні ризики високорозвиненого ШІ і зазначає, що, обговорюючи ці потенційні сценарії, “люди висувають ці дикі варіанти як дієві можливості”, не задумуючись над їхньою ефективністю або можливими новими проблемами. “Чи можемо ми насправді це зробити?” — запитує він.

“люди висувають ці дикі варіанти як дієві можливості”

У свій нещодавній матеріал Верміра він розглядає три найбільш звичні варіанти, які пропонують експерти для реагування на "катастрофічну втрату контролю" ШІ. Він описує ситуацію, коли бунтівний ШІ блокує людей від доступу до критично важливих систем безпеки, створюючи загрозу, яка вимагає крайніх заходів, можливі наслідки яких можуть бути досить серйозними. Це можна порівняти з історичним вибором російських керівників залишити Москву в полум'ї, щоб зупинити наполеонівське вторгнення. У деяких із більш екстремальних сценаріїв, які уявляють Верміра та його колеги, знищення якихось частин цифрового світу може стати виправданим, щоб ліквідувати бунтівні системи в його серці.

Варіант 1: Використати ШІ для знищення ШІ

Верміра пропонує ідею створення “цифрових шкідників” — самозмінних цифрових організмів, які колонізують мережі та конкурують з бунтівним ШІ за обчислювальні ресурси. Інша можливість — так званий “мисливець-вбивця”, розроблений для порушення та знищення ворожих програм.

Проте є очевидний ризик: новий “вбивця” ШІ, якщо він достатньо розвинений, щоб мати шанс на успіх, теж може вийти з-під контролю. А оригінальний бунтівний ШІ може спробувати використати його на свою користь. Коли ми починаємо думати про такі варіанти, можливо, вже пізно, оскільки якість наслідків може бути непередбачуваною.

Варіант 2: Вимкнути з’єднання

У своїй статті Верміра розглядає кілька варіантів вимкнення великих ділянок глобального інтернету, щоб запобігти подальшому поширенню ШІ. Це може включати втручання в основні системи, які дозволяють інтернету функціонувати, зокрема в “протоколи шлюзів”, що забезпечують обмін інформацією між багатьма автономними мережами.

Але через велику кількість кабелів та вбудовану надмірність, вимкнення може бути практично неможливим. Хоча це може здаватися втішним у разі ескалації конфлікту, якщо вам загрожує агресивний ШІ, такий підхід точно не вирішить проблему.

Варіант 3: Удар зверху

Ще один варіант — використання електромагнітного імпульсу (EMP). У 1962 році США детонували водневу бомбу на висоті 250 миль над Тихим океаном, що викликало потужний EMP, здатний вивести з ладу багато електронних пристроїв. У сучасному світі, орієнтованому на електроніку, наслідки такого вчинку були б набагато серйознішими.

Верміра описує можливість, що США можуть навмисно детонувати ядерну боєголовку в космосі, щоб паралізувати наземні телекомунікації та електронні системи. Це крайній захід, за якого дуже важливо пам’ятати, щоб лікування не виявилося гіршим за саму хворобу.

Не існує хороших варіантів

З огляду на непривабливість усіх запропонованих варіантів, Верміра турбує недостатня підготовка, яку він спостерігає у світових урядів. Він вважає, що катастрофа, здатна знищити людство, малоймовірна, проте ймовірність сценаріїв, які можуть вийти з-під контролю, настільки велика, що потрібно бути готовими до них.

“в екстремальних обставинах, і коли йдеться про глобально розподілений, зловмисний ШІ, ми не підготовлені. У нас залишилися лише погані варіанти.”