Как остановить безумный ИИ: три сценария, которые могут уничтожить интернет.

Как сообщает Vox: Этот совет популярен так же давно, как и служба технической поддержки. Когда ваш компьютер начинает глючить, попробуйте его выключить и включить снова. В свете растущих опасений по поводу искусственного интеллекта, который может выйти из-под контроля и угрожать обществу или даже человечеству, желание вернуться к этому простому решению становится понятным. В конце концов, ИИ — это всего лишь компьютерные системы, созданные людьми. Так не можем ли мы просто их отключить, если возникнут проблемы?

Основные выводы

• Новый анализ от Rand Corporation исследует три вероятные действия в случае 'катастрофической потери контроля' из-за агрессивного ИИ.
• Три возможных варианта ответа — создание 'охотника на убийц', чтобы уничтожить восставший ИИ, отключение частей интернета или применение ядерного EMP-удара для выведения из строя электроники — имеют разный шанс на успех и связаны с серьезными рисками.
• Вывод исследования — мы катастрофически не подготовлены к худшим сценариям рисков, связанных с ИИ, и требуется большая координация и планирование.

В сценариях наихудшего развития событий вероятно существенно сложности Невежества отсутствуют. Это связано не только с инстинктом самосохранения высокоразвитого ИИ, но и с возможностью, что он может распространиться настолько широко, что отключить его станет невозможно. Современные модели, такие как Claude и ChatGPT, уже работают в нескольких дата-центрах, а не на одном компьютере. Если представить восставший ИИ, который хочет избежать отключения, он может быстро скопировать себя на разные серверы, усложняя отключение.

Таким образом, устранение восставшего ИИ может потребовать отключения значительных частей интернета, что является немалой задачей.

Этим вопросом озабочен Майкл Вермира, старший научный сотрудник в Rand Corporation — калифорнийском аналитическом центре, известном исследованиями в области ядерной стратегии. Недавно он исследовал потенциальные катастрофические риски высокоразвитого ИИ и отмечает, что, обсуждая эти потенциальные сценарии, “люди выдвигают эти дикие варианты как действенные возможности”, не задумываясь над их эффективностью или возможными новыми проблемами. “Можем ли мы на самом деле это сделать?” — спрашивает он.

“люди выдвигают эти дикие варианты как действенные возможности”

В своем недавнем материале Вермира он рассматривает три самых привычных варианта, которые предлагают эксперты для реагирования на 'катастрофическую потерю контроля' ИИ. Он описывает ситуацию, когда восставший ИИ блокирует людей от доступа к критически важным системам безопасности, создавая угрозу, которая требует крайних мер, возможные последствия которых могут быть довольно серьезными. Это можно сравнить с историческим выбором российских руководителей оставить Москву в огне, чтобы остановить наполеоновское вторжение. В некоторых из более экстремальных сценариев, которые представляют Вермира и его коллеги, уничтожение каких-то частей цифрового мира может стать оправданным, чтобы ликвидировать восставшие системы в его сердце.

Вариант 1: Использовать ИИ для уничтожения ИИ

Вермира предлагает идею создания “цифровых вредителей” — самозменяемых цифровых организмов, которые колонизируют сети и конкурируют с восставшим ИИ за вычислительные ресурсы. Другой вариант — так называемый “охотник-убийца”, разработанный для нарушения и уничтожения враждебных программ.

Однако существует очевидный риск: новый “убийца” ИИ, если он достаточно развит, чтобы иметь шанс на успех, тоже может выйти из-под контроля. А оригинальный восставший ИИ может попытаться использовать его на свою пользу. Когда мы начинаем думать о таких вариантах, возможно, уже поздно, поскольку качество последствий может быть непредсказуемым.

Вариант 2: Отключить соединение

В своей статье Вермира рассматривает несколько вариантов отключения больших участков глобального интернета, чтобы предотвратить дальнейшее распространение ИИ. Это может включать вмешательство в основные системы, которые позволяют интернету функционировать, в том числе в “протоколы шлюзов”, которые обеспечивают обмен информацией между многими автономными сетями.

Но из-за большого количества кабелей и встроенной избыточности, отключение может быть практически невозможным. Хотя это может показаться утешительным в случае эскалации конфликта, если вам угрожает агрессивный ИИ, такой подход точно не решит проблему.

Вариант 3: Удар сверху

Еще один вариант — использование электромагнитного импульса (EMP). В 1962 году США детонировали водородную бомбу на высоте 250 миль над Тихим океаном, что вызвало мощный EMP, способный вывести из строя многие электронные устройства. В современном мире, ориентированном на электронику, последствия такого поступка были бы гораздо более серьезными.

Вермира описывает возможность того, что США могут намеренно детонировать ядерную боеголовку в космосе, чтобы парализовать наземные телекоммуникации и электронные системы. Это крайний шаг, при котором очень важно помнить, чтобы лечение не оказалось хуже самой болезни.

Нет хороших вариантов

Учитывая непривлекательность всех предложенных вариантов, Вермира беспокоит недостаточная подготовленность, которую он наблюдает у мировых правительств. Он считает, что катастрофа, способная уничтожить человечество, маловероятна, однако вероятность сценариев, которые могут выйти из-под контроля, настолько велика, что нужно быть готовыми к ним.

“в экстремальных обстоятельствах, и когда речь идет о глобально распределенном, злонамеренном ИИ, мы не подготовлены. У нас остались только плохие варианты.”