ИИ и ядерное оружие: контролируем ли мы технологии, которые несут угрозу.

ИИ и ядерное оружие: стоит ли волноваться?

Как сообщает Vox: Люди всегда боялись искусственного интеллекта и ядерного оружия. Фильмы, такие как Терминатор, где Скайнет становится сознательным и запускает ядерные ракеты, и Войны Gamers, которые чуть не привели к ядерной войне из-за недопонимания, показывают эти страхи. Новый фильм Кэтрин Бигелоу Дом динамита поднимает вопрос о возможном участии ИИ в ядерном ударе по Чикаго.

Искусственный интеллект уже встроен в нашу ядерную инфраструктуру, подчеркивает Джош Китин из Vox в программе Today, Explained. "Компьютеры были частью этой системы с самого начала", - говорит он. "Некоторые из первых цифровых компьютеров использовались во время создания атомной бомбы в рамках Манхэттенского проекта." Однако детали того, как именно это работает, остаются непонятными.

Есть ли действительно основания для беспокойства?

Стоит ли волноваться? Возможно, но не из-за того, что ИИ может восстать против человечества, уверен Китин.

"Есть часть в Доме динамита, где пытаются выяснить, что произошло и причастен ли ИИ к инциденту. Имеют ли эти фильмы основания для волнения?"

Интересно, что за всю историю ядерная война ни разу не происходила в условиях боевых действий. Технологический прогресс постоянно поднимал вопросы о ядерном оружии. Например, в 60-х годах Стратегическое воздушное командование даже выпустило ответ на Доктора Стрейнджлава и Четвертую безопасность. В 80-х годах телевизионный фильм Вечер после стал мощным толчком для движения за ядерную заморозку.

Искусственный интеллект в ядерной инфраструктуре

Многие сторонники интеграции ИИ в ядерную командную систему уверяют: "Это не будет Скайнет". Генерал Энтони Коттон, нынешний командующий Стратегическим командованием, поддерживает большее внедрение ИИ. Он отметил, что "в стратегическом командовании не будет WOPR". Однако вызывает беспокойство то, в каком состоянии находится ИИ уже сегодня.

"Действительно ли люди, работающие над ядерным оружием, понимают ИИ?"

Мы до сих пор не знаем, как именно ИИ влияет на ядерную инфраструктуру. Многие будут удивлены, узнав, насколько устаревшими были предыдущие системы. До 2019 года для связи использовались флешки 1980-х годов. В рамках модернизации ядерной артиллерии, которая продолжается, запланировано обновление этих систем.

Недостатки интеграции ИИ в ядерные системы

Даже самые современные модели ИИ могут ошибаться. Еще одна проблема — вероятное внешнее вмешательство. Также существует явление, которое многие исследователи называют предвзятостью автоматизации, когда люди слишком доверяют информации от компьютеров.

Опыт показал, что технологические сбои могут привести к возможным ядерным катастрофам, и именно человеческий фактор сдерживал эскалацию. Например, в 1979 году Збигнев Бжезинский получил сообщение о запуске тысяч ракет со стороны СССР, но выяснилось, что это была ошибка системы.

"Какими бы ни были технологии, человечество всегда спасает нас от края, когда они терпят неудачу."

Страх, безусловно, играет важную роль в предотвращении ядерных конфликтов. Больше всего пугает, что ИИ может повысить вероятность использования ядерного оружия людьми.

Таким образом, судя по выводам из Дома динамита, очевидно, что ИИ уже является частью нашей ядерной инфраструктуры и, вероятно, останется. Те, кто пытается опровергнуть возможность создания надежного ИИ, не должны заниматься ядерным оружием.