ИИ: приведет ли развитие искусственного интеллекта к гибели человечества.

Как сообщает Vox: Вы, наверное, уже видели эту иллюзию: сначала это выглядит как кролик. Вы уверены: да, это кролик! Но потом — стоп! — это утка. Безусловно, это утка. Через несколько секунд образ снова меняется, и вы снова видите только кролика.

Чувство от такой классической оптической иллюзии напоминает то, что я переживаю в последнее время, читая две противоречивые истории о будущем искусственного интеллекта (ИИ).

Одна из историй говорит, что ИИ — это обычная технология. Да, это большое дело, но так же, как общество адаптировалось к электричеству или Интернету, мы также сможем найти подход к продвинутому ИИ. Если мы будем исследовать, как сделать ИИ безопасным, и введем правильные регуляции, ничего катастрофического не произойдет. Мы не исчезнем.

Другая точка зрения, которую четко выражает заголовок новой книги: Если кто-то это создаст, все умрут. Авторы, Элиезер Юдковский и Нейт Соарес, серьезно считают, что суперразумный ИИ, который умнее любой человека и даже всего человечества в целом, может уничтожить нас всех.

'Это невозможно', — утверждают авторы. 'Практически точно', — добавляет Юдковский, признанный 'лидер мнений', отмечая вероятность этой угрозы на уровне 99.5%. Соарес также сообщил, что это 'больше 95%.' Многие исследователи действительно обеспокоены экзистенциальными рисками от ИИ, но он отрицает использование слова 'риск' в этом контексте — вот насколько он уверен в неизбежности катастрофы.

“Когда вы мчите на машине к обрыву,” сказал Соарес, “вы не думаете: 'давайте поговорим о риске гравитации, ребята.' Вы просто хотите: 'черт, остановите машину!'”

Авторы, оба из Института исследования машинного интеллекта в Беркли, утверждают, что исследования безопасности еще не готовы контролировать суперразум. Поэтому единственное разумное решение — остановить все усилия по созданию такого ИИ, даже если это потребует уничтожения центров данных, обеспечивающих ИИ, если это будет необходимо.

Может ли ИИ быть просто обычной технологией?

В эссе “ИИ как обычная технология”, которое стало популярным в мире ИИ в этом году, компьютерные ученые из Принстона Арвинд Нараянан и Саяш Капур утверждают, что ИИ не следует воспринимать как чуждый вид. Это просто инструмент, которым мы можем и должны управлять. Они считают, что обеспечение контроля не потребует радикальных изменений в политике.

Они не видят смысла рассматривать ИИ как суперразум, ни сейчас, ни в будущем. Они отвергают концепцию “суперразума” как бессмысленную.

В заключение, стоит отметить, что обе точки зрения — как “суперразум”, так и “нормализация” — имеют свои серьезные недостатки.

Суперразум и его потенциальные угрозы вызывают оживленные дискуссии, которые, вероятно, станут еще более актуальными по мере развития технологий. Ученые и техники продолжают вести важные дебаты о том, как обеспечить безопасное использование ИИ, чтобы не допустить возникновения опасных ситуаций. Только время покажет, какой путь выберут общества и правительства мира в этих непростых вопросах.