ШІ: чи призведе розвиток штучного інтелекту до загибелі людства.

Як повідомляє Vox: Ви, напевно, вже бачили цю ілюзію: спочатку це виглядає як кролик. Ви впевнені: так, це кролик! Але потім — стоп! — це качка. Безумовно, це качка. Через кілька секунд образ знову змінюється, і ви знову бачите лише кролика.

Відчуття від такої класичної оптичної ілюзії нагадує те, що я переживаю останнім часом, читаючи дві суперечливі історії про майбутнє штучного інтелекту (ШІ).

Одна з історій говорить, що ШІ — це звичайна технологія. Так, це велика справа, але так само, як суспільство адаптувалося до електрики або Інтернету, ми також зможемо знайти підхід до просунутого ШІ. Якщо ми будемо досліджувати, як зробити ШІ безпечним, і запровадимо правильні регуляції, нічого катастрофічного не станеться. Ми не зникнемо.

Інша точка зору, яку чітко висловлює заголовок нової книги: Якщо хтось це створить, всі помруть. Автори, Елієзер Юдковський та Нейт Соарес, серйозно вважають, що суперінтелект — це ШІ, який розумніший за будь-яку людину і навіть за людство в цілому — може знищити нас усіх.

"Це неможливо", — стверджують автори. "Практично точно", — додає Юдковський, визнаний "лідер думок", зазначаючи ймовірність цієї загрози на рівні 99.5%. Соарес також повідомив, що це “понад 95%.” Багато дослідників дійсно стурбовані екзистенційними ризиками від ШІ, але він заперечує використання слова "ризик" у цьому контексті — ось наскільки він впевнений у неминучості катастрофи.

“Коли ви мчите на машині до урвища,” сказав Соарес, “ви не думаєте: ‘давайте поговоримо про ризик гравітації, хлопці.’ Ви просто хочете: ‘прокляття, зупиніть машину!’”

Автори, обидва з Інституту дослідження машинного інтелекту в Берклі, стверджують, що дослідження безпеки ще не готове контролювати суперінтелект. Тому єдине розумне рішення — зупинити всі зусилля зі створення такого ШІ, навіть якщо це вимагатиме знищення центрів даних, що живлять АІ, за необхідності.

Чи може ШІ бути лише нормальною технологією?

У есе “ШІ як нормальна технологія”, яке стало популярним у світі ШІ цього року, комп'ютерні вчені з Прінстона Арвінд Нараянан і Саяш Капур стверджують, що ШІ не слід сприймати як чужий вид. Це просто інструмент, яким ми можемо і повинні управляти. Вони вважають, що забезпечити контроль не вимагатиме радикальних змін у політиці.

Вони не бачать сенсу в тому, щоб розглядати ШІ як суперінтелект, ані зараз, ані в майбутньому. Вони відкидають концепцію “суперінтелекту” як безглузду.

На завершення, варто зазначити, що обидві точки зору — як “суперінтелект”, так і “нормалізація” — мають свої серйозні недоліки.

Суперінтелект та його потенційні загрози викликають жваві дискусії, які, ймовірно, стануть ще актуальнішими у міру розвитку технологій. Науковці і технологи продовжують вести важливі дебати про те, як забезпечити безпечне використання ШІ, щоб не допустити виникнення небезпечних ситуацій. Тільки час покаже, який шлях оберуть суспільства та уряди світу у цих непростих питаннях.