SI: czy rozwój sztucznej inteligencji doprowadzi do zagłady ludzkości.

Jak informuje Vox: Pewnie już widziałeś tę iluzję: na początku wygląda jak królik. Jesteś pewny: tak, to królik! Ale potem — stop! — to kaczka. Z pewnością to kaczka. Po kilku sekundach obraz znów się zmienia i znowu widzisz tylko królika.

Uczucie tej klasycznej iluzji optycznej przypomina to, co ostatnio przeżywam, czytając dwie sprzeczne historie o przyszłości sztucznej inteligencji (SI).

Jedna z historii mówi, że SI to zwykła technologia. Tak, to wielka sprawa, ale tak jak społeczeństwo dostosowało się do elektryczności lub internetu, również my znajdziemy sposób na zaawansowane SI. Jeśli zbadamy, jak sprawić, by SI było bezpieczne, i wprowadzimy odpowiednie regulacje, nic katastrofalnego się nie stanie. Nie znikniemy.

Inny punkt widzenia, który wyraźnie podkreśla tytuł nowej książki: Jeśli ktoś to stworzy, wszyscy umrzemy. Autorzy, Eliezer Yudkowsky i Nate Soares, poważnie sądzą, że superinteligencja — SI mądrzejsze od każdej osoby, a nawet od ludzkości w całości — może nas wszystkich zniszczyć.

'To niemożliwe', twierdzą autorzy. 'Praktycznie pewne', dodaje Yudkowsky, uznawany za 'lidera myśli', określając prawdopodobieństwo tego zagrożenia na poziomie 99,5%. Soares również poinformował, że to 'ponad 95%'. Wielu badaczy rzeczywiście martwi się o egzystencjalne ryzyko związane z SI, ale on zaprzecza używaniu słowa 'ryzyko' w tym kontekście — to jak bardzo jest pewny nieuchronności katastrofy.

“Kiedy pędzisz samochodem w kierunku przepaści,” powiedział Soares, “nie myślisz: 'rozmawiajmy o ryzyku grawitacji, chłopaki.' Po prostu chcesz: 'cholera, zatrzymaj samochód!'”

Autorzy, obaj z Instytutu Badań nad Inteligencją Maszynową w Berkeley, twierdzą, że badania nad bezpieczeństwem nie są jeszcze gotowe na kontrolowanie superinteligencji. Dlatego jedynym rozsądnym rozwiązaniem jest zatrzymanie wszelkich działań zmierzających do stworzenia takiego SI, nawet jeśli to wymaga zniszczenia centrów danych, które zasilają AI, jeśli to konieczne.

Czy SI może być tylko normalną technologią?

W eseju “SI jako normalna technologia”, który stał się popularny w świecie SI w tym roku, naukowcy komputerowi z Princeton Arvind Narayanan i Sayash Kapoor twierdzą, że SI nie należy postrzegać jako obcego gatunku. To po prostu narzędzie, którym możemy i powinniśmy zarządzać. Uważają, że zapewnienie kontroli nie wymaga radykalnych zmian w polityce.

Nie widzą sensu w postrzeganiu SI jako superinteligencji, ani teraz, ani w przyszłości. Odrzucają koncepcję “superinteligencji” jako bezsensowną.

Na zakończenie warto zauważyć, że oba punkty widzenia — zarówno “superinteligencja”, jak i “normalizacja” — mają swoje poważne wady.

Superinteligencja i jej potencjalne zagrożenia wzbudzają żywe dyskusje, które prawdopodobnie staną się jeszcze bardziej aktualne w miarę rozwoju technologii. Naukowcy i technolodzy nadal prowadzą ważne debaty na temat tego, jak zapewnić bezpieczne wykorzystanie SI, aby uniknąć niebezpiecznych sytuacji. Tylko czas pokaże, którą drogę wybiorą społeczeństwa i rządy świata w tych trudnych kwestiach.