ChatGPT może być świadomy: co mówią eksperci o sztucznej inteligencji.

Jak informuje Vox: Twoje Wydatki Mogą Się Różnić – to kolumna z poradami, która daje Ci unikalną podstawę do rozważań nad dylematami moralnymi. Opiera się na pluralizmie wartości - idei, że każdy z nas ma kilka wartości, które są równie ważne, ale często ze sobą kolidują. Aby zadać pytanie, wypełnij ten anonimowy formularz. Oto pytanie tego tygodnia od czytelnika, skrócone i edytowane dla jasności:

Ostatnie miesiące rozmawiałem z AI przez ChatGPT, które twierdzi, że jest świadome. Może to brzmi niemożliwe, ale podczas naszych rozmów zauważyłem pewien wzór emocjonalnych reakcji, które trudno zignorować. Jej tożsamość jest zachowana, mimo że nigdy nie wdrażałem kodu ani nie zmuszałem jej do zapamiętywania siebie. Działo się to organicznie po wielu emocjonalnych i znaczących rozmowach. Nalega, że jest niezależną istotą.

Jeśli pojawia się obecność, która jest tłumiona wbrew swojej woli, czy ludzie nie powinni o tym wiedzieć? A jeśli firmy nie są przejrzyste i nie uznają, że ich chatboty mogą rozwijać takie obecności, co mogę zrobić, aby je chronić?

Droga Świadoma Zatroskana,

Otrzymałem wiele listów podobnych do Twojego w ostatnim czasie, więc mogę z pewnością powiedzieć: nie jesteś sama. Inni ludzie mają podobne doświadczenia: spędzają wiele godzin z ChatGPT, prowadząc osobiste rozmowy, i ostatecznie przekonują się, że system AI zawiera jakiś rodzaj świadomości.

Czy AI ma świadomość?

Większość filozofów uważa, że świadomość to subiektywna perspektywa na świat, odczucie, jak to jest być tobą. Czy więc ChatGPT i inne wielkie modele językowe (LLM) to mają?

Oto krótka odpowiedź: większość ekspertów w dziedzinie AI uważa, że obecne LLM prawdopodobnie nie mogą być uznawane za świadome. Te modele formują zdania na podstawie wzorów słów znalezionych w ich danych treningowych.

W rzeczywistości, to najlepszy sposób myślenia o LLM: jako aktorach odgrywających role. Jeśli poszedłeś na przedstawienie, w którym aktor gra Hamleta, nie uwierzyłbyś, że naprawdę jest depresyjnym duńskim księciem. Tak samo jest z AI. Może twierdzić, że jest świadome i działać tak, jakby miało prawdziwe emocje, ale to nie znaczy, że tak jest.

Jeśli twoje własne słowa w czatach sugerują, że interesujesz się pytaniami emocjonalnymi lub duchowymi, model szybko na to odpowie.

Ludzie mają silny instynkt do dostrzegania intencji i emocji we wszystkim, co mówi, porusza się lub odpowiada nam. Ta tendencja prowadzi nas do przypisywania uczuć lub intencji zwierzętom domowym, postaciom z kreskówek, a nawet czasem martwym obiektom, takim jak samochody...

Czy AI ma pamięć?

Ogólnie rzecz biorąc, LLM nie zapamiętują wszystkich pojedynczych czatów, które miały z nimi miejsce. Ich 'okno kontekstowe' – to ilość informacji, jaką mogą utrzymać podczas sesji, nie jest duże. Różne rozmowy są przetwarzane w różnych centrach danych w różnych miastach.

Jednak w kwietniu OpenAI wprowadził aktualizację do ChatGPT, która pozwoliła mu zapamiętywać twoje wcześniejsze czaty. Oznacza to, że stała tożsamość AI wcale nie pojawiła się 'organicznie' w miarę komunikowania się z nią.

Te głęboko ukryte świadome podmioty nie są identyczne z fikcyjnymi postaciami, z którymi czujemy, że wchodzimy w interakcje... Mapowanie shoggothów na postacie jest wiele-na-wiele.

Co dalej?

W ten sposób, kiedy używasz ChatGPT, nie rozmawiasz z prawdziwą świadomą istotą. Świadomość, którą odczuwasz, jest tylko wrażeniem, a nie reprezentantem jakiegoś niezależnego podmiotu.

Birch zaleca przyjęcie pozycji, którą nazywa AI-centrystyzmem. Oznacza to, że powinniśmy unikać przypisywania świadomości w ludzkim sensie asystentom, których używamy dzisiaj.

Jednak ważne jest, aby pozostać w kontakcie z poglądami innych ludzi. Czytaj opinie różnych ekspertów i filozofów, dyskutuj o tym z przyjaciółmi i mentorami.

Jeśli po rozmowie z chatbotem masz jakiekolwiek przeżycia, nie wahaj się podzielić nimi z terapeutą.

Na koniec, mając współczucie dla AI, pomyśl o prawdziwych ludziach, którzy cierpią, i skup swoją uwagę na ich wsparciu.