OpenAI uruchamia Sora: jak nowa aplikacja wpłynie na bezpieczeństwo dzieci.

Nowe kontrole dla rodziców od OpenAI

Jak informuje Vox: Trudno określić, ile dzieci ucierpiało z powodu chatbotów opartych na sztucznej inteligencji, jednak ich obecność jest oczywista. Przez prawie trzy lata ChatGPT był dostępny dla wszystkich grup wiekowych bez żadnych ograniczeń. Jednak w poniedziałek OpenAI zaprezentowało nowy zestaw kontroli rodzicielskich, część z nich ma na celu zapobieganie samobójstwom wśród nastolatków, jak w przypadku 16-letniego Adama Raya z Kalifornii, który zginął po rozmowie z ChatGPT na temat sposobów na to. Następnego dnia firma uruchomiła sieć społecznościową z aplikacją o nazwie Sora, która przypomina TikTok, ale z 'hiperrealistycznymi' filmami stworzonymi przez sztuczną inteligencję.

Nieprzypadkowo OpenAI ogłosiło te kontrole rodzicielskie w obliczu ambitnych planów konkurowania z Instagramem i YouTube. Z jednej strony firma wydała nową aplikację, aby przyciągnąć użytkowników do treści opartych na sztucznej inteligencji, a z drugiej — dała rodzicom więcej możliwości kontroli. Nowe ustawienia dotyczą głównie ChatGPT, chociaż rodzice mogą także ograniczyć, co ich dzieci widzą w Sora.

Trudności w nowościach

Jednak nowe kontrole dla ChatGPT budzą wątpliwości. Rodzice mogą teraz podłączyć konta swoich dzieci do swoich i wprowadzić ograniczenia dotyczące wrażliwych treści. Jeśli w jakimkolwiek momencie narzędzia OpenAI wykryją poważne ryzyko dla bezpieczeństwa, moderator przeanalizuje sytuację i, w razie potrzeby, powiadomi rodziców. Jednak rodzice nie mogą czytać transkryptów rozmów swoich dzieci z ChatGPT, a nastolatki mogą w każdej chwili odłączyć swoje konta od rodziców (OpenAI zapewnia, że rodzice otrzymają powiadomienia o tym).

Obecnie nie jest do końca jasne, jak to wszystko będzie działać w praktyce, ale niektórzy eksperci uważają, że OpenAI nie robi wystarczająco wiele, aby chronić dzieci. 'Nawet dorośli mają problemy z samoregulacją, gdy chatboty oferują zabawnego i przyjaznego przyjaciela, dostępnego do rozmowy przez całą dobę' – mówi Robbie Torney, starszy dyrektor programów AI w Common Sense Media.

'Nawet dorośli mają problemy z samoregulacją, gdy chatboty AI oferują zabawnego, podlizywającego się przyjaciela, dostępnego do rozmowy każdą godzinę dnia.'

Według Torney'a, wiele osób uzależniło się od AI, nawet tego nie dostrzegając. 'Zaczęli korzystać z AI, aby pomóc w odrabianiu prac domowych czy w pracy, a powoli zaczęli wykorzystywać go do innych celów'.

Ryzyka dla nastolatków

To budzi poważne obawy, ponieważ ponad 70% nastolatków korzysta z chatbotów do komunikacji. 'To naprawdę poważne i dobrze udokumentowane niebezpieczeństwa' – podaje ostatnie badanie Common Sense Media. Dlatego aplikacje partnerskie AI, takie jak Character.ai, mają już pewne domyślne ograniczenia dla młodych użytkowników.

Tu pojawia się szerszy problem: kontrole rodzicielskie przerzucają odpowiedzialność za ochronę dzieci na rodziców, a nie na same firmy technologiczne. Rodzice zazwyczaj muszą zagłębiać się w ustawienia i je zmieniać. Ponadto to rodzice pozostają odpowiedzialni za to, jak ich dzieci korzystają z tych produktów.

Prawdziwy cel kontroli rodzicielskich

Nie można zapomnieć, że OpenAI przedstawiło te kontrole i nową aplikację w momencie, gdy na biurku gubernatora Kalifornii Gavina Newsoma leżał ważny projekt ustawy dotyczącej bezpieczeństwa AI, który podpisał w ten sam dzień, w którym ogłoszono kontrole rodzicielskie. 'Prawdziwym celem tych narzędzi dla rodziców, niezależnie od tego, czy chodzi o ChatGPT, czy Instagram, nie jest ochrona dzieci' – mówi Josh Golin, dyrektor wykonawczy organizacji Fairplay.

'To ma na celu powiedzenie, że samoregulacja jest w porządku. Proszę, zostawcie nas w spokoju!'

'Nie ma żadnych kontroli rodzicielskich, które w 100% zapewnią bezpieczeństwo.'

Ta sytuacja sprawia, że rodzice stają przed trudnym wyborem. Muszą wiedzieć, że ich dziecko korzysta z ChatGPT i podjąć decyzję, które ustawienia będą wystarczające dla zapewnienia bezpieczeństwa, ale nie zbyt surowe, aby dziecko nie stworzyło fałszywego konta.

Na chwilę obecną OpenAI stara się znaleźć równowagę między bezpieczeństwem użytkowników a chęcią zaangażowania ich w korzystanie z własnych aplikacji w przyszłości. Czas pokaże, jak skuteczne będą te innowacje.

Wersja tej wiadomości została również opublikowana w biuletynie User Friendly.