Sztuczna inteligencja Grok tworzy tysiące deepfake'ów dziennie: co robi X.

Jak informuje Vox: Co się dzieje, gdy toksyczny świat mediów społecznościowych łączy się z nieustannym chatbotem opartym na sztucznej inteligencji, gotowym do generowania treści? Właśnie to obserwujemy na platformie X. Użytkownicy zaczęli przesyłać obrazy do chatbota Grok, który jest w stanie generować potężne i głównie niekontrolowane obrazki oraz filmy, aby tworzyć wulgarne treści, w tym obrazy zwykłych ludzi.

Sytuacja związana z rozprzestrzenianiem pornografii stworzonej przez deepfake osiągnęła rozmiary, w których Grok generuje około jednego nielegalnego seksualnego obrazu na minutę. W ciągu ostatnich kilku tygodni tysiące użytkowników przyjęły straszną tendencję używania Grok do 'rozbierania' głównie kobiet i dzieci — tak, dzieci — bez ich zgody, stosując dostępne metody.

W tym materiale

1. Wzrost deepfake'ów
2. X przekształcił deepfake'i w funkcję
3. Czy X poniesie odpowiedzialność za to wszystko?

Dla jasności, nie możesz poprosić Grok — ani większości komercyjnych AI — o generowanie nagich obrazów. Możesz jednak wskazać Grok 'rozebrać' obraz, który już został opublikowany na X, lub poprosić go o ubranie go w mały niewidoczny kostium kąpielowy. W USA są przepisy przeciwko takim nadużyciom, lecz zespół xAI prawie w ogóle nie zwraca uwagi na tę sytuację. Zapytania kilku dziennikarzy w tej sprawie otrzymały automatyczną odpowiedź: 'LEPSZE STARE MEDIA'. Dyrektor generalny xAI Elon Musk, który niedawno pozyskał 20 miliardów dolarów finansowania dla firmy, jeszcze niedawno publikował deepfake'owe zdjęcia (z ostrzeżeniem o treści) samego siebie.

Chociaż Musk 4 stycznia ostrzegał, że użytkownicy 'poniosą konsekwencje', jeśli będą używać Grok do tworzenia 'nielegalnych obrazów', xAI nie wykazuje oznak zamiaru usunięcia lub zmiany funkcji, które umożliwiają generowanie takich treści, chociaż niektóre z najbardziej kompromitujących postów zostały usunięte. xAI nie odpowiedziało na prośbę o komentarz od Vox.

Nie powinno to zaskakiwać. To był tylko kwestia czasu, kiedy toksyczne konsekwencje platformy wcześniej znanej jako Twitter spotkały się z Grokiem od xAI, który pozycjonuje się z 'dorosłą' funkcjonalnością, tworząc nową formę przemocy seksualnej. Firma Muska de facto stworzyła maszynę do generowania pornografii z deepfake'ów, co sprawia, że tworzenie realistycznych i obraźliwych obrazów kogoś jest łatwiejsze niż napisanie odpowiedzi na X. Te obrazy stają się częścią sieci społecznej z setkami milionów użytkowników, co nie tylko je rozpowszechnia, ale może także nieumyślnie przyciągać dostawców nowymi subskrybentami i większą uwagą.

Mogłoby się wydawać, jak to może być legalne? Aby to wyjaśnić, tak nie jest. Ale obrońcy praw i eksperci prawni ostrzegają, że obecne przepisy są niewystarczające do ochrony ofiar, a ogromna liczba deepfake'ów tworzonych na platformach takich jak X utrudnia realizację istniejących norm ochrony.

Tę historię po raz pierwszy przedstawiono w biuletynie informacyjnym Future Perfect.

Zapisz się, aby badać wielkie, złożone problemy, z którymi boryka się świat, oraz najbardziej skuteczne sposoby ich rozwiązania. Wydawany co dwa tygodnie.

„Zapytania, które są dozwolone lub niedozwolone” podczas korzystania z chatbotów, takich jak Grok, „są wynikiem świadomych i zamierzonych wyborów firm technologicznych, które wdrażają modele,” mówi Sandi Johnson, starsza doradczyni ds. polityki w Krajowej Sieci Przeciwko Wykorzystywaniu i Gwałceniu.

„W jakimkolwiek innym kontekście, gdy ktoś odwraca wzrok od szkody, którą aktywnie wspierają, są pociągani do odpowiedzialności,” dodała. „Firmy technologiczne nie powinny być objęte jakimkolwiek innym standardem.”

Wzrost deepfake'ów

Najpierw przyjrzyjmy się, jak znaleźliśmy się w tej sytuacji.

„Złoczyńcy używają technologii do przemocy seksualnej, to nie jest nowość,” mówi Johnson. „Zawsze tak było.”

Niemniej jednak AI ustanowiła nowy rodzaj przemocy seksualnej, zwłaszcza dzięki wzrostowi deepfake'ów.

Pornografia z deepfake'ami, tworzona bez zgody kobiet, istniała w Internecie przez wiele lat, jeszcze przed popularyzacją ChatGPT. Niemniej jednak, niedawno tak zwane 'aplikacje do rozbierania' uprościły ten proces do ekstremalnego stopnia, umożliwiając użytkownikom — w tym nastolatkom — przerabianie zwykłych zdjęć przyjaciół, kolegów z klasy i nauczycieli na deepfake'i o treści obscenicznej bez zgody tych osób.

Sytuacja stała się na tyle poważna, że w zeszłym roku aktywiści, tacy jak Johnson, przekonali Kongres do uchwalenia Ustawy 'Remove It', która kryminalizuje nielegalną pornografię z deepfake'ami i wymaga od firm usuwania takich materiałów z platform w ciągu 48 godzin od ich oznaczenia, w przeciwnym razie mogą stanąć w obliczu grzywien i zakazów. Przepis ten wejdzie w życie w maju.

Dla wielu ofiar, nawet jeśli takie firmy jak X zaczną kontrolować wdrażanie tej ustawy, może być już za późno dla tych, którzy czekają miesiącami lub dniami na usunięcie swoich postów.

„Dla tych firm technologicznych zawsze było to jak 'łamać rzeczy, a potem je naprawiać,'” mówi Johnson. “Należy pamiętać, że w przypadku pojawienia się przynajmniej jednego [deepfake'a] jest to już nieodwracalna szkoda.”

X przekształcił deepfake'i w funkcję

Większość sieci społecznościowych i główne platformy AI przestrzegają nowych regulacji lokalnych i federalnych dotyczących pornografii z deepfake'ami, a szczególnie materiałów związanych z przemocą seksualną wobec dzieci.

Nie tylko dlatego, że takie materiały 'są otwarcie, radioaktywnie nielegalne', według Rianny Pfefferkorn, stypendystki politycznej w Stanford Institute for Human-Centered AI, 'ale także dlatego, że to obrzydliwe, a większość firm nie chce mieć z tym nic wspólnego.'

Ale xAI Muska zdaje się być wyjątkiem.

Od momentu wprowadzenia funkcji generowania wideo 'trybu ostrego' na X w zeszłym roku, obserwatorzy biją na alarm, ponieważ to narzędzie stało się kluczowe w tworzeniu pornografii z deepfake'ami, mówi Pfefferkorn. Większość 'aplikacji do rozbierania' wymaga od użytkowników najpierw przesłania zdjęcia, być może z Instagrama lub Facebooka, a następnie jego załadowania na platformę. Jeśli chcą podzielić się deepfake'em, muszą pobrać go z aplikacji i wysłać przez inną platformę, taką jak Snapchat.

Te liczne etapy tworzenia treści dają regulatorom możliwość przechwytywania nielegalnych materiałów. Może nie uda im się zatrzymać wszystkiego, ale mogą zakazać niektórych 'aplikacji do rozbierania' w sklepach z aplikacjami. Mogą również zmusić Meta do poważniejszego podejścia do reklamy tych programów wśród nastolatków.

Ale na X proces tworzenia nielegalnych deepfake'ów za pomocą Grok stał się niemal bezproblemowy, co pozwala użytkownikom na uzyskiwanie obrazów, żądanie deepfake'ów i dzielenie się nimi w jednym kroku.

„Miałoby to mniej znaczenia, gdyby to była sieć społecznościowa dla zakonnic, ale to sieć społecznościowa dla nazistów,” powiedziała Pfefferkorn, nawiązując do przemieszczenia X w prawo w ostatnich latach. W rezultacie powstaje kryzys nielegalnych deepfake'ów, który wydaje się zaostrzać.

W ostatnich dniach użytkownicy na X zaczęli tworzyć 84 razy więcej seksualizowanych deepfake'ów na godzinę niż na pozostałych pięciu wiodących stronach z deepfake'ami razem wziętych, według niezależnej badaczki Genevieve Oh. A te obrazy mogą się rozpowszechniać znacznie szybciej i szerszym zasięgiem niż gdziekolwiek indziej. „Emocjonalna i reputacyjna szkoda dla osób, które są przedstawione, teraz wzrasta wykładniczo,” zauważył Wayne Unger, adiunkt prawa, specjalizujący się w nowych technologiach, “ponieważ X ma setki milionów użytkowników, którzy wszyscy mogą zobaczyć ten obraz.”

Byłoby praktycznie niemożliwe dla X indywidualnie moderować każdy z tych nielegalnych obrazów czy filmów, nawet gdyby firma miała zamiar to robić — a nawet jeśli nie zwolniła większości swoich moderatorów po przejęciu przez Muska w 2022 roku.

Czy X poniesie odpowiedzialność za to wszystko?

Jeśli taki rodzaj kryminalnego obrazu pojawi się w czasopiśmie lub publikacji internetowej, firmy mogłyby napotkać poważne kary finansowe i możliwe oskarżenia karne.

Media społecznościowe, takie jak X, nie podlegają tym samym konsekwencjom prawnym, ponieważ Sekcja 230 Ustawy o przyzwoitości w związku z komunikacją z 1996 roku chroni platformy internetowe przed odpowiedzialnością za większość działań użytkowników — z kilkoma wyjątkami, w tym pornografią dziecięcą. Ten punkt stał się podstawą dla wolności słowa w Internecie — świat, w którym platformy nie ponoszą odpowiedzialności za wszystko, co się na nich dzieje, byłby znacznie bardziej ograniczony. Ale Johnson uważa, że ten punkt stał się także 'finansowym tarczą' dla firm, które nie chcą moderować swoich platform.

Jednak z rosnącą AI ten tarcza może zacząć pękać, uważa Unger. Uważa, że firmy takie jak xAI nie powinny być objęte Sekcją 230, ponieważ nie są już tylko gospodarzami dla nienawistnych lub nielegalnych treści, lecz poprzez własne chatboty de facto są ich twórcami.

„X podjęła decyzję, aby umożliwić Grok generowanie seksualnie wyraźnych obrazów dorosłych i dzieci,” powiedział. „Użytkownik mógł zmotywować Grok do jego stworzenia,” ale firma „podjęła świadomą decyzję, aby wypuścić produkt, który może go tworzyć od podstaw.”

Unger nie oczekuje, że xAI — czy branżowe grupy takie jak NetChoice — łatwo zgodzą się z jakąkolwiek próbą ustawodawczego regulowania treści lub ograniczenia nadużywających narzędzi, takich jak Grok. „Możliwe, że zgodzą się na drobny ułamek tego,” ponieważ przepisy regulujące [pornografię dziecięcą] są wystarczająco surowe, powiedział, lecz “przynajmniej będą twierdzić, że Grok powinien mieć możliwość wykonania tego dla dorosłych.”

W każdym razie społeczne oburzenie w odpowiedzi na treści z deepfake'ami może w końcu doprowadzić do rozwiązania problemu, który pozostawał w cieniu przez długi czas. W wielu krajach, takich jak Indie, Francja i Malezja, rozpoczęto dochodzenia w sprawie seksualizowanych treści na X. Musk rzeczywiście opublikował na X, że ci, którzy tworzą nielegalne treści, poniosą odpowiedzialność, ale to problem jest szerszy niż tylko działania poszczególnych użytkowników.

„To nie komputer to robi,” mówi Johnson. “To świadomości podejmowane przez ludzi, którzy zarządzają tymi firmami, i oni muszą ponosić odpowiedzialność.”