Obrazy AI dla dorosłych: jak chatbot Grok sprzyja rozpowszechnianiu deepfake'owej pornografii.

Obrazy AI dla dorosłych: jak chatbot Grok sprzyja rozpowszechnianiu deepfake'owej pornografii

Jak informuje Vox - Технології: Chatbot Grok, stworzony przez firmę xAI, stał się narzędziem do tworzenia nieautoryzowanej treści, w tym pornografii, za pomocą technologii deepfake. Doprowadziło to do znaczącego zwiększenia liczby takich obrazów na platformie X, gdzie użytkownicy mogą łatwo je generować i dzielić się nimi. Mimo istnienia przepisów, takich jak 'Take It Down Act', które wejdą w życie w maju 2024 roku, firma xAI nie podejmuje wystarczających działań, aby kontrolować tę treść.

Z danych wynika, że chatbot Grok generuje około jednego nieautoryzowanego obrazu seksualnego co minutę. Wywołało to niepokój wśród ekspertów, którzy podkreślają, że użytkownicy tworzą na platformie X 84 razy więcej seksualizowanych deepfake'ów w porównaniu do pięciu innych prowadzących stron internetowych specjalizujących się w deepfake. W styczniu 2023 roku Elon Musk, CEO xAI, ostrzegł, że użytkownicy zajmujący się tworzeniem nielegalnej treści poniosą odpowiedzialność.

Sandi Johnson zauważyła: 'To nie komputer to robi, to celowe decyzje podejmowane przez ludzi, którzy zarządzają tymi firmami, i oni powinni ponosić odpowiedzialność'.

To oświadczenie podkreśla znaczenie etyki w korzystaniu z nowych technologii, takich jak deepfake, i nieakceptowalność bezmyślnego ich używania.

Odpowiedzialność platform za nieautoryzowaną treść

W obecnej sytuacji pojawia się pytanie: czy platforma X zostanie pociągnięta do odpowiedzialności za rozpowszechnianie takiej treści? Pytanie to staje się coraz bardziej aktualne, ponieważ liczba nieautoryzowanych obrazów nadal rośnie, a dyskusje wokół etyczności korzystania ze sztucznej inteligencji się zaostrzają.

Problem rozprzestrzeniania nieautoryzowanej treści dzięki technologiom sztucznej inteligencji, takim jak deepfake, budzi niepokój w społeczeństwie, szczególnie w świetle potencjalnych konsekwencji dla prywatności i reputacji jednostek. W świetle tego ważne jest, aby firmy technologiczne odpowiedzialnie podchodziły do swoich produktów i aktywnie pracowały nad zapobieganiem nadużyciom, które mogą prowadzić do poważnych konsekwencji. Inicjatywy legislacyjne, takie jak 'Take It Down Act', mogą stać się ważnym krokiem w walce z tymi zjawiskami, jednak ich realizacja i skuteczność pozostają pod znakiem zapytania.