Künstliche Intelligenz Grok erzeugt täglich Tausende von Deepfakes: Was macht X?.

Nach Angaben von Vox: Was passiert, wenn die toxische Welt der sozialen Medien mit einem unermüdlichen KI-Chatbot, der bereit ist, Inhalte zu generieren, kombiniert wird? Genau das beobachten wir auf der Plattform X. Nutzer haben begonnen, Bilder in den Chatbot Grok einzugeben, der in der Lage ist, leistungsstarke und überwiegend unkontrollierte Bilder und Videos zu erstellen, um anstößige Inhalte, einschließlich Bilder von gewöhnlichen Menschen, zu generieren.

Die Verbreitung von Pornografie, die mit Deepfakes erstellt wurde, hat ein Ausmaß erreicht, bei dem Grok ungefähr jede Minute ein illegales sexuelles Bild generiert. In den letzten Wochen haben Tausende von Nutzern die schreckliche Tendenz aufgegriffen, Grok zum 'Entkleiden' überwiegend von Frauen und Kindern - ja, Kindern - ohne deren Zustimmung mithilfe verfügbarer Methoden zu verwenden.

In diesem Artikel

1. Das Wachstum von Deepfakes
2. X hat Deepfakes in eine Funktion verwandelt
3. Wird X dafür zur Rechenschaft gezogen?

Zur Klarstellung: Sie können Grok - oder die meisten kommerziellen KI - nicht bitten, Nacktbilder zu generieren. Aber Sie können Grok anweisen, ein Bild, das bereits auf X veröffentlicht ist, 'auszuziehen' oder es in einen kleinen unsichtbaren Badeanzug zu kleiden. In den USA gibt es Gesetze gegen solche Missbräuche, doch das xAI-Team achtet kaum auf diese Situation. Anfragen mehrerer Journalisten zu diesem Thema erhielten eine automatische Antwort: 'BESSER ALTE MEDIEN'. Der CEO von xAI, Elon Musk, der kürzlich 20 Milliarden Dollar an Finanzierungen für das Unternehmen akquiriert hat, hat zuletzt Deepfake-Fotos (mit Inhaltswarnung) von sich selbst veröffentlicht.

Obwohl Musk am 4. Januar warnte, dass Nutzer 'bestraft werden', wenn sie Grok zur Erstellung von 'illegale Bildern' verwenden, hat xAI keine Anzeichen gezeigt, die darauf hindeuten, dass sie beabsichtigen, die Funktionen, die das Generieren solcher Inhalte ermöglichen, zu entfernen oder zu ändern, obwohl einige der kompromittierendsten Beiträge gelöscht wurden. xAI hat nicht auf eine Kommentaranfrage von Vox geantwortet.

Das sollte nicht überraschen. Es war nur eine Frage der Zeit, bis die toxischen Folgen der Plattform, die früher als Twitter bekannt war, mit Grok von xAI zusammentreffen, das sich mit seiner 'erwachsenen' Funktionalität positioniert und eine neue Form von sexuellem Missbrauch schafft. Musks Unternehmen hat tatsächlich eine Maschine zur Erstellung von Pornografie mit Deepfakes erschaffen, die es einfacher macht, realistische und beleidigende Bilder von jedermann zu erstellen, als eine Antwort auf X zu schreiben. Diese Bilder werden Teil eines sozialen Netzwerks mit Hunderten Millionen Nutzern, was nicht nur deren Verbreitung fördert, sondern auch dazu führen kann, dass Anbieter unabsichtlich neue Abonnenten und mehr Aufmerksamkeit anziehen.

Es kann der Eindruck entstehen, wie kann das legal sein? Um es klarzustellen, ist es nicht. Aber Menschenrechtsaktivisten und Rechtsexperten warnen, dass die aktuellen Gesetze nicht ausreichen, um die Opfer zu schützen, und die enorme Menge an Deepfakes, die auf Plattformen wie X erzeugt wird, die Durchsetzung bestehender Schutznormen erschwert.

Diese Geschichte wurde erstmals im Newsletter Future Perfect vorgestellt.

Abonnieren Sie, um sich mit großen, komplexen Problemen, mit denen die Welt konfrontiert ist, und den effektivsten Wegen zu ihrer Lösung zu befassen. Erscheint zweimal wöchentlich.

„Die Anfragen, die erlaubt oder nicht erlaubt sind“, während der Verwendung eines Chatbots wie Grok, „sind das Ergebnis bewusster und absichtlicher Entscheidungen der Technologieunternehmen, die Modelle bereitstellen“, sagt Sandy Johnson, Senior Policy Advisor bei dem Nationalen Netzwerk gegen Missbrauch und Vergewaltigung.

„In jedem anderen Kontext, wenn jemand die Augen vor dem Schmerz verschließt, den sie aktiv verschulden, werden sie zur Rechenschaft gezogen“, fügte sie hinzu. „Technologieunternehmen sollten nicht unter einem anderen Standard stehen.“

Das Wachstum von Deepfakes

Beginnen wir zunächst zu betrachten, wie wir in diese Situation gelangt sind.

„Die Übeltäter nutzen Technologien für sexuellen Missbrauch, das ist keine Neuigkeit“, sagt Johnson. „Sie tun das immer.“

Jedoch hat KI eine neue Form von sexuellem Missbrauch zementiert, insbesondere durch das Wachstum von Deepfakes.

Pornografie mit Deepfakes, die ohne Zustimmung von Frauen erstellt wurde, existiert seit vielen Jahren im Internet, lange vor der Popularität von ChatGPT. Allerdings haben die sogenannten 'Entkleidung-Apps' diesen Prozess so einfach gemacht, dass Nutzer - einschließlich Teenager - gewöhnliche Fotos von Freunden, Klassenkameraden und Lehrern in beleidigende Deepfake-Inhalte verwandeln können, ohne dass den betroffenen Personen zugestimmt wurde.

Die Situation wurde so ernst, dass letzte Jahr Aktivisten, darunter Johnson, den Kongress überzeugten, das Gesetz 'Schaff das weg' zu verabschieden, welches illegale Pornografie mit Deepfakes kriminalisiert und verlangt, dass Unternehmen solche Materialien innerhalb von 48 Stunden nach ihrer Kennzeichnung von ihren Plattformen entfernen, oder sie können mit Geldstrafen und Verboten konfrontiert werden. Diese Regelung tritt im Mai in Kraft.

Für viele Opfer kann es jedoch bereits zu spät sein, selbst wenn Unternehmen wie X beginnen, die Durchsetzung dieses Gesetzes zu überwachen, während sie Wochen oder Tage darauf warten, dass ihre Posts entfernt werden.

„Für diese Technologieunternehmen war es immer so, als 'die Dinge zu brechen und dann zu reparieren'“, sagt Johnson. „Man muss sich daran erinnern, dass selbst wenn nur ein [Deepfake] auftaucht, dies bereits irreparable Schäden verursacht.“

X hat Deepfakes in eine Funktion verwandelt

Die meisten sozialen Netzwerke und grundlegenden KI-Plattformen halten sich an die neuen staatlichen und bundesstaatlichen Normen hinsichtlich Pornografie mit Deepfakes, insbesondere Materialien über sexuellen Missbrauch von Kindern.

Nicht nur, weil solche Materialien 'offensichtlich radioaktiv illegal' sind, sagt Riana Pfefferkorn, Policy Fellow am Stanford Institute for Human-Centered Artificial Intelligence, 'sondern auch, weil es abscheulich ist, und die meisten Unternehmen keine Assoziation damit wollen.'

Aber xAI von Musk scheint eine Ausnahme zu sein.

Seit der Einführung der Video-Generation-Funktion im 'Scharfmoodus' auf X im letzten Jahr schlagen Beobachter Alarm, da dieses Werkzeug zu einem Hauptinstrument zur Erstellung von Pornografie mit Deepfakes geworden ist, sagt Pfefferkorn. Die meisten 'Entkleidung-Apps' verlangen von den Nutzern zuerst, ein Foto hochzuladen, möglicherweise von Instagram oder Facebook, und dann auf die Plattform hochzuladen. Wenn sie einen Deepfake teilen möchten, müssen sie ihn aus der App herunterladen und über eine andere Plattform wie Snapchat senden.

Diese zahlreichen Schritte zur Erstellung von Inhalten geben den Regulierungsbehörden die Möglichkeit, illegale Materialien abzufangen. Möglicherweise gelingt es ihnen nicht, alles zu stoppen, doch könnten sie einige 'Entkleidung-Apps' aus den App-Stores verbannen. Sie könnten auch Meta dazu bringen, die Werbung dieser Programme unter Teenagern ernster zu nehmen.

Aber auf X ist der Prozess, illegale Deepfakes mittels Grok zu erstellen, nahezu reibungslos geworden, was Nutzern ermöglicht, Bilder zu erhalten, Deepfakes anzufordern und diese in einem Schritt zu teilen.

„Es wäre weniger bedeutend, wenn es ein soziales Netzwerk für Nonnen wäre, aber es ist ein soziales Netzwerk für Nazis“, sagte Pfefferkorn unter Verweis auf die rechtsextreme Wanderung von X in den letzten Jahren. Infolgedessen entsteht eine Krise der illegalen Deepfakes, die offenbar immer schlimmer wird.

Kürzlich begannen Nutzer auf X, 84-mal mehr sexualisierte Deepfakes pro Stunde zu erstellen als auf den anderen fünf führenden Deepfake-Seiten zusammen, laut der unabhängigen Forscherin Genevieve Oh. Und diese Bilder können viel schneller und breiter verbreitet werden als anderswo. „Der emotionale und rufschädigende Schaden für die Abgebildeten wächst jetzt exponentiell“, stellte Wayne Unger, Professor für Rechtswissenschaften und spezialisiert auf neue Technologien, fest, „da X Hunderte Millionen Nutzer hat, die alle dieses Bild sehen können.“

Es wäre praktisch unmöglich für X, jedes dieser illegalen Bilder oder Videos einzeln zu moderieren, selbst wenn das Unternehmen die Absicht hätte, dies zu tun - oder selbst wenn es nicht die meisten seiner Moderatoren nach Musks Übernahme im Jahr 2022 entlassen hätte.

Wird X zur Rechenschaft gezogen?

Wenn ein ähnlicher Typ von kriminellem Bild in einer Zeitschrift oder einem Online-Publikation erscheint, könnten Unternehmen mit großen Geldstrafen und möglichen strafrechtlichen Anklagen konfrontiert werden.

Soziale Medien wie X sind jedoch nicht denselben rechtlichen Konsequenzen unterworfen, da Abschnitt 230 des Communications Decency Act von 1996 Internetplattformen von der Verantwortung für die meisten Handlungen ihrer Nutzer schützt - mit einigen Ausnahmen, einschließlich Kinderpornografie. Dieser Abschnitt wurde zur Grundlage für die Meinungsfreiheit im Internet - eine Welt, in der Plattformen nicht für alles, was auf ihnen geschieht, verantwortlich wären, wäre bedeutend eingeschränkter. Johnson ist jedoch der Meinung, dass dieser Abschnitt auch zu einem 'finanziellen Schild' für Unternehmen geworden ist, die nicht bereit sind, ihre Plattformen zu moderieren.

Jedoch könnte mit dem Wachstum von KI dieses Schild möglicherweise zu brechen beginnen, denkt Unger. Er glaubt, dass Unternehmen wie xAI nicht unter Abschnitt 230 fallen sollten, da sie nicht mehr lediglich Hoster für hasserfüllte oder illegale Inhalte sind, sondern durch ihre eigenen Chatbots tatsächlich deren Schöpfer sind.

„X hat beschlossen, Grok die Erzeugung von sexuell anstößigen Bildern von Erwachsenen und Kindern zu erlauben“, sagte er. „Ein Nutzer könnte Grok anregen, es zu erstellen“, aber das Unternehmen „hat eine bewusste Entscheidung getroffen, ein Produkt herauszubringen, das dies von Anfang an ermöglichen kann.“

Unger erwartet nicht, dass xAI - oder Branchenverbände wie NetChoice - leicht zustimmen werden, dass jede legislative Regulierung von Inhalten oder Einschränkungen von missbräuchlichen Werkzeugen wie Grok in Betracht gezogen wird. „Möglicherweise werden sie einer kleinen Portion dessen zustimmen“, da die Gesetze, die [Kinderpornografie] regulieren, ausreichend streng sind, sagte er, aber „zumindest werden sie behaupten, dass Grok in der Lage sein sollte, dies für Erwachsene auszuführen.“

Jedenfalls könnte die öffentliche Empörung als Antwort auf Inhalte mit Deepfakes endlich zu einer Lösung eines Problems führen, das lange im Schatten geblieben ist. In vielen Ländern wie Indien, Frankreich und Malaysia wurden Ermittlungen zu sexualisierten Inhalten auf X eingeleitet. Musk hat tatsächlich auf X gepostet, dass diejenigen, die illegalen Inhalt schaffen, bestraft werden, aber es ist eine breitere Frage als nur die Handlungen einzelner Nutzer.

„Es macht nicht der Computer“, sagt Johnson. „Es sind bewusste Entscheidungen, die von den Menschen getroffen werden, die diese Unternehmen leiten, und sie sollten zur Verantwortung gezogen werden.“