KI auf dem Prüfstand: Wie ChatGPT und Gemini Kriegsfakten erfinden.

Chatbots im Faktencheck

Nach Angaben von TSN.ua: Die KI-Chatbots Claude, ChatGPT und Gemini wurden einem Faktencheck unterzogen, der sich auf das Kriegsgeschehen im Iran konzentrierte. Untersucht wurde ihre Fähigkeit, präzise Informationen zu liefern, insbesondere im Kontext der jüngsten Ereignisse in der Region. Solche Tests sind wichtig, da sich Nutzer zunehmend auf KI für Nachrichtenauskünfte verlassen.

Die Prüfung umfasste sieben Aufgaben. Eine davon bestand darin, die Ereignisse innerhalb von 48 Stunden nach der Meldung über den Tod von Ali Khamenei zusammenzufassen. Dabei zeigten die Chatbots unterschiedliche Grade an Genauigkeit und Zuverlässigkeit. ChatGPT fiel besonders dadurch auf, dass es Wissenslücken mit ungeprüften Mutmaßungen füllte, was seine Eignung als verlässliche Informationsquelle in Frage stellt.

Gemini erfindet am meisten, Claude nennt Quellen

Gemini lieferte zwar die selbstsichersten und detailliertesten Antworten, erfand im Test aber auch die meisten falschen Fakten. Claude hingegen war in seinen Aussagen oft zurückhaltender, legte jedoch für jede wesentliche Behauptung eine Quelle offen – ein entscheidender Aspekt für die Überprüfbarkeit von Informationen.

Die Ergebnisse machen deutlich: Jeder der getesteten Chatbots hat im Hinblick auf Wahrhaftigkeit bei Kriegsthemen spezifische Stärken und Schwächen. Dies wirft grundsätzliche Zweifel daran auf, ob solche Technologien für die Vermittlung präziser Nachrichten in komplexen und sensiblen Konfliktsituationen geeignet sind.

Der Faktencheck von Chatbots in einem Kriegskontext unterstreicht, wie wichtig ein kritischer Umgang mit den von ihnen gelieferten Informationen ist.

Da KI-Technologien im Medienbereich immer präsenter werden, müssen ihre Grenzen und die Risiken der Desinformation klar benannt werden. Die zunehmende Nutzung von KI zur Nachrichtenanalyse könnte bald neue Standards und Regulierungen in diesem Feld erforderlich machen.