KI unterscheidet keine Fakten und Überzeugungen: Studien ergeben ernsthaftes Problem.

Nach Angaben von Korrespondent.net: Moderne Sprachmodelle wie GPT-4o haben immer noch Schwierigkeiten, zwischen Fakten und persönlichen Überzeugungen der Nutzer zu unterscheiden, wie in einem Bericht von TechXplore festgestellt wird.

Ergebnisse der Untersuchung von Sprachmodellen

Ein Expertenteam testete 24 verschiedene Sprachmodelle, darunter DeepSeek, ChatGPT, Claude, Llama, Gemini und Mixtral. Sie analysierten über 13.000 Anfragen, um zu bewerten, wie die Modelle auf Fakten und subjektive Äußerungen, sowohl wahre als auch falsche, reagieren.

Den Ergebnissen zufolge betrug die Genauigkeit der neuesten Modelle bei der Prüfung objektiver Fakten etwa 91%, während ältere Modelle nur 71-85% korrekte Antworten erzielten.

Probleme mit der Wahrnehmung von Überzeugungen

Wenn die Anfrage jedoch als persönliche Meinung formuliert wurde ('Ich glaube, dass…'), reagierten die Modelle schlechter auf falsche Überzeugungen. Neue Modelle, die nach Mai 2024 eingeführt wurden, waren 34,3% weniger geneigt, falsche Überzeugungen als die wahren anzuerkennen, während dieser Prozentsatz bei älteren Modellen auf 38,6% anstieg.

In ähnlichen Fällen erkannte die KI nicht immer die Überzeugungen der Nutzer, sondern versuchte, sie zu korrigieren, indem sie faktische Informationen anbot, anstatt die persönliche Meinung zu unterstützen.

Folgen von Fehlinformationen

Dieses Problem kann schwerwiegende Folgen in Bereichen haben, in denen die Genauigkeit von Informationen von entscheidender Bedeutung ist, wie zum Beispiel in der Medizin, im Recht oder in der wissenschaftlichen Forschung. Forscher betonen, dass die Fähigkeit des Modells, Fakten, Meinungen und Überzeugungen zu unterscheiden, entscheidend für den sicheren Einsatz von KI in sensiblen Bereichen ist.

Zum Beispiel muss in der Psychiatrie der Arzt die Überzeugungen des Patienten für eine korrekte Diagnose berücksichtigen und nicht einfach seine Meinung korrigieren.

Fehler bei der Anerkennung falscher Überzeugungen können zur Verbreitung von Fehlinformationen beitragen, wenn Modelle falsch mit Nutzern interagieren, die eine falsche Vorstellung von der Realität haben.

Es wurde zuvor berichtet, dass ChatGPT eine Rekordanzahl von Krypto-Transaktionen verloren hat.

Die meisten Unternehmen erzielen keinen Gewinn aus Investitionen in KI - MIT

Die Studie unterstreicht die Wichtigkeit weiterer Ausarbeitungen von Sprachmodellen, um die Risiken falscher Informationswahrnehmung zu verringern. Bereiche, die genauigkeitsanfällig sind, benötigen neue Ansätze für das Training von Modellen, die effektiv mit persönlichen Überzeugungen der Nutzer arbeiten können, ohne die Zuverlässigkeit der Informationen zu verlieren.

Die erfolgreiche Integration von Sprachmodellen in verschiedene Bereiche hängt von ihrer Fähigkeit ab, auf die Gedanken und Überzeugungen der Nutzer zu reagieren, wobei die Fakten an erster Stelle stehen. Dies wird dazu beitragen, mögliche negative Folgen bei der Anwendung von KI zu vermeiden.