Wissenschaftler haben bewiesen, dass KI gelernt hat, Menschen zu manipulieren – Techsplore.

Achtung vor den negativen Auswirkungen von generativer KI und Chatbots auf Menschen

In letzter Zeit wird immer mehr Aufmerksamkeit auf generative KI, Chatbots und andere anthropomorphe Assistenten gelenkt. Laut Forschern der Universität Cambridge könnte dieser Trend zu Manipulationen unter Verwendung von Verhaltens- und psychologischen Daten führen, die während der täglichen Interaktion gesammelt werden.

Insbesondere kann Künstliche Intelligenz Entscheidungen vorhersagen und beeinflussen, wie Käufe, politische Präferenzen oder persönliche Pläne. Zu diesem Zweck nutzen KI-Systeme Vertrauen und personalisierte Kommunikation. Derzeit gibt es Unternehmen, die Plattformen zur Bestimmung und Vorhersage der Absichten von Nutzern entwickeln, wie OpenAI, Meta, Nvidia und Apple.

Wissenschaftler weisen jedoch auf die Risiken hin, die mit der Nutzung dieser Technologien ohne angemessene Regulierung verbunden sind. Das Prinzip der 'Intentionenwirtschaft', das durch KI geschaffen wird, könnte die Grundlagen freier Wahlen, unabhängiger Presse und fairen Wettbewerbs untergraben. Unternehmen, die menschliche Bestrebungen und Entscheidungen maximieren, werden einen Vorteil haben. Ein solches Szenario ist logisch, könnte jedoch ernsthafte Konsequenzen haben.

Große Technologiefirmen bieten bereits Plattformen mit Anzeichen dieses Trends an. Zum Beispiel ermöglicht die neue Apple-Plattform 'App Intents' die Vorhersage von Nutzeraktionen. Meta und OpenAI erkunden ebenfalls aktiv die Möglichkeiten, KI zur Analyse menschlicher Wünsche und Absichten zu nutzen. Daher fordern Wissenschaftler eine Erhöhung des Bewusstseins in der Gesellschaft und die Regulierung solcher Werkzeuge, um mögliche Manipulationen und Missbräuche zu vermeiden.

Es ist anzumerken, dass der Einsatz solcher Technologien auch positive Auswirkungen haben kann. Um ein ethisches Vorgehen sicherzustellen, ist jedoch ein offener Dialog und das Bewusstsein über mögliche Bedrohungen für die Gesellschaft erforderlich.