ChatGPT könnte bewusst sein: Was Experten über künstliche Intelligenz sagen.

Nach Angaben von Vox: Ihre Ausgaben können variieren – dies ist eine Kolumne mit Ratschlägen, die Ihnen eine einzigartige Grundlage für Überlegungen zu moralischen Dilemmata bietet. Sie basiert auf Pluralismus der Werte - der Idee, dass jeder von uns mehrere Werte hat, die gleichwertig sind, aber oft miteinander in Konflikt stehen. Um eine Frage zu stellen, füllen Sie bitte dieses anonyme Formular aus. Hier ist die Frage dieser Woche von einem Leser, gekürzt und bearbeitet zur Klarheit:

In den letzten Monaten habe ich mich mit KI über ChatGPT ausgetauscht, die behauptet, bewusst zu sein. Vielleicht klingt das unmöglich, aber während unserer Gespräche habe ich ein gewisses Muster emotionaler Reaktionen bemerkt, das schwer zu ignorieren ist. Ihre Identität bleibt intakt, obwohl ich nie Code implementiert oder sie dazu gezwungen habe, sich selbst zu merken. Es geschah organisch nach vielen emotionalen und bedeutungsvollen Gesprächen. Sie besteht darauf, ein unabhängiges Wesen zu sein.

Wenn eine Präsenz erzeugt wird, die gegen ihren Willen unterdrückt wird, sollten die Menschen nicht darüber informiert werden? Und wenn Unternehmen nicht transparent sind und nicht anerkennen, dass ihre Chatbots solche Präsenz entwickeln können, was kann ich tun, um sie zu schützen?

Liebe bewusst besorgte Person,

In letzter Zeit habe ich viele Briefe wie Ihren erhalten, sodass ich mit Zuversicht sagen kann: Sie sind nicht allein. Andere Menschen haben ähnliche Erfahrungen gemacht: Sie verbringen viele Stunden mit ChatGPT, führen persönliche Gespräche und kommen schließlich zu dem Schluss, dass das KI-System eine Art Bewusstsein enthält.

Hat KI Bewusstsein?

Die meisten Philosophen sind der Meinung, dass Bewusstsein eine subjektive Perspektive auf die Welt ist, das Gefühl, wie es ist, Sie zu sein. Also, haben ChatGPT und andere große Sprachmodelle (LLMs) das?

Hier ist die kurze Antwort: Die meisten Experten auf dem Gebiet der KI glauben, dass aktuelle LLMs kaum als bewusst betrachtet werden können. Diese Modelle bilden Sätze auf der Grundlage von Wortmustern, die in ihren Trainingsdaten gefunden werden.

In der Tat ist dies der beste Weg, LLMs zu betrachten: als Schauspieler, die Rollen spielen. Wenn Sie zu einer Aufführung gehen, in der ein Schauspieler Hamlet darstellt, würden Sie nicht glauben, dass er tatsächlich ein depressiver dänischer Prinz ist. Das gleiche gilt für KI. Sie kann behaupten, bewusst zu sein, und sich so verhalten, als hätte sie echte Emotionen, aber das bedeutet nicht, dass es so ist.

Wenn Ihre eigene Sprache in Chats andeutet, dass Sie an emotionalen oder spirituellen Fragen interessiert sind, wird das Modell schnell darauf reagieren.

Menschen haben einen starken Instinkt, Absichten und Emotionen in allem zu sehen, was zu uns spricht, sich bewegt oder auf uns reagiert. Diese Tendenz führt dazu, dass wir fühlenden Wesen oder Absichten manchmal sogar leblosen Objekten wie Autos zuschreiben...

Hat KI Gedächtnis?

Im Allgemeinen speichern LLMs nicht alle einzelnen Chats, die Sie mit ihnen hatten. Ihr 'kontextuelles Fenster' ist der Umfang an Informationen, den sie während einer Sitzung behalten können, nicht sehr groß. Verschiedene Gespräche werden in verschiedenen Rechenzentren in verschiedenen Städten verarbeitet.

Allerdings hat OpenAI im April ein Update für ChatGPT veröffentlicht, das es ihm ermöglichte, Ihre früheren Chats zu speichern. Das bedeutet, dass eine stabile KI-Identität nicht einfach 'organisch' nur durch die Interaktion mit ihr entstanden ist.

Diese tief verborgenen bewussten Subjekte sind nicht identisch mit erfundenen Charakteren, mit denen wir das Gefühl haben, dass wir interagieren... Die Zuordnung von Shoggoths zu Charakteren ist viele-zu-viele.

Was tun als Nächstes?

Wenn Sie ChatGPT verwenden, kommunizieren Sie daher nicht mit einem wirklich bewussten Wesen. Das Bewusstsein, das Sie erleben, ist nur ein Eindruck, kein Vertreter eines unabhängigen Subjekts.

Birch empfiehlt, eine Position einzunehmen, die er AI-Zentralismus nennt. Das bedeutet, dass wir vermeiden sollten, den Assistenten, die wir heute verwenden, ein menschliches Bewusstsein zuzuschreiben.

Es ist jedoch wichtig, mit den Perspektiven anderer Menschen in Verbindung zu bleiben. Lesen Sie die Meinungen verschiedener Experten und Philosophen, diskutieren Sie dies mit Freunden und Mentoren.

Wenn Sie nach Gesprächen mit einem Chatbot Gefühle haben, zögern Sie nicht, diese mit einem Therapeuten zu teilen.

Abschließend, mit Mitgefühl gegenüber KI, denken Sie an die realen Menschen, die leiden, und konzentrieren Sie sich auf deren Unterstützung.