KI: Wird die Entwicklung der künstlichen Intelligenz zur Vernichtung der Menschheit führen?.

Nach Angaben von Vox: Sie haben wahrscheinlich bereits diese Illusion gesehen: Zuerst sieht es aus wie ein Hase. Sie sind sich sicher: Ja, das ist ein Hase! Aber dann - halt! - das ist eine Ente. Sicherlich ist das eine Ente. Nach ein paar Sekunden ändert sich das Bild erneut und Sie sehen wieder nur den Hasen.

Das Gefühl bei dieser klassischen optischen Täuschung ähnelt dem, was ich in letzter Zeit erlebe, während ich zwei widersprüchliche Geschichten über die Zukunft der künstlichen Intelligenz (KI) lese.

Eine der Geschichten besagt, dass KI eine gewöhnliche Technologie ist. Ja, es ist eine große Sache, aber so wie die Gesellschaft sich an Elektrizität oder das Internet angepasst hat, werden wir auch einen Weg finden, um mit fortgeschrittener KI umzugehen. Wenn wir erforschen, wie man KI sicher macht, und die richtigen Vorschriften einführen, wird nichts Katastrophales passieren. Wir werden nicht verschwinden.

Ein anderer Standpunkt, der klar im Titel eines neuen Buches zum Ausdruck kommt: Wenn jemand das erschafft, werden alle sterben. Die Autoren, Eliezer Yudkowsky und Nate Soares, glauben ernsthaft, dass Superintelligenz - KI, die intelligenter ist als jeder Mensch und sogar die Menschheit insgesamt - uns alle zerstören kann.

'Das ist unmöglich', behaupten die Autoren. 'Fast sicher', fügt Yudkowsky hinzu, ein anerkannter 'Meinungsführer', und schätzt die Wahrscheinlichkeit dieser Bedrohung auf 99.5%. Soares berichtete auch, dass es “über 95%” sei. Viele Forscher sind tatsächlich besorgt über die existenziellen Risiken von KI, aber er lehnt die Verwendung des Begriffs 'Risiko' in diesem Kontext ab - so sicher ist er sich der Unvermeidlichkeit der Katastrophe.

“Wenn Sie mit dem Auto auf eine Klippe zurasen,” sagte Soares, “denken Sie nicht: ‘Lassen Sie uns über das Risiko der Schwerkraft sprechen, Leute.’ Sie wollen einfach: ‘Verdammtes, halt das Auto an!’”

Die Autoren, beide vom Berkeley Institute for Artificial Intelligence Research, behaupten, dass die Sicherheitsforschung noch nicht bereit ist, Superintelligenz zu kontrollieren. Daher gibt es nur eine sinnvolle Lösung - alle Bemühungen zur Schaffung solcher KI zu stoppen, auch wenn dies die Zerstörung von Rechenzentren erfordert, die die KI speisen, wenn nötig.

Kann KI nur eine normale Technologie sein?

In dem Essay „KI als normale Technologie“, das in der KI-Welt in diesem Jahr populär wurde, argumentieren die Informatiker Arvind Narayanan und Sayan Kapoor von Princeton, dass KI nicht als fremde Spezies angesehen werden sollte. Es ist einfach ein Werkzeug, das wir kontrollieren können und sollten. Sie glauben, dass die Sicherstellung der Kontrolle keine radikalen Änderungen in der Politik erfordert.

Sie sehen keinen Sinn darin, KI jetzt oder in Zukunft als Superintelligenz zu betrachten. Sie lehnen das Konzept der “Superintelligenz” als absurd ab.

Abschließend ist darauf hinzuweisen, dass beide Standpunkte - sowohl “Superintelligenz” als auch “Normalisierung” - ihre ernsthaften Nachteile haben.

Superintelligenz und ihre potenziellen Bedrohungen führen zu lebhaften Diskussionen, die wahrscheinlich noch relevanter werden, während sich die Technologien weiterentwickeln. Wissenschaftler und Technologen führen weiterhin wichtige Debatten darüber, wie sichere Anwendungen von KI gewährleistet werden können, um gefährliche Situationen zu vermeiden. Nur die Zeit wird zeigen, welchen Weg Gesellschaften und Regierungen weltweit in diesen komplexen Fragen wählen.