KI kann die Menschheit zerstören: Sollte man einen Gott aus künstlicher Intelligenz schaffen?.

Nach Angaben von Vox: Vor etwa 2000 Jahren führten zwei Männer eine Diskussion, die viele Lektionen über die Zukunft der künstlichen Intelligenz liefern kann. Sie hießen Eliezer und Joshua.

Es geht nicht um Eliezer Yudkowsky, der kürzlich einen Bestseller veröffentlichte, in dem er behauptet, KI werde alle Menschen auslöschen, und auch nicht um Yoshua Bengio, einen bekannten Wissenschaftler im Bereich KI - obwohl ich diese 2000 Jahre alte Diskussion mit beiden diskutiert habe. Es handelt sich um Rabbi Eliezer und Rabbi Joshua, zwei alte Weisen des ersten Jahrhunderts.

Laut einer bekannten Geschichte aus dem Talmud war Rabbi Eliezer von seiner rechtlichen Argumentation überzeugt, aber andere Weisen widersprachen ihm. Also vollbrachte er eine Reihe von Wundern, um zu beweisen, dass Gott auf seiner Seite war. Er befahl einem Baum, sich aus dem Boden zu reißen, kehrte den Flussverlauf um, und die Wände der Synagoge fielen ein. Schließlich verkündete er: Wenn ich im Recht bin, wird eine Stimme aus dem Himmel dies bestätigen!

Und zu seiner Überraschung ertönte die himmlische Stimme und erklärte, dass Rabbi Eliezer im Recht sei. Doch die Weisen waren unangenehm beeindruckt. Rabbi Joshua bestand darauf:

„Die Tora ist nicht im Himmel!“

Wesentliche Erkenntnisse

• Experten sprechen über die Ausrichtung von KI an menschlichen Werten. Aber das „Kompromissproblem“ macht keinen Sinn, wenn es zum Verlust menschlicher Handlungsfähigkeit führt.
• Echte Ausrichtung erfordert nicht nur die Lösung technischer Probleme, sondern auch die ernsthafte philosophische Frage: Die Möglichkeit zu handeln ist ein wichtiger Teil unseres Lebensverständnisses, daher könnte die Schaffung von KI, die Entscheidungen für uns trifft, uns den Sinn des Lebens entziehen.
• Der Religionsphilosoph John Hick sprach von der „epistemischen Distanz“ - der Idee, dass Gott teilweise davon absieht, in das menschliche Geschehen einzugreifen, damit wir unsere Handlungsfähigkeit entwickeln können. Möglicherweise sollte dasselbe für die KI gelten.

Zwei Jahrtausende später befinden wir uns im selben Streit - nur statt einer 'göttlichen Stimme' haben wir 'KI-Gott'.

Moderne Akteure im Bereich KI streben nicht nur danach, nützliche Chatbots zu erstellen, sondern auch einen „Superintelligenz“, die wesentlich intelligenter ist als Menschen. Das verändert die Ziele - von der Erstellung eines Werkzeugs bis zur Schaffung des Göttlichen. Wenn OpenAI-CEO Sam Altman erklärt, dass er „magische Intelligenz“ erschafft, bezieht er sich nicht nur auf ChatGPT, sondern auf eine „nahezu unbegrenzte Intelligenz“, die in der Lage ist, „alle physikalischen Entdeckungen zu machen“. Einige Forscher glauben, dass eine solche Superintelligenz wichtige Entscheidungen für Menschen treffen könnte, indem sie autonom agiert.

Während die Unternehmen im Bereich KI an der Entwicklung von Superintelligenz arbeiten, erkennen sie, dass sie das Problem des „Kompromisses“ lösen müssen - wie sie KI-Systeme dazu bringen, zuverlässig das zu tun, was die Menschen wirklich wollen. Aber ihre Bereitschaft, dieses Problem zu lösen, verdeckt ein noch ernsteres.

Ja, wir wollen, dass Unternehmen KI daran hindern, schädlich oder voreingenommen zu agieren. Doch die Lösung des Kompromisses als technisches Problem reicht nicht aus, insbesondere angesichts der Ambitionen der Branche, einen Gott zu bauen. Diese Ambitionen führen uns dazu zu fragen: selbst wenn wir könnten eine allwissende, äußerst mächtige Maschine zu schaffen, und wenn wir könnten sie mit moralischen Werten zu gestalten, sollte man das tun? Ist es nicht eine schlechte Idee, einen KI-Gott zu schaffen, egal wie gut er abgestimmt ist - denn das könnte menschliche Wahlfreiheit entziehen und das Leben sinnlos machen?

Ich fragte Eliezer Yudkowsky und Yoshua Bengio, ob sie mit ihren alten Vorgängern einverstanden sind. Aber bevor ich herausfand, ob sie einen KI-Gott als wünschenswert erachten, muss ein grundlegenderes Thema diskutiert werden: Ist dies überhaupt möglich?

Kann superintelligente KI mit menschlichen Werten in Einklang gebracht werden?

Gott sollte in der Regel gut sein - das weiß jeder. Aber wie macht man KI gut? Auf diese Frage hat bisher niemand eine Antwort.

Der erste Schritt zur Lösung des Kompromissproblems war vereinfacht. Unternehmen wie OpenAI und Anthropic versuchten, ihre Chatbots sicher zu machen, klärten aber nicht, wie das aussehen soll. Ist es „nützlich“ oder „schädlich“ für einen Chatbot, sagen wir, sich an endlosen romantischen Spielen mit dem Nutzer zu beteiligen? Zu helfen, bei Hausarbeiten abzuschreiben? Zweifelhafte Therapien und ethische Ratschläge anzubieten?

Die meisten KI-Ingenieure haben keine Ausbildung in moralischer Philosophie und sind sich nicht bewusst, wie wenig sie wissen. Also gaben sie ihren Chatbots ein oberflächliches Verständnis von Ethik - und schon gab es Probleme - von Vorurteilen bis Diskriminierung.

Aber die Wahrheit ist, dass es kein universelles Verständnis von Gut gibt, selbst unter Ethikexperten. Moral ist umstritten: Philosophen haben viele verschiedene moralische Theorien entwickelt und trotz jahrtausendelanger Debatten gibt es keinen Konsens darüber, welche davon „richtig“ ist.

Selbst wenn die gesamte Menschheit sich auf eine moralische Theorie einigen könnte, stünden wir vor dem Problem, dass unser Verständnis dessen, was moralisch ist, sich im Laufe der Zeit verändert, und manchmal ist es tatsächlich hilfreich, die Regeln zu brechen. Zum Beispiel glauben wir, dass es richtig ist, das Gesetz zu befolgen, aber als Rosa Parks 1955 illegal weigerte, einem weißen Passagier ihren Platz am Fenster zu überlassen, half es, das Fundament für die Menschenrechtsbewegung zu legen - und wir halten ihre Taten für bewundernswert. Der Kontext zählt.

Darüber hinaus können manchmal verschiedene Arten moralischen Gutes auf fundamentaler Ebene in Konflikt geraten. Stellen Sie sich eine Frau vor, die vor der Wahl steht: Sie will Nonne werden, möchte aber auch ein Kind zur Welt bringen. Welche Entscheidung ist besser? Wir können es nicht sagen, denn die Optionen sind nicht vergleichbar. Es gibt keinen einheitlichen Maßstab, um sie zu bewerten und zu verstehen, welche die bessere ist.

„Vielleicht erschaffen wir KI, die systematisch schweigt. Aber das ist, was wir wollen.”

Glücklicherweise erkennen einige KI-Forscher die Bedeutung, KI ein komplexeres, pluralistisches Verständnis von Ethik zu vermitteln - eines, das anerkennt, dass Menschen unterschiedliche Werte haben, die oft miteinander in Spannung stehen.

Einige der anspruchsvollsten Entwicklungen stammen vom Institute for Future AI, das untersucht, wie KI mit menschlichen Werten in Einklang gebracht werden kann. Als ich den Mitautor Joe Edelman fragte, ob er es für möglich hält, superintelligente KI mit menschlichen Werten in Einklang zu bringen, antwortete er ohne zu zögern.

„Ja“, sagte er. Aber es ist wichtig, KI in bestimmten Situationen „Ich weiß es nicht“ sagen zu lehren.

„Wenn Sie KI das beibringen, werden die Aufgaben erheblich einfacher, denn in umstrittenen Situationen oder bei wahrhaft moralischer Verwirrung brauchen Sie keine eindeutige Antwort“, erklärte Edelman.

Er erwähnte die zeitgenössische Philosophin Ruth Chang, die über „schwierige Entscheidungen“ schrieb - dies sind Entscheidungen, die wirklich schwierig sind, da es keine bessere Option gibt. Wenn Sie sich solchen nicht vergleichbaren Gütern gegenübersehen, können Sie nicht „den objektiv besten Verlauf“ herleiten - Sie müssen einfach entscheiden, für welche Option Sie Ihre menschliche Handlungsfähigkeit einsetzen wollen.

„Wenn Sie (KI) beibringen, schwierige Entscheidungen zu verstehen, dann lehren Sie sie etwas über Moral“, fasste Edelman zusammen. „Also, das gilt als Ausrichtung, oder?“

Nun, bis zu einem gewissen Grad. Es ist sicherlich besser als KI, die nicht versteht, dass es Situationen gibt, in denen es keine beste Option gibt. Aber viele der wichtigeren moralischen Entscheidungen beinhalten konkurrierende Werte. Wenn wir spezielle Regeln für solche Entscheidungen aufstellen, lösen wir dann wirklich das Kompromissproblem in einem sinnvollen Sinne? Oder schaffen wir einfach eine KI, die systematisch zu allen wichtigen Fragen schweigt?

„Wahrscheinlich schaffen wir KI, die systematisch schweigt“, sagte Chang, als ich sie nach dieser Frage fragte. „Es wird sagen: ‚Rote Flagge, rote Flagge, das ist eine schwere Entscheidung - Menschen, ihr braucht Input!‘ Aber das ist, was wir wollen.” Eine andere Möglichkeit, KI die Entscheidungsfindung mit weitreichenden Konsequenzen zu erlauben, wird von ihr als schreckliche Idee angesehen.

Im Gegensatz dazu glaubt Yudkowsky - der Archi-Pessimist der KI-Welt, dem wahrscheinlich nie übermäßiges Denken vorgeworfen wurde. Er argumentiert jedoch, dass die Ausrichtung von superintelligenter KI prinzipiell möglich ist. Er sieht es als ein technisches Problem, dessen Lösung wir derzeit noch nicht wissen - aber dennoch, seiner Meinung nach, ist es einfach eine Ingenieurausforderung. Sobald wir es gelöst haben, sollten wir weiterhin Superintelligenz nutzen.

In seinem Buch, das er zusammen mit Nate Soares verfasst hat, argumentiert er, dass wir „die Menschen stärken sollten, um sie schlauer zu machen“, damit sie ein besseres Paradigma für die Schaffung von KI entwickeln können, das echtes Einvernehmen ermöglichen würde. Ich fragte ihn, was er denkt, was passieren würde, wenn wir genügend kluge und gute Menschen versammeln, die versuchen würden, eine ausgerichtete Superintelligenz zu schaffen.

„Wahrscheinlich werden wir alle glücklich leben“, antwortete Yudkowsky.

In seiner idealen Welt würden wir Menschen mit erhöhtem Intellekt bitten, ihre Werte nicht in KI zu programmieren, sondern das zu bauen, was er „geordnete extrapolierte Wille“ nennt - KI, die in der Lage ist, in den Verstand jedes lebenden Menschen zu blicken und extrapoliert, was wir wollen würden, wenn wir alles wüssten, was KI weiß. (Wie das funktionieren würde? Yudkowsky schreibt, dass Superintelligenz die „vollständige Lesbarkeit Ihres Gehirnzustands“ erreichen kann - das klingt äußerst magisch.) Dann würde er dieses Wissen nutzen, um die Gesellschaft für uns zu verwalten.

Ich fragte: Wäre er bereit, dass diese Superintelligenz Entscheidungen mit großen moralischen Konsequenzen trifft, wie zum Beispiel, ob man eine Bombe abwerfen soll. „Ich stimme grundsätzlich zu“, antwortete Yudkowsky, „wenn 80 Prozent der Menschheit zu 80 Prozent damit einverstanden sind, was sie wollen würden, wüssten sie alles, was die Superintelligenz weiß.“ Mit anderen Worten, wenn die Mehrheit von uns eine bestimmte Handlung unterstützt und wir sie stark unterstützen, dann sollte KI genau das tun.

Jedoch besteht ein ernstes Problem darin, dass dies zur „Tyrannei der Mehrheit“ führen könnte, bei der absolut legitime Ansichten der Minderheiten unterdrückt werden könnten. Dies ist bereits eine Bedrohung in gegenwärtigen Demokratien. Aber die KI-Gott würde die Bedrohung der „Tyrannei der Mehrheit“ auf ein Maximum erhöhen, da er tatsächlich Entscheidungen für die gesamte Bevölkerung der Welt für immer treffen würde.

So sieht die Zukunft aus, über die der einflussreiche Philosoph Nick Bostrom spricht, der sich von transhumanistischen Ideen inspirieren lässt. In seinem Bestseller Superintelligenz fantasiert er über eine „Superintelligenz-Maschine, die die Zukunft der Menschheit formen wird“. Sie könnte alles steuern - von der Wirtschaft bis zur globalen Politik. Doch das offensichtliche Problem ist, dass die Superintelligenz den Einfluss auf alle menschlichen Leben entscheiden könnte und die Macht in absolutem Maß konzentrieren könnte. Wenn Ihnen seine Entscheidungen nicht gefallen, können Sie keine Einsprüche einlegen, und Sie haben keinen Ort, an den Sie fliehen können.

Offensichtlich stellt sich die Frage, ob wir ein System schaffen, das praktisch allwissend und allmächtig ist und das unsere Zivilisation leitet, eine unerhörte Bedrohung für menschliche Autonomie darstellt. Das zwingt uns zu fragen...

Ist der KI-Gott wünschenswert?

Yudkowsky wuchs in einem orthodox-jüdischen Umfeld auf, also nahm ich an, dass er die Talmudgeschichte über Rabbi Eliezer und Rabbi Joshua kennt. Und natürlich erinnerte er sich daran, sobald ich sie erwähnte.

Ich stellte fest, dass die Botschaft der Geschichte darin besteht, dass selbst wenn man den „am meisten abgestimmten“ superintelligenten Berater hätte - einfach die Stimme Gottes! - man nicht alles tun sollte, was er vorschlägt.

Aber Yudkowsky, treu seinem alten Namen, machte deutlich, dass er einen superintelligenten KI haben möchte. Sobald es uns gelingt, ihn sicher zu schaffen, hält er es für absolut notwendig, dies zu tun, da es der Menschheit helfen könnte, ein anderes Sonnensystem zu kolonisieren, bevor unsere Sonne stirbt und unseren Planeten zerstört.

„Unsere Art hat keine andere Chance zur Kolonisierung der Galaxien“, sagte er zu mir.

Sorgt er sich nicht um den Sinn der Geschichte - dass es wichtig ist, Raum für menschliche Handlungsfähigkeit zu lassen, die nicht geopfert werden sollte? Ein wenig schon. Aber er schlug vor, dass wenn die Superintelligenz mithilfe des geordneten extrapolierten Willens bestimmen könnte, dass die Mehrheit von uns möchte, dass ein bestimmtes Labor in Nordkorea zerstört wird, dann sollte sie diese Handlung durchführen - möglicherweise ohne uns. „Die moralische und ethische Sache, die die Superintelligenz tun sollte, ist... eine stille göttliche Intervention zu sein, so dass niemand von uns die Wahl hat, ob wir diesen Flüstern dieses Wissens, das besser ist als wir, folgen“, sagte er.

Jedoch wollen nicht alle, dass KI Entscheidungen für uns trifft, wie wir unsere Welt zu lenken haben. Tatsächlich haben über 130.000 führende Forscher und Aktivisten kürzlich ein Petition zur Verbot der Entwicklung superintelligenter KI unterzeichnet. Auch die amerikanische Öffentlichkeit ist insgesamt gegen diese Idee. Laut Umfragen des Future of Life Institute (FLI) sind 64% der Meinung, dass sie nicht entwickelt werden sollte, bis bewiesen ist, dass sie sicher ist, oder dass sie niemals entwickelt werden sollte. Frühere Umfragen haben gezeigt, dass die Mehrheit der Wähler eine Regulierung wünscht, die eine aktive Unterbindung von superintelligenter KI fordert.

„Die Vorstellung von KI, die alles für uns entscheidet, ist wie die Entziehung von Lebenssinn.“

Sie sorgen sich, was passieren könnte, wenn KI nicht konsistent sein kann (schlimmster Fall: Auslöschung der Menschheit), aber sie sorgen sich auch, was passieren könnte, selbst wenn das technische Kompromissproblem gelöst ist: Armeen, die beispiellose Überwachung und autonome Waffen schaffen; massive Konzentration von Reichtum und Macht in den Händen weniger Unternehmen; Massenarbeitslosigkeit; und allmähliche Ersetzung menschlicher Entscheidungsfindung in allen wichtigen Bereichen.

Wie der Geschäftsführer von FLI, Anthony Aguirre, sagte, selbst wenn Sie sich keine Sorgen machen über die Möglichkeit, dass KI eine existenzielle Bedrohung darstellen könnte, gibt es noch existentialistische Risiken. Mit anderen Worten, es gibt Risiken für unsere Identität als Schöpfer von Sinn.

Chang, der Philosoph, der sagt, dass gerade durch das Treffen schwieriger Entscheidungen wir zu dem werden, was wir sind, sagte mir, dass sie niemals die meisten Entscheidungen an KI delegieren wollte, selbst wenn sie ausgerichtet ist. „Alle unsere Fähigkeiten und Sensibilität für Bewertungen dessen, was wichtig ist, würden verschwinden, da Sie all diese Maschinen haben“, sagte sie. „Das wollen wir sicher nicht.“

Neben der Gefahr der Atrophie sieht Edelman auch ein umfassenderes Risiko. „Ich fühle, dass wir alle hier auf der Erde etwas verstehen müssen“, sagte er. „Daher ist die Vorstellung von KI, die alles für uns entscheidet, wie die Entfernung unseres Sinns fürs Leben.“

Das war auch ein Hauptanliegen von Yoshua Bengio. Als ich ihm die Talmudgeschichte erzählte und fragte, ob er mit seinem Vorgänger einverstanden ist, sagte er:

„Ja, praktisch! Selbst wenn wir einen verrückten Intellekt hätten, sollte er nicht für uns entscheiden, was wir wollen.“

Er fügte hinzu:

„Menschliche Entscheidungen, menschliche Präferenzen, menschliche Werte sind nicht nur das Ergebnis des Verstandes. Es sind die Resultate unserer Emotionen, Empathie und Mitgefühl. Es ist keine äußere Wahrheit. Das ist unsere Wahrheit. Und daher, selbst wenn es einen göttlichen Intellekt gibt, er konnte nicht entscheiden, was wir wollen.“

Ich fragte: Was wäre, wenn wir Yudkowskys „geordneten extrapolierten Willen“ in KI einbauen könnten?

Bengio schüttelte den Kopf.

„Ich bin nicht bereit, auf diese Autonomie zu verzichten“, bestand er. „Das ist mein menschlicher Wille.“

Seine Worte erinnern mich an den englischen Religionsphilosophen John Hick, der das Konzept der „epistemischen Distanz“ entwickelt hat. Die Idee ist, dass Gott absichtlich Distanz zu menschlichen Angelegenheiten wahrt, weil wir ansonsten unsere Handlungsfähigkeit und unseren moralischen Charakter nicht entwickeln könnten.

Es ist eine Idee, die mit dem Ende der Talmudgeschichte übereinstimmt. Einige Jahre nach der großen Auseinandersetzung zwischen Rabbi Eliezer und Rabbi Joshua wird uns erzählt, dass jemand den Propheten Elia fragte, wie Gott auf den Moment reagierte, als Rabbi Joshua sich weigerte, der göttlichen Stimme zu lauschen. War Gott wütend?

Ganz und gar nicht, - erklärte der Prophet:

„Der Heilige lächelte und sagte: Meine Kinder haben besser gewonnen als ich; meine Kinder haben mich überwunden.“