OpenAI investiert Milliarden in den Bioversicherungsschutz: Wie künstliche Intelligenz gegen Viren vorgehen wird.

Nach Angaben von Vox: Wichtige Neuigkeiten zur Entwicklung von Artificial General Intelligence (AGI), die ein menschliches Niveau der Intelligenz in allen Aspekten erreicht. OpenAI, das sich zum Ziel gesetzt hat, "sicherzustellen, dass AGI der gesamten Menschheit zugutekommt", hat seinen mit Spannung erwarteten Plan zur Verselbständigung abgeschlossen. Dies könnte unseren Ansatz zur Risikobewertung im Zusammenhang mit KI erheblich verändern, insbesondere hinsichtlich biologischer Bedrohungen.

Änderungen in der Struktur von OpenAI

Zur Erinnerung: OpenAI wurde 2015 als gemeinnützige Organisation gegründet, und 2019 wurde eine gewinnorientierte Tochtergesellschaft gegründet. Der gemeinnützige Teil wird jetzt als OpenAI Foundation bezeichnet, während die gewinnorientierte Tochtergesellschaft eine öffentlich gehandelte Organisation mit wohltätigem Zweck ist, bekannt als OpenAI Group. Die Stiftung kontrolliert die OpenAI Group und besitzt 26 % der Anteile, die zum Zeitpunkt des Abschlusses der Rekapitalisierung auf etwa 130 Milliarden Dollar geschätzt werden.

“Wir glauben, dass die mächtigsten Technologien der Welt sich so entwickeln sollten, dass sie die kollektiven Interessen der Gesellschaft widerspiegeln,” schrieb OpenAI in einem Blogbeitrag.

Eine der ersten Initiativen von OpenAI, neben großen Vereinbarungen mit Microsoft, war die Investition von 25 Milliarden Dollar zur Beschleunigung medizinischer Forschungen und zur Entwicklung "praktischer technischer Lösungen zur Sicherstellung der Widerstandsfähigkeit von KI, die darauf abzielen, ihre Vorteile zu maximieren und Risiken zu minimieren."

Risiken und Möglichkeiten

Die Maximierung der Vorteile und die Minimierung der Risiken sind zentrale Fragen bei der Entwicklung leistungsstarker KI. Der Einsatz von KI in der Biologie und Medizin könnte die Diagnostik von Krankheiten, die Reaktionsgeschwindigkeit und die Entdeckung neuer Behandlungsmethoden und Impfstoffe verbessern. Viele Experten sind jedoch besorgt, dass eines der größten Risiken im Zusammenhang mit dem Potenzial zur Schaffung gefährlicher biologischer Agenzien liegt, was die Hürden für die Entwicklung tödlicher biologischer Angriffe senkt.

OpenAI ist sich bewusst, dass ihre Werkzeuge für die Herstellung biologischer Waffen missbraucht werden können.

Das Unternehmen Frontier AI hat bereits Vorsichtsmaßnahmen für seinen ChatGPT-Agenten eingeführt, aber wir stehen erst am Anfang der Entwicklung von KI in der Biologie. Daher ist die Nachricht, dass der OpenAI-Investitionsfonds zusammen mit Lux Capital und Founders Fund 30 Millionen Dollar für die Anfangsfinanzierung des Bioversicherungs-Startups Valthos bereitgestellt hat, ebenso wichtig wie die Unternehmensreorganisation.

Valthos plant, einen "Technologiestack" für den Bioversicherungsschutz in rasantem Tempo zu erstellen. "Mit der Entwicklung von KI wird das Leben programmierbar," sagte das Unternehmen in seinem Blog nach dem Verlassen des 'Hidden' Modus am Freitag. "Die Welt rückt näher an den allgemeinen Zugang zu leistungsstarken, dual-use Biotechnologien heran, die entweder Krankheiten beseitigen oder sie verursachen können."

AI gegen Risiken

Sollten wir diese Werkzeuge überhaupt stoppen, angesichts ihres potenziell destruktiven Einflusses? Angesichts des neuen Fortschritts und der Investitionen in KI scheint dies unrealistisch. Eine entscheidende Frage bleibt: Kann KI, die wir entwickeln, die Risiken, die sie selbst schafft, minimieren? Diese Frage wird immer relevanter, da OpenAI und andere sich AGI nähern.

Kann KI uns vor den Risiken von KI schützen?

Valthos stellt sich eine Zukunft vor, in der jede biologische Bedrohung für die Menschheit sofort identifiziert und neutralisiert werden kann, unabhängig von der Quelle. "Wir entwickeln KI-Systeme zur schnellen Charakterisierung biologischer Sequenzen und zur Aktualisierung von Medikamenten in Echtzeit," erklärten sie im Unternehmen.

Dies wird schnellere Reaktionen auf Krankheitsausbrüche ermöglichen und möglicherweise ihre Entwicklung zu Pandemien verhindern. Wir werden Therapien anpassen und neue Medikamente in Rekordzeit entwickeln können, was vielen Menschen mit schweren Krankheiten helfen wird.

Wir sind jedoch noch nicht am Ziel der AGI angekommen, und selbst ohne dies haben wir ernsthafte Risiken von KI in der Biologie, insbesondere durch die Absicht, neue Pathogene zu schaffen, die gefährlicher sein könnten als alles, was in der Natur bekannt ist. Die Bemühungen von Valthos sind ein Schritt in die richtige Richtung, aber Unternehmen, die mit KI arbeiten, müssen konkrete Ergebnisse zeigen.

“Ich bin sehr optimistisch, was das Potenzial und die Vorteile betrifft, die die Gesellschaft aus KI in der Biologie ziehen kann,” sagte Jaime Yassif, Vizepräsident für globale biologische Politik und Programme in der Nuclear Threat Initiative. “Es ist jedoch wichtig, diese Werkzeuge verantwortungsvoll zu entwickeln und einzusetzen.”

(Anmerkung: Ich habe früher bei NTI gearbeitet.)

Yassif betont jedoch, dass noch viel Arbeit notwendig ist, um die prognostische Kraft von KI in der Biologie zu erhöhen.

KI kann nicht isoliert funktionieren – es sind weitere Investitionen in Strukturen erforderlich, die Veränderungen unterstützen. Dies ist nur ein Teil eines größeren Ökosystems biotechnologischer Innovationen. Forscher müssen weiterhin eine erhebliche Menge an Laborarbeit leisten, klinische Studien durchführen und neue therapeutische Mittel oder Impfstoffe bewerten. Es ist auch wichtig, den Zugang zu diesen medizinischen Lösungen für diejenigen zu gewährleisten, die sie am meisten benötigen, was aufgrund von Bürokratie und Finanzierungsproblemen eine schwierige Aufgabe ist.

Unredliche Personen können jetzt handeln und das Leben von Millionen schneller beeinflussen, als KI ihre Vorteile realisieren kann. Deshalb ist es wichtig, dass präventive Maßnahmen gegen den Missbrauch dieser Werkzeuge sofort umgesetzt werden und mit dem schnellen technologischen Fortschritt Schritt halten.

SaferAI bewertet die Risikomanagementpraktiken in Unternehmen, die sich mit Frontier AI beschäftigen, und stuft OpenAI an zweiter Stelle hinter Anthropic ein. Es gibt jedoch noch viel zu tun. “Es geht nicht nur darum, wer an der Spitze steht,” sagte Yassif. “Jeder sollte mehr tun.”

Wenn OpenAI und andere sich dem KI-Niveau nähern, das über dem menschlichen Niveau liegt, wird die Frage, wie man die Vorteile maximiert und die Risiken in der Biologie minimiert, zunehmend relevant. Größere Investitionen in Bioversicherungsschutz und biologische Sicherheit sind notwendig, da die Werkzeuge, die Leben verändern können, immer komplexer werden. Es ist wichtig, dass die KI, die zur Bekämpfung der Risiken von KI eingesetzt wird, ein erfolgreicher Schritt in diese Richtung ist.