OpenAI inwestuje miliardy w bioochronę: jak sztuczna inteligencja będzie walczyć z wirusami.

Jak informuje Vox: Ważne wiadomości dotyczące rozwoju sztucznej inteligencji ogólnej (AGI), która ma ludzki poziom inteligencji we wszystkich aspektach. OpenAI, która ma na celu "zapewnienie, aby AGI przynosiło korzyści całej ludzkości", zakończyła swój długo oczekiwany plan korporacyjny. Może to znacząco zmienić nasze podejście do ryzyk związanych ze sztuczną inteligencją, w tym do zagrożeń biologicznych.

Zmienione struktury OpenAI

Przypomnijmy, że OpenAI została założona jako organizacja non-profit w 2015 roku, a w 2019 roku utworzyła dochodowy oddział. Część non-profit nazywa się teraz OpenAI Foundation, a dochodowy oddział stał się publiczną korporacją z misją charytatywną, znaną jako OpenAI Group. Foundation kontroluje OpenAI Group i posiada 26% akcji, które są wyceniane na około 130 miliardów dolarów w momencie zakończenia recapitalizacji.

"Wierzymy, że najpotężniejsze technologie na świecie muszą rozwijać się w duchu odzwierciedlającym zbiorowe interesy społeczeństwa," napisał OpenAI w swoim blogu.

Jedną z pierwszych inicjatyw OpenAI, poza dużymi umowami z Microsoft, było zainwestowanie 25 miliardów dolarów w przyspieszenie badań medycznych i opracowanie "praktycznych rozwiązań technicznych w celu zapewnienia odporności sztucznej inteligencji, która polega na maksymalizacji jej korzyści i minimalizacji ryzyk."

Ryzyka i możliwości

Maksymalizacja korzyści i minimalizacja ryzyk to kluczowe zagadnienia przy opracowywaniu potężnej sztucznej inteligencji. Wykorzystanie sztucznej inteligencji w biologii i medycynie może poprawić diagnozowanie chorób, szybkość reakcji oraz przyczynić się do odkrycia nowych metod leczenia i szczepionek. Jednak wielu ekspertów obawia się, że jednym z największych ryzyk jest potencjał do stworzenia niebezpiecznych czynników biologicznych, co obniża barierę dla opracowania śmiertelnych ataków biologicznych.

OpenAI zdaje sobie sprawę, że jej narzędzia mogą zostać nadużyte do produkcji broni biologicznej.

Firma Frontier AI już wprowadziła środki ostrożności dla swojego ChatGPT Agent, ale jesteśmy dopiero na początku drogi rozwoju sztucznej inteligencji w biologii. Dlatego wiadomość, że fundusz inwestycyjny OpenAI wraz z Lux Capital i Founders Fund przeznaczył 30 milionów dolarów na wczesne finansowanie startupu zajmującego się bezpieczeństwem biologicznym Valthos, ma takie samo znaczenie, jak i reorganizacja korporacyjna.

Valthos planuje szybko stworzyć "technologiczny stos" dla bioochrony. "Jak sztuczna inteligencja się rozwija, życie stało się programowalne," stwierdziła firma na swoim blogu po wyjściu z trybu "prywatnego" w piątek. "Świat zbliża się do powszechnego dostępu do potężnych, podwójnych technologii biologicznych zdolnych do eliminowania chorób lub ich tworzenia."

Sztuczna inteligencja przeciwko ryzykom

Czy powinniśmy w ogóle zatrzymać te narzędzia, biorąc pod uwagę ich potencjalnie destrukcyjny wpływ? W obliczu nowego postępu oraz inwestycji w sztuczną inteligencję wydaje się to nierealistyczne. Kluczowe pozostaje pytanie: czy sztuczna inteligencja, którą rozwijamy, będzie w stanie zmniejszyć ryzyka, które sama stwarza? To pytanie staje się coraz bardziej aktualne, ponieważ OpenAI i inni zbliżają się do AGI.

Czy sztuczna inteligencja może chronić nas przed ryzykami związanymi z AI?

Valthos wyobraża sobie przyszłość, w której każdy biologiczny zagrożenie dla ludzkości może być natychmiast wykryte i zneutralizowane, niezależnie od źródła. "Tworzymy systemy sztucznej inteligencji do szybkiego opisywania sekwencji biologicznych i aktualizacji leków w czasie rzeczywistym," stwierdzili w firmie.

To pozwoli na szybszą reakcję na wybuchy chorób, potencjalnie zapobiegając ich przekształceniu w pandemie. Będziemy mogli dostosować terapie i opracowywać nowe leki w rekordowo krótkim czasie, co pomoże wielu osobom z poważnymi schorzeniami.

Jednak nie zakończyliśmy jeszcze drogi do AGI, a nawet bez tego stajemy przed poważnymi ryzykami związanymi z AI w biologii, w tym dzięki zamiarom stworzenia nowych patogenów, bardziej niebezpiecznych niż wszystko znane w naturze. Działania Valthos to krok w dobrym kierunku, ale firmy zajmujące się AI muszą wykazać konkretne rezultaty.

"Jestem bardzo optymistyczny co do potencjału i korzyści, jakie społeczeństwo może uzyskać z AI w biologii," powiedział Jaime Yassif, wiceprezydent ds. globalnej polityki biologicznej i programów w Nuclear Threat Initiative. "Jednak ważne jest, aby opracowywać i wdrażać te narzędzia odpowiedzialnie."

(Uwaga: wcześniej pracowałem w NTI.)

Ale Yassif podkreśla, że pozostało wiele pracy, aby zwiększyć prognozy AI w biologii.

Sztuczna inteligencja nie może funkcjonować w izolacji — ważne są dalsze inwestycje w struktury, które umożliwiają zmiany. To tylko część większego ekosystemu innowacji biotechnologicznych. Naukowcy wciąż muszą wykonać znaczne ilości pracy w laboratoriach, przeprowadzać badania kliniczne i oceniać nowe terapie lub szczepionki. Ważne jest również zapewnienie dostępu do tych rozwiązań medycznych osobom, które tego najbardziej potrzebują, co jest trudnym zadaniem z powodu biurokracji i problemów z finansowaniem.

Niewłaściwe osoby mogą działać już teraz i wpłynąć na życie milionów szybciej, niż sztuczna inteligencja będzie mogła zrealizować swoje korzyści. Dlatego tak ważne jest, aby zabezpieczenia przeciwko nadużyciom tych narzędzi były natychmiast wprowadzone i dotrzymywały kroku szybkiemu postępowi technologicznemu.

SaferAI, oceniając praktyki zarządzania ryzykiem w firmach zajmujących się sztuczną inteligencją, klasyfikuje OpenAI na drugim miejscu po Anthropic. Jednak pracy jest jeszcze wiele. "Nie chodzi tylko o to, kto jest na szczycie," stwierdził Yassif. "Każdy powinien robić więcej."

W miarę zbliżania się OpenAI i innych do sztucznej inteligencji, która przewyższa ludzki poziom, pytanie, jak maksymalizować korzyści i minimalizować ryzyka w biologii, staje się coraz bardziej aktualne. Potrzebne są większe inwestycje w bioochronę i bezpieczeństwo biologiczne, ponieważ narzędzia, które mogą zmienić życie, stają się coraz bardziej złożone. Ważne, aby AI, używane do walki z ryzykami związanymi z AI, było udanym krokiem w tym kierunku.