Kalifornia reguluje ryzyko AI: co przewiduje nowa ustawa.

Jak informuje Vox: Gdy mowa o sztucznej inteligencji, Kalifornia odgrywa rolę lidera legislacyjnego na świecie. To największy stan USA pod względem liczby ludności i ważne centrum innowacji w dziedzinie AI, w którym znajduje się 32 z 50 wiodących firm w tej branży. Jego rozmiary i wpływ pozwoliły Kalifornii wyznaczać zasady dla innych stanów w kwestiach ekologii, praw pracowniczych i ochrony konsumentów, a niedawno także w dziedzinie sztucznej inteligencji. Po nieudanej próbie przyjęcia federalnego moratorium na regulację AI na poziomie stanowym w lipcu, kalifornijscy ustawodawcy dostrzegają ograniczone okno możliwości do opracowania zasad, które mogą wpłynąć na cały kraj.

W tym tygodniu Zgromadzenie Państwowe Kalifornii planuje głosować nad projektem ustawy SB 53, który będzie wymagał od deweloperów potężnych 'frontowych' modeli AI przejrzystości w ich działalności. Do tej kategorii należą systemy generacyjne, takie jak ChatGPT od OpenAI, Gemini od Google, Grok od xAI i Claude od Anthropic, które wymagają dużych ilości danych i mocy obliczeniowych. Projekt ustawy, który już przeszedł przez Senat, musi zostać zatwierdzony przez Zgromadzenie Państwowe przed przekazaniem do gubernatora do podpisu lub zawetowania.

Sztuczna inteligencja może przynieść znaczne korzyści, ale, jak podkreślono w projekcie ustawy, niesie także ryzyka. Wśród szeregu zagrożeń, takich jak utrata miejsc pracy i stronniczość, SB 53 koncentruje się na możliwych 'katastrofalnych ryzykach' związanych z AI. Mogą to być na przykład ataki z użyciem broni biologicznej, gdzie AI stanie się narzędziem, lub cyberataki, które mogą poważnie zaszkodzić krytycznej infrastrukturze. Takie ryzyka, które zagrażają ludzkiej cywilizacji na poziomie lokalnym, krajowym i globalnym, budzą niepokój.

Obecnie trwa dyskusja na temat tego, co uznaje się za katastrofalne ryzyko, ale SB 53 definiuje je jako 'przewidywalne i materialne ryzyko' zdarzenia, które prowadzi do ponad 50 ofiar lub powoduje straty przekraczające 1 miliard dolarów, pod warunkiem, że frontowy model odgrywa znaczącą rolę. Jak będzie określana wina w praktyce — to już pytanie dla sądów. Identyfikacja katastrofalnego ryzyka w prawie jest zadaniem skomplikowanym, ale może pomóc w zapobieganiu zarówno bliskim, jak i odległym konsekwencjom.

Wyjaśnienie SB 53

Projekt ustawy SB 53 jest trzecim na poziomie stanowym, którego celem jest regulacja katastrofalnych ryzyk AI. Wcześniej istniał kalifornijski SB 1047, który został odrzucony przez gubernatora, oraz nowojorska ustawa RAISE, która obecnie czeka na zatwierdzenie przez gubernatora Kathy Hochul.

Przedstawiony przez senatora Scotta Weinera w lutym, SB 53 wymaga od firm zajmujących się frontowym AI opracowania systemów bezpieczeństwa, które jednoznacznie opisują metody redukcji katastrofalnych ryzyk. Przed wdrożeniem swoich modeli firmy zobowiązane są do publikowania raportów dotyczących bezpieczeństwa i ochrony. W przypadku krytycznych incydentów bezpieczeństwa, firmy będą miały 15 dni na poinformowanie Biura Sytuacji Kryzysowych Kalifornii. Projekt ustawy przewiduje także ochronę świadków, którzy informują o niebezpiecznych modelach mogących powodować katastrofalne ryzyka. SB 53 ma na celu pociągnięcie firmy do publicznej odpowiedzialności za ich zobowiązania dotyczące bezpieczeństwa AI, z potencjalnymi finansowymi karami do 1 miliona dolarów za naruszenia.

Pod różnymi względami, SB 53 jest spadkobiercą SB 1047, również przedstawionego przez Weinera. Oba obejmują modele, które były tworzone z wykorzystaniem 10^26 FLOPS — tej znacznej mocy obliczeniowej jako progiem ryzyk.

“Nauka o tym, jak uczynić AI bezpiecznym, rozwija się szybko, a obecnie trudno jest ustawodawcom pisać jasne techniczne zasady dotyczące tego, jak firmy powinny zarządzać bezpieczeństwem,” — poczynił uwagę Thomas Woodside, współzałożyciel Secure AI Project, grupy zajmującej się zmniejszaniem ekstremalnych ryzyk związanych z AI, w wiadomości e-mail.

Logika SB 53 polega na dostosowaniu struktury do postępu w dziedzinie AI. Projekt ustawy daje prokuratorowi generalnemu Kalifornii możliwość zmiany definicji dużego dewelopera po 1 stycznia 2027 roku, w miarę zmian w dziedzinie AI. Zwolennicy projektu ustawy mają nadzieję na jego pozytywne zakończenie, jeśli zostanie przyjęty przez organ ustawodawczy. W dniu, w którym gubernator Gavin Newsom zawetował SB 1047, stworzył grupę roboczą, która koncentruje się wyłącznie na frontowych modelach.

“Powiedziałbym z przybliżoną pewnością wynoszącą 75 procent, że SB 53 zostanie podpisany w prawo do końca września,” — powiedział Dean Ball, były doradca ds. polityki AI w Białym Domu.

Jednak niektóre organizacje branżowe wyraziły sprzeciw, twierdząc, że dodatkowe wymagania będą uciążliwe ze względu na już istniejące zobowiązania firm w zakresie bezpieczeństwa przed katastrofalnymi szkodami. OpenAI lobbuje przeciwko temu, a grupa Chamber of Progress twierdzi, że projekt ustawy stworzy niepotrzebne biurokratyczne przeszkody, które będą hamować innowacje.

“Te koszty związane z przestrzeganiem przepisów to tylko początek,” — skomentował Neil Chilson, kierownik polityki AI w Instytucie Bogactwa.

W przeciwieństwie do nich, firma Anthropic z entuzjazmem wspiera projekt ustawy w jego obecnej formie.

“Pytanie nie brzmi, czy potrzebujemy regulacji AI, ale czy będziemy ją rozwijać w sposób przemyślany dzisiaj czy reaktywnie jutro,” — wyjaśniła firma na swoim blogu.

Dyskusje wokół SB 53 odzwierciedlają szersze dyskusje na temat tego, czy stany czy rząd federalny powinien regulować bezpieczeństwo AI. Ponieważ większość firm ma siedzibę w Kalifornii, legislacja stanu ma znaczenie dla całego kraju.

“Federalne podejście do przejrzystości jest znacznie lepsze niż alternatywa z wieloma stanami,” — powiedział Matviej Mittelsztadt, pracownik Instytutu Cato.

Pytanie, czy w ogóle możliwe jest jednolite federalne podejście, pozostaje otwarte.

Przerwa w katastrofalnych ryzykach

Skupienie się ustawy na katastrofalnych ryzykach budzi pewne kontrowersje. Sam koncept katastrofalnych ryzyk pojawia się z refleksji filozoficznych i analizy ilościowej. Odnoszą się one do egzystencjalnych zagrożeń, które mogą zagrażać przetrwaniu ludzkości lub znacząco zmniejszyć nasz potencjał.

Jednak to, co dokładnie podlega definicji katastrofalnego ryzyka, może zależeć od perspektywy. Dyskusje na temat ryzyk związanych ze sztuczną inteligencją są ważne dla zrozumienia sposobów zapobiegania takim ryzykom. Bez uzgodnienia terminów nie będziemy w stanie prowadzić naprawdę konstruktywnej dyskusji na temat ryzyk.