Каліфорнія регулює ризики ШІ: що передбачає новий законопроект.

Як повідомляє Vox: Коли мова йде про штучний інтелект, Каліфорнія виступає в ролі законодавчого лідера для світу. Це найбільший штат США за населенням і важливий центр інновацій у сфері AI, де розташовано 32 з 50 провідних компаній у цій галузі. Його масштаби та вплив дозволили Каліфорнії визначати правила гри для інших штатів у питаннях екології, трудових прав та споживчого захисту, а нещодавно — і в сфері штучного інтелекту. Після невдалого спроби ухвалити federal мораторій на регулювання AI на рівні штатів у липні, законодавці Каліфорнії вбачають обмежене вікно можливостей для розробки правил, які можуть вплинути на всю країну.

Цього тижня Державна Асамблея Каліфорнії планує проголосувати за законопроєкт SB 53, що вимагатиме від розробників потужних "фронтальних" AI-моделей прозорості у своїй діяльності. До цієї категорії потрапляють системи генерації, такі як ChatGPT від OpenAI, Gemini від Google, Grok від xAI та Claude від Anthropic, які потребують великих обсягів даних і обчислювальних потужностей. Законопроєкт, який вже пройшов Сенат, має бути затверджений Державною Асамблеєю перед направленням до губернатора для підпису або вето.

Штучний інтелект може принести чималі переваги, але, як наголошується в законопроєкті, він також несе ризики. Серед низки загроз, таких як втрата робочих місць та упередженість, SB 53 зосереджує увагу на можливих "катастрофічних ризиках" від AI. Це можуть бути, наприклад, атаки з використанням біологічної зброї, де AI стане інструментом, або кібератаки, здатні серйозно зашкодити критичній інфраструктурі. Такі ризики, що загрожують людській цивілізації на місцевому, національному та глобальному рівнях, викликають занепокоєння.

Наразі триває обговорення, що вважається катастрофічним ризиком, але SB 53 визначає його як "передбачуваний і матеріальний ризик" події, що призводить до більше ніж 50 жертв або завдає збитків на понад 1 мільярд доларів, за умови, що фронтальна модель відіграє значну роль. Яким чином визначатиметься провина у практиці — це вже питання для судів. Ідентифікація катастрофічного ризику в законодавстві — задача непроста, але може допомогти запобігти як близьким, так і віддаленим наслідкам.

Пояснення SB 53

Законопроєкт SB 53 є третім на рівні штату, метою якого є регулювання катастрофічних ризиків AI. Раніше існували Каліфорнійський SB 1047, який був відхилений губернатором, і Нью-Йоркський закон RAISE, що наразі чекає на затвердження губернатора Кеті Хочул.

Представлений сенатором Скоттом Вайнером у лютому, SB 53 вимагає від компаній, що займаються фронтальним AI, розробити системи безпеки, які чітко описують методи зменшення катастрофічних ризиків. Перед впровадженням своїх моделей компанії зобов'язані публікувати звіти про безпеку та захист. Безпосередньо на момент критичних інцидентів безпеки, компанії матимуть 15 днів для повідомлення Офісу надзвичайних ситуацій Каліфорнії. Законопроєкт також передбачає захист свідків, які інформують про небезпечні моделі, що можуть спричинити катастрофічні ризики. SB 53 покликаний притягнути компанії до публічної відповідальності за їх зобов'язання щодо безпеки AI, з можливими фінансовими штрафами до $1 мільйона за порушення.

За різними аспектами, SB 53 є спадкоємцем SB 1047, також представленого Вайнером. Обидва охоплюють моделі, які створювалися з використанням 10^26 FLOPS — цієї значної обчислювальної потужності як порогового показника для ризиків.

“Наука про те, як зробити AI безпечним, швидко розвивається, і наразі важко для законодавців писати чіткі технічні правила для того, як компанії повинні управляти безпекою,” — зазначив Томас Вудсайд, співзасновник Secure AI Project, групи адвокації, що працює над зменшенням екстремальних ризиків від AI, в електронному листі.

Логіка SB 53 полягає в тому, щоб адаптувати структуру відповідно до прогресу у сфері AI. Законопроєкт дає генеральному прокуророві Каліфорнії можливість змінювати визначення великого розробника після 1 січня 2027 року з огляду на зміни у сфері AI. Підтримувачі законопроєкту сподіваються на його позитивне завершення, якщо він буде ухвалений законодавчим органом. У той день, коли губернатор Гевін Ньюсом ветував SB 1047, він створив робочу групу, що зосереджується виключно на фронтальних моделях.

“Я б сказав, з приблизною впевненістю в 75 відсотків, що SB 53 буде підписаний в закон до кінця вересня,” — зазначив Дін Болл, колишній радник з політики AI в Білому домі.

Однак деякі галузеві організації висловили опозицію, вважаючи, що додаткові вимоги будуть накладними через вже існуючі зобов'язання компаній до безпеки від катастрофічних шкод. OpenAI лобіює проти цього, а група Chamber of Progress стверджує, що законопроєкт створить зайві бюрократичні перешкоди, які стримуватимуть інновації.

“Ці витрати на дотримання норм — це лише початок,” — прокоментував Ніл Чільсон, керівник політики AI в Інституті Багатства.

На противагу їм, компанія Anthropic з яскравою підтримкою ставиться до законопроєкту в його нинішньому вигляді.

“Питання не в тому, чи потрібен нам контроль AI, а в тому, чи розвиватимемо ми його продумано сьогодні або реактивно завтра,” — пояснила компанія в блозі.

Дебати навколо SB 53 відображають ширші дискусії щодо того, чи мають штати або федеральний уряд регулювати безпеку AI. Оскільки більшість компаній базуються в Каліфорнії, законодавство штату має важливе значення для всієї країни.

“Федеральний підхід до прозорості є набагато кращим, ніж альтернатива з безліччю штатів,” — зазначив Матвій Міттелштадт, співробітник Інституту Като.

Питання про те, чи можливий взагалі єдиний федеральний підхід, залишається відкритим.

Розрив у катастрофічних ризиках

Фокус закону на катастрофічних ризиках викликає певні суперечності. Саме поняття катастрофічних ризиків виникає з філософських роздумів та кількісного аналізу. Вони стосуються екзистенційних загроз, які можуть поставити під загрозу виживання людства або суттєво знизити наш потенціал.

Однак, що саме підпадає під визначення катастрофічного ризику, може залежати від погляду. Дискусії про ризики, пов’язані зі штучним інтелектом, важливі для розуміння шляхів запобігання таким ризикам. Без узгодження термінів ми не зможемо вести дійсно конструктивну дискусію про ризики.