Калифорния регулирует риски ИИ: что предполагает новый законопроект.

Как сообщает Vox: Когда речь идет об искусственном интеллекте, Калифорния выступает в роли законодательного лидера для мира. Это крупнейший штат США по населению и важный центр инноваций в сфере ИИ, где расположено 32 из 50 ведущих компаний в этой области. Его масштабы и влияние позволили Калифорнии определять правила игры для других штатов в вопросах экологии, трудовых прав и потребительского защиты, а недавно — и в сфере искусственного интеллекта. После неудачной попытки принять федеральный мораторий на регулирование ИИ на уровне штатов в июле, законодатели Калифорнии видят ограниченное окно возможностей для разработки правил, которые могут повлиять на всю страну.

На этой неделе Государственная Ассамблея Калифорнии планирует проголосовать за законопроект SB 53, который потребует от разработчиков мощных 'фронтальных' ИИ-моделей прозрачности в своей деятельности. В эту категорию попадают системы генерации, такие как ChatGPT от OpenAI, Gemini от Google, Grok от xAI и Claude от Anthropic, которые требуют больших объемов данных и вычислительных мощностей. Законопроект, который уже прошел Сенат, должен быть утвержден Государственной Ассамблеей перед направлением к губернатору для подписи или вето.

Искусственный интеллект может принести значительные преимущества, но, как подчеркивается в законопроекте, он также несет риски. Среди ряда угроз, таких как потеря рабочих мест и предвзятость, SB 53 сосредотачивает внимание на возможных 'катастрофических рисках' от ИИ. Это могут быть, например, атаки с использованием биологического оружия, где ИИ станет инструментом, или кибератаки, способные серьезно повредить критической инфраструктуре. Такие риски, угрожающие человеческой цивилизации на местном, национальном и глобальном уровнях, вызывают беспокойство.

В настоящее время продолжается обсуждение, что считается катастрофическим риском, но SB 53 определяет его как 'предсказуемый и материальный риск' события, которое приводит к более чем 50 жертвам или наносит убытки на более чем 1 миллиард долларов, при условии, что фронтальная модель играет значительную роль. Каким образом будет определяться вина на практике — это уже вопрос для судов. Идентификация катастрофического риска в законодательстве — задача непростая, но может помочь предотвратить как близкие, так и отдаленные последствия.

Объяснение SB 53

Законопроект SB 53 является третьим на уровне штата, целью которого является регулирование катастрофических рисков ИИ. Ранее существовал Калифорнийский SB 1047, который был отклонен губернатором, и Нью-Йоркский закон RAISE, который в настоящее время ждет утверждения губернатором Кэти Хочул.

Представленный сенатором Скоттом Вайнером в феврале, SB 53 требует от компаний, занимающихся фронтальным ИИ, разработать системы безопасности, которые четко описывают методы уменьшения катастрофических рисков. Перед внедрением своих моделей компании обязаны публиковать отчеты о безопасности и защите. Непосредственно в момент критических инцидентов безопасности компании будут иметь 15 дней для уведомления Офиса чрезвычайных ситуаций Калифорнии. Законопроект также предусматривает защиту свидетелей, ин формирующих о небезопасных моделях, которые могут вызвать катастрофические риски. SB 53 призван привлечь компании к публичной ответственности за их обязательства по безопасности ИИ, с возможными финансовыми штрафами до 1 миллиона долларов за нарушения.

По различным аспектам, SB 53 является преемником SB 1047, также представленного Вайнером. Оба охватывают модели, которые создавались с использованием 10^26 FLOPS — этой значительной вычислительной мощности как порогового показателя для рисков.

“Наука о том, как сделать ИИ безопасным, быстро развивается, и в настоящее время трудно для законодателей писать четкие технические правила для того, как компании должны управлять безопасностью,” — отметил Томас Вудсайд, соучредитель Secure AI Project, группы адвокации, работающей над уменьшением экстремальных рисков от ИИ, в электронном письме.

Логика SB 53 заключается в том, чтобы адаптировать структуру в соответствии с прогрессом в сфере ИИ. Законопроект дает генеральному прокурору Калифорнии возможность менять определение крупного разработчика после 1 января 2027 года с учетом изменений в сфере ИИ. Сторонники законопроекта надеются на его позитивное завершение, если он будет принят законодательным органом. В тот день, когда губернатор Гэвин Ньюсом наложил вето на SB 1047, он создал рабочую группу, сосредоточенную исключительно на фронтальных моделях.

“Я бы сказал, с приблизительной уверенностью в 75 процентов, что SB 53 будет подписан в закон к концу сентября,” — отметил Дин Болл, бывший советник по политике ИИ в Белом доме.

Однако некоторые отраслевые организации выразили оппозицию, считая, что дополнительные требования будут обременительными из-за уже существующих обязательств компаний по безопасности от катастрофических ущербов. OpenAI лоббирует против этого, а группа Chamber of Progress утверждает, что законопроект создаст избыточные бюрократические препятствия, которые будут сдерживать инновации.

“Эти затраты на соблюдение норм — это лишь начало,” — прокомментировал Нил Чильсон, руководитель политики ИИ в Институте Благосостояния.

Напротив, компания Anthropic с яркой поддержкой относится к законопроекту в его нынешнем виде.

“Вопрос не в том, нужен ли нам контроль ИИ, а в том, будем ли мы развивать его продуманно сегодня или реактивно завтра,” — объяснила компания в блоге.

Дебаты вокруг SB 53 отражают более широкие дискуссии о том, должны ли штаты или федеральное правительство регулировать безопасность ИИ. Поскольку большинство компаний базируется в Калифорнии, законодательство штата имеет важное значение для всей страны.

“Федеральный подход к прозрачности гораздо лучше, чем альтернатива с множеством штатов,” — отметил Матвей Миттельштадт, сотрудник Института Като.

Вопрос о том, возможен ли вообще единый федеральный подход, остается открытым.

Разрыв в катастрофических рисках

Фокус закона на катастрофических рисках вызывает определенные противоречия. Само понятие катастрофических рисков возникает из философских размышлений и количественного анализа. Они касаются экзистенциальных угроз, которые могут поставить под угрозу выживание человечества или существенно снизить наш потенциал.

Однако, что именно подпадает под определение катастрофического риска, может зависеть от взгляда. Дискуссии о рисках, связанных с искусственным интеллектом, важны для понимания путей предотвращения таких рисков. Без согласования терминов мы не сможем вести действительно конструктивную дискуссию о рисках.