Anthropic создала «этическую конституцию» для ИИ Claude: философский подход к воспитанию.

Этический кодекс для искусственного интеллекта

Как сообщает Vox - Технології: Разработка моральных принципов для систем ИИ, подобных Claude, помогает избежать потенциальных негативных последствий и формирует доверие пользователей. В условиях растущей зависимости от технологий искусственного интеллекта подобные инициативы могут заложить основу для будущих отраслевых стандартов. Обновление так называемого «документа души» для чат-бота Claude отражает возрастающее внимание к этическим аспектам в создании ИИ, что становится ключевым моментом во взаимодействии технологий и общества.

Обновление внутренних принципов Claude

Философ Аманда Аскелл, сотрудница компании Anthropic, представила обновлённую версию «документа души», определяющего характер и этические принципы чат-бота Claude. Этот 80-страничный документ призван воспитать ИИ как «доброе существо», используя подходы из этики добродетели. Аскелл, имеющая степень PhD по философии Нью-Йоркского университета (NYU), стремится сделать Claude воплощением лучших человеческих качеств.

Claude уже пользуется миллионами пользователей, и Аскелл подчеркивает, что их цель — «представить лучшее, что есть в человечестве». Она выразила гордость за достижения Claude, отметив:

'Я очень горжусь Claude' — Аманда Аскелл

Подобные проекты ведущих технологических компаний вызывают активное обсуждение в русскоязычном профессиональном сообществе, задавая новые векторы развития ответственного ИИ.