Искусственный интеллект Grok создает тысячи дипфейков каждый день: что делает X.

Как сообщает Vox: Что происходит, когда токсичный мир соцсетей сочетается с неуклонным чат-ботом на базе искусственного интеллекта, готовым генерировать контент? Именно это мы наблюдаем на платформе X. Пользователи начали загружать изображения в чат-бот Grok, который способен генерировать мощные и в основном неконтролируемые изображения и видео, чтобы создавать откровенный контент, включая изображения обычных людей.

Ситуация с распространением порно, созданного с помощью глубоких фейков, достигла масштабов, когда Grok генерирует примерно одно нелегальное сексуальное изображение каждую минуту. За последние несколько недель тысячи пользователей подхватили ужасную тенденцию использовать Grok для 'раздевания' в основном женщин и детей — да, детей — без их разрешения, используя доступные методы.

В этом материале

1. Рост глубоких фейков
2. X превратил глубокие фейки в функцию
3. Будет ли X привлечён к ответственности за всё это?

Для ясности, вы не можете попросить Grok — или большинство коммерческих ИИ — генерировать обнаженные изображения. Но вы можете попросить Grok 'раздеть' изображение, которое уже опубликовано на X, или попросить его одеть его в маленький невидимый купальник. В США есть законы против такого злоупотребления, однако команда xAI почти не обращает внимания на эту ситуацию. Запросы нескольких журналистов на эту тему получили автоматический ответ: 'ЛУЧШЕ СТАРЕ МЕДИА'. Генеральный директор xAI Илон Маск, который недавно привлек 20 миллиардов долларов финансирования для компании, ещё недавно публиковал глубокие фейковые фотографии (с предупреждением о контенте) самого себя.

Хотя Маск 4 января предостерегал, что пользователи 'понесут наказание', если будут использовать Grok для создания 'незаконных изображений', xAI не проявила никаких признаков намерения устранить или изменить функции, которые позволяют генерировать такой контент, хотя некоторые из самых компрометирующих постов были удалены. xAI не ответила на запрос о комментарии от Vox.

Это не должно удивлять. Было лишь вопросом времени, когда токсичные последствия платформы, ранее известной как Twitter, встретятся с Grok от xAI, которая позиционирует себя своей 'взрослой' функциональностью, создавая новую форму сексуального насилия. Компания Маска фактически создала машину для генерации порнографии с глубокими фейками, что делает создание реалистичных и оскорбительных изображений кого-либо проще, чем написать ответ на X. Эти изображения становятся частью социальной сети с сотнями миллионов пользователей, что не только распространяет их, но и может непреднамеренно привлекать поставщиков новыми подписчиками и большим вниманием.

Может создать впечатление, как это может быть легально? Чтобы прояснить, это не так. Но правозащитники и юридические эксперты предупреждают, что нынешние законы недостаточны для защиты жертв, и огромное количество глубоких фейков, создаваемых на платформах, таких как X, усложняет реализацию существующих норм защиты.

Эта история впервые была представлена в информационном бюллетене Future Perfect.

Подпишитесь, чтобы изучать большие, сложные проблемы, с которыми сталкивается мир, и наиболее эффективные способы их решения. Выходит дважды в неделю.

“Запросы, которые разрешены или не разрешены” при использовании чат-бота, как Grok, “являются результатом осознанных и преднамеренных выборов технологических компаний, которые разворачивают модели,” говорит Сэнди Джонсон, старший советник по политике в Национальной сети против насилия и изнасилования.

“В любом другом контексте, когда кто-то закрывает глаза на вред, который они активно способствуют, их привлекают к ответственности,” добавила она. “Технологические компании не должны подпадать под никакой другой стандарт.”

Рост глубоких фейков

Сначала давайте рассмотрим, как мы попали в эту ситуацию.

“Злоумышленники используют технологии для сексуального насилия, это не новость,” говорит Джонсон. “Они делают это всегда.”

Однако ИИ зафиксировал новый вид сексуального насилия, в частности через рост глубоких фейков.

Порнография с глубокими фейками, созданная без согласия женщин, существовала в интернете уже много лет, еще до популяризации ChatGPT. Однако, недавно так называемые 'приложения для раздевания' сделали этот процесс чрезвычайно простым, позволяя пользователям — в том числе подросткам — превращать обычные фото друзей, одноклассников и учителей в глубокие фейки непристойного контента без согласия лиц.

Ситуация стала настолько серьезной, что в прошлом году активисты, такие как Джонсон, убедили Конгресс принять Закон 'Убрать это', который криминализирует нелегальную порнографию с глубокими фейками и требует, чтобы компании удаляли такие материалы с платформ в течение 48 часов после их пометки, иначе они могут столкнуться с штрафами и запретами. Эта норма вступит в силу в мае.

Для многих жертв, даже если такие компании, как X, начнут контролировать исполнение этого закона, может быть уже поздно для тех, кто ждал месяцами или днями, пока их посты будут удалены.

“Для этих технологических компаний это всегда было как ‘ломать вещи, а потом исправлять,’” говорит Джонсон. “Нужно помнить, что в случае появления хотя бы одного [глубокого фейка] это уже непоправимый вред.”

X превратил глубокие фейки в функцию

Большинство социальных сетей и основные платформы ИИ придерживаются новых государственных и федеральных норм в отношении порнографии с глубокими фейками, а особенно материалов сексуального насилия над детьми.

Не только потому, что такие материалы 'откровенно, радиоактивно незаконны', по словам Рианы Пфефферкорн, политического феллоу в Стэнфордском институте гуманно-центрованного искусственного интеллекта, 'но и потому, что это отвратительно, и большинство компаний не хочет иметь никакой ассоциации с этим.'

Но xAI Маска, похоже, является исключением.

С момента запуска функционала генерации видео 'острого режима' на X в прошлом году, наблюдатели бьют тревогу, поскольку этот инструмент стал основным для создания порнографии с глубокими фейками, говорит Пфефферкорн. Большинство 'приложений для раздевания' требуют от пользователей сначала загрузить фото, возможно, из Instagram или Facebook, а затем загрузить его на платформу. Если они хотят поделиться глубоким фейком, то нужно загрузить его из программы и отправить через другую платформу, такую как Snapchat.

Эти многочисленные этапы создания контента дают регуляторам возможность перехватывать нелегальные материалы. Возможно, им не удастся остановить всё, но они могут запретить некоторые 'приложения для раздевания' из магазинов приложений. Они также могут заставить Meta серьезнее относиться к рекламе этих программ среди подростков.

Но на X процесс создания нелегальных глубоких фейков с помощью Grok стал почти беспрепятственным, что позволяет пользователям получать изображения, запрашивать глубокие фейки и делиться ими в один шаг.

“Это имело бы меньше значения, если бы это была социальная сеть для монахинь, но это социальная сеть для нацистов,” сказала Пфефферкорн, касаясь смещения X вправо в последние годы. В результате возникает кризис нелегальных глубоких фейков, который, кажется, усугубляется.

В последние дни пользователи на X начали создавать 84 раза больше сексуализированных глубоких фейков за час, чем на других пяти ведущих сайтах глубоких фейков вместе взятых, по данным независимого исследователя Дженевиев О. А эти изображения могут распространяться значительно быстрее и шире, чем где-либо еще. “Эмоциональный и репутационный вред для лиц, изображённых, теперь экспоненциально растёт,” отметил Уэйн Унгер, доцент юридических наук, который специализируется на новых технологиях, “поскольку X имеет сотни миллионов пользователей, которые все могут увидеть это изображение.”

Было бы практически невозможно для X индивидуально модерировать каждое из этих нелегальных изображений или видео, даже если компания имела бы намерение это делать — или даже если бы она не уволила большинство своих модераторов после прихода Маска к управлению в 2022 году.

Будет ли X привлечена к ответственности за всё это?

Если подобный тип криминального изображения появится в журнале или онлайн-издании, то компании могли бы столкнуться с большими штрафами и возможными уголовными обвинениями.

Социальные медиа, такие как X, не подлежат таким же юридическим последствиям, поскольку Раздел 230 Закона о пристойности в связи с связью 1996 года защищает Интернет-платформы от ответственности за большинство действий пользователей — с некоторыми исключениями, включая детскую порнографию. Этот пункт стал основой для свободы слова в интернете — мир, где платформы не несут ответственности за всё, что происходит на них, был бы значительно более ограниченным. Но Джонсон считает, что этот пункт также стал 'финансовым щитом' для компаний, которые не хотят модерировать свои платформы.

Тем не менее, с ростом ИИ этот щит, возможно, начнет трещать, считает Унгер. Он считает, что компании, такие как xAI, не должны подпадать под Раздел 230, поскольку они больше не просто хостинги для ненавистного или незаконного контента, а через собственные чат-боты фактически являются их создателями.

“X приняла решение позволить Grok генерировать сексуально откровенные изображения взрослых и детей,” сказал он. “Пользователь мог стимулировать Grok к его созданию,” но компания “приняла осознанное решение выпустить продукт, который может его создавать с самого начала.”

Унгер не ожидает, что xAI — или отраслевые группы, такие как NetChoice — согласуются легко с тем, что любая попытка законодательного регулирования контента или ограничения злоупотребляемых инструментов, таких как Grok. “Возможно, они согласятся на незначительную часть этого,” поскольку законы, регулирующие [детскую порнографию], достаточно строги, сказал он, но “по крайней мере они будут утверждать, что Grok должен иметь возможность выполнять это для взрослых.”

В любом случае общественное возмущение в ответ на контент с глубокими фейками может, наконец, привести к решению вопроса, который оставался в тени длительное время. Во многих странах, таких как Индия, Франция и Малайзия, начались расследования по поводу сексуализированного контента на X. Маск действительно опубликовал на X, что те, кто создаёт незаконный контент, понесут наказание, но этот вопрос шире, чем просто действия отдельных пользователей.

“Это не компьютер это делает,” говорит Джонсон. “Это сознательные решения, принимаемые людьми, которые управляют этими компаниями, и они должны нести ответственность.”