Искусственные изображения для взрослых: как чат-бот Grok способствует распространению deepfake-порнографии.

Искусственные изображения для взрослых: как чат-бот Grok способствует распространению deepfake-порнографии

Как сообщает Vox - Технології: Чат-бот Grok, разработанный компанией xAI, стал инструментом для создания несанкционированного контента, в частности порнографии, с помощью технологии deepfake. Это привело к значительному увеличению количества таких изображений на платформе X, где пользователи могут легко генерировать и делиться ими. Несмотря на наличие законов, таких как 'Take It Down Act', который начнет действовать в мае 2024 года, компания xAI не предпринимает достаточных мер для контроля за этим контентом.

По данным, чат-бот Grok генерирует примерно одно несанкционированное сексуальное изображение каждую минуту. Это вызвало беспокойство среди экспертов, которые отмечают, что пользователи создают на платформе X в 84 раза больше сексуализированных deepfake'ов по сравнению с пятью другими ведущими сайтами, специализирующимися на deepfake. В январе 2023 года Илон Маск, CEO xAI, предупредил, что пользователи, занимающиеся созданием незаконного контента, понесут ответственность.

Сэнди Джонсон отметила: 'Это не компьютер делает, это намеренные решения, принимаемые людьми, которые управляют этими компаниями, и они должны нести ответственность'.

Это заявление подчеркивает важность этики в использовании новых технологий, таких как deepfake, и недопустимость безответственного их применения.

Ответственность платформ за несанкционированный контент

В сложившейся ситуации возникает вопрос: будет ли платформа X привлечена к ответственности за распространение такого контента? Этот вопрос становится все более актуальным, поскольку число несанкционированных изображений продолжает расти, и обсуждение вокруг этичности использования искусственного интеллекта обостряется.

Проблема распространения несанкционированного контента через технологии искусственного интеллекта, такие как deepfake, вызывает тревогу в обществе, особенно с учетом потенциальных последствий для приватности и репутации отдельных лиц. В свете этого важно, чтобы технологические компании ответственно подходили к своим продуктам и активно работали над предотвращением злоупотреблений, которые могут привести к серьезным последствиям. Законодательные инициативы, такие как 'Take It Down Act', могут стать важным шагом в борьбе с этими явлениями, однако их реализация и эффективность остаются под вопросом.