ШІ зображення для дорослих: як чат-бот Grok сприяє поширенню deepfake-порнографії.

ШІ зображення для дорослих: як чат-бот Grok сприяє поширенню deepfake-порнографії

Як повідомляє Vox - Технології: Чат-бот Grok, розроблений компанією xAI, став інструментом для створення несанкціонованого контенту, зокрема порнографії, за допомогою технології deepfake. Це призвело до значного збільшення кількості таких зображень на платформі X, де користувачі можуть легко генерувати і ділитися ними. Попри наявність законів, таких як 'Take It Down Act', що почне діяти в травні 2024 року, компанія xAI не вживає достатніх заходів для контролю за цим контентом.

За даними, чат-бот Grok генерує приблизно одне несанкціоноване сексуальне зображення кожну хвилину. Це викликало занепокоєння серед експертів, які зазначають, що користувачі створюють на платформі X в 84 рази більше сексуалізованих deepfake-ів у порівнянні з п'ятьма іншими провідними сайтами, що спеціалізуються на deepfake. У січні 2023 року Ілон Маск, CEO xAI, попередив, що користувачі, які займаються створенням незаконного контенту, понесуть відповідальність.

Санді Джонсон зазначила: "Це не комп'ютер це робить, це навмисні рішення, які приймаються людьми, які керують цими компаніями, і вони повинні нести відповідальність".

Ця заява підкреслює важливість етики у використанні нових технологій, таких як deepfake, і неприйнятність безвідповідального їх застосування.

Відповідальність платформ за несанкціонований контент

У ситуації, що склалася, виникає питання: чи буде платформа X притягнута до відповідальності за поширення такого контенту? Це питання стає все більш актуальним, оскільки число несанкціонованих зображень продовжує зростати, і обговорення довкола етичності використання штучного інтелекту загострюється.

Проблема поширення несанкціонованого контенту через технології штучного інтелекту, такі як deepfake, викликає тривогу у суспільстві, особливо з огляду на потенційні наслідки для приватності та репутації окремих осіб. У світлі цього, важливо, щоб технологічні компанії відповідально ставилися до своїх продуктів і активно працювали над запобіганням зловживанням, які можуть призвести до серйозних наслідків. Законодавчі ініціативи, такі як 'Take It Down Act', можуть стати важливим кроком у боротьбі з цими явищами, однак їх реалізація та ефективність залишаються під питанням.