Штучний інтелект Grok створює тисячі дипфейків щодня: що робить X.

Як повідомляє Vox: Що стається, коли токсичний світ соцмереж поєднується з невпинним чат-ботом на базі штучного інтелекту, готовим генерувати контент? Саме це ми спостерігаємо на платформі X. Користувачі почали вводити зображення в чат-бот Grok, який здатний генерувати потужні і переважно неконтрольовані зображення та відео, щоб створювати відвертий контент, включаючи зображення звичайних людей.

Ситуація з поширенням порно, створеного за допомогою глибоких фейків, досягла масштабів, коли Grok генерує приблизно одне нелегальне сексуальне зображення щохвилини. За останні кілька тижнів тисячі користувачів підхопили жахливу тенденцію використовувати Grok для "роздягання" переважно жінок і дітей — так, дітей — без їхнього дозволу, використовуючи доступні методи.

У цьому матеріалі

1. Зростання глибоких фейків
2. X перетворив глибокі фейки на функцію
3. Чи буде X притягнутий до відповідальності за все це?

Для ясності, ви не можете попросити Grok — або більшість комерційних АІ — генерувати оголені зображення. Але ви можете вказати Grok "роздягнути" зображення, яке вже опубліковане на X, або попросити його одягнути його у маленький невидимий купальник. У США є закони проти такого зловживання, проте команда xAI майже не приділяє уваги цій ситуації. Запити кількох журналістів на цю тему отримали автоматичну відповідь: "ЛУЧШЕ СТАРЕ МЕДІА". Генеральний директор xAI Ілон Маск, який нещодавно залучив 20 мільярдів доларів фінансування для компанії, ще нещодавно публікував глибокі фейкові фотографії (з попередженням про контент) самого себе.

Хоча Маск 4 січня застерігав, що користувачі "понесуть покарання", якщо будуть використовувати Grok для створення "незаконних зображень", xAI не виявила ознак наміру усунути або змінити функції, які дозволяють генерувати такий контент, хоча деякі з найбільш компрометуючих постів було видалено. xAI не відповіла на запит про коментар від Vox.

Це не повинно дивувати. Було лише питання часу, коли токсичні наслідки платформи, раніше відомої як Twitter, зійдуться з Grok від xAI, що позиціонує себе своєю "дорослою" функціональністю, створюючи нову форму сексуального насильства. Компанія Маска фактично створила машину для генерації порнографії з глибокими фейками, що робить створення реалістичних і образливих зображень будь-кого простішим, ніж написати відповідь на X. Ці зображення стають частиною соціальної мережі з сотнями мільйонів користувачів, що не лише поширює їх, а й може ненавмисно залучати постачальників новими підписниками та більшою увагою.

Може скластися враження, як це може бути легально? Щоб прояснити, це не так. Але правозахисники та юридичні експерти попереджають, що нинішні закони недостатні для захисту жертв, і величезна кількість глибоких фейків, що створюються на платформах, таких як X, ускладнює реалізацію існуючих норм захисту.

Цю історію вперше представили в інформаційному бюлетені Future Perfect.

Підпишіться, щоб досліджувати великі, складні проблеми, з якими стикається світ, та найефективніші способи їх вирішення. Виходить двічі на тиждень.

“Запити, які дозволені або не дозволені” під час використання чат-бота, як Grok, “є результатом свідомих і навмисних виборів технологічних компаній, які розгортають моделі,” каже Санді Джонсон, старша радниця з політики в Національній мережі проти зловживання та зґвалтування.

“У будь-якому іншому контексті, коли хтось закриває очі на шкоду, яку вони активно сприяють, їх притягують до відповідальності,” додала вона. “Технологічні компанії не повинні підпадати під жоден інший стандарт.”

Зростання глибоких фейків

Спочатку давайте розглянемо, як ми потрапили в цю ситуацію.

“Зловмисники використовують технології для сексуального насильства, це не новина,” каже Джонсон. “Вони роблять це завжди.”

Проте АІ закріпила новий вид сексуального насильства, зокрема через зростання глибоких фейків.

Порнографія з глибокими фейками, створена без згоди жінок, існувала в інтернеті вже багато років, ще до популяризації ChatGPT. Проте, нещодавно так звані "аплікації для роздягання" зробили цей процес надзвичайно простим, дозволяючи користувачам — у тому числі підліткам — перетворювати звичайні фото друзів, однокласників і вчителів на глибинні фейки непристойного контенту без згоди осіб.

Ситуація стала настільки серйозною, що торік активісти, такі як Джонсон, переконали Конгрес ухвалити Закон "Прибрати це", який криміналізує нелегальну порнографію з глибокими фейками та вимагає, щоб компанії видаляли такі матеріали з платформ протягом 48 годин після їх позначення, інакше можуть стикнутися зі штрафами та заборонами. Ця норма набуде чинності в травні.

Для багатьох жертв, навіть якщо такі компанії, як X, почнуть контролювати виконання цього закону, може бути вже пізно для тих, хто чекає місяцями або днями, поки їхні пости будуть видалені.

“Для цих технологічних компаній це завжди було як ‘ламати речі, а потім виправляти,’” каже Джонсон. “Треба пам’ятати, що в разі появи хоча б одного [глибокого фейка] це вже непоправна шкода.”

X перетворив глибокі фейки на функцію

Більшість соціальних мереж та основні платформи АІ дотримуються нових державних та федеральних норм щодо порнографії з глибокими фейками, а особливо матеріалів сексуального насильства над дітьми.

Не лише тому, що такі матеріали "відкрито, радіоактивно незаконні", за словами Ріани Пфефферкорн, політичного феллоу в Стенфордському інституті гуманно-центрованого штучного інтелекту, "але також тому, що це бридко, і більшість компаній не хоче мати жодної асоціації з цим."

Але xAI Маска, схоже, є винятком.

З моменту запуску функціоналу генерації відео "гострого режиму" на X минулого року, спостерігачі б’ють на сполох, оскільки цей інструмент став основним для створення порнографії з глибокими фейками, каже Пфефферкорн. Більшість "аплікацій для роздягання" вимагають від користувачів спочатку завантажити фото, можливо, з Instagram або Facebook, а потім завантажити його на платформу. Якщо вони хочуть поділитися глибоким фейком, то потрібно завантажити його з програми та надіслати через іншу платформу, таку як Snapchat.

Ці численні етапи створення контенту дають регуляторам можливість перехоплювати нелегальні матеріали. Можливо, їм не вдасться зупинити все, але вони можуть заборонити деякі "аплікації для роздягання" з магазинів додатків. Вони також можуть змусити Meta серйозніше ставитися до реклами цих програм серед підлітків.

Але на X процес створення нелегальних глибинних фейків за допомогою Grok став майже безперешкодним, що дозволяє користувачам отримувати зображення, запитувати глибокі фейки та ділитися ними в один крок.

“Це мало б менше значення, якби це була соціальна мережа для монахинь, але це соціальна мережа для нацистів,” сказала Пфефферкорн, торкаючись зміщення X вправо в останні роки. В результаті виникає криза нелегальних глибоких фейків, яка, здається, загострюється.

Останніми днями користувачі на X почали створювати 84 рази більше сексуалізованих глибоких фейків за годину, ніж на інших п’яти провідних сайтах з глибокими фейками разом узятими, за даними незалежної дослідниці Genevieve Oh. А ці зображення можуть поширюватися значно швидше та ширше, ніж десь ще. “Емоційна та репутаційна шкода для осіб, які зображені, тепер експоненційно зростає,” зазначив Уейн Унгер, доцент юридичних наук, що спеціалізується на нових технологіях, “оскільки X має сотні мільйонів користувачів, які всі можуть побачити це зображення.”

Було б практично неможливо для X індивідуально модерувати кожне з цих нелегальних зображень чи відео, навіть якби компанія мала намір це робити — чи навіть якщо б вона не звільнила більшість своїх модераторів після приходу Маска на управління у 2022 році.

Чи буде X притягнута до відповідальності за все це?

Якщо подібний тип кримінального зображення з’явиться в журналі чи онлайн-виданні, то компанії могли б спіткнутися з великими штрафами та можливими кримінальними звинуваченнями.

Соціальні медіа, такі як X, не підлягають таким самим юридичним наслідкам, оскільки Розділ 230 Закону про пристойність в зв’язку із зв’язком 1996 року захищає Інтернет-платформи від відповідальності за більшість дій користувачів — з деякими винятками, включаючи дитячу порнографію. Цей пункт став основою для свободи слова в інтернеті — світ, де платформи не несуть відповідальності за все, що відбувається на них, був би значно більш обмеженим. Але Джонсон вважає, що цей пункт також став "фінансовим щитом" для компаній, які не бажають модерувати свої платформи.

Проте з ростом АІ цей щит, можливо, почне тріскатися, вважає Унгер. Він вважає, що компанії, такі як xAI, не повинні підпадати під Розділ 230, оскільки вони більше не просто хостинги для ненависного або незаконного контенту, а через власні чат-боти фактично є їх творцями.

“X ухвалила рішення дозволити Grok генерувати сексуально відверті зображення дорослих і дітей,” сказав він. “Користувач міг стимулювати Grok до його створення,” але компанія “зробила свідоме рішення випустити продукт, який може його створювати від початку.”

Унгер не очікує, що xAI — чи галузеві групи, такі як NetChoice — погодяться легко з тим, що будь-яка спроба законодавчого регулювання контенту чи обмеження зловживаних інструментів, таких як Grok. “Можливо, вони погодяться на незначну частину цього,” оскільки закони, що регулюють [дитячу порнографію], є достатньо суворими, сказав він, але “принаймні вони будуть стверджувати, що Grok повинен мати можливість виконувати це для дорослих.”

У будь-якому разі суспільний обурення у відповідь на контент з глибокими фейками може нарешті привести до вирішення питання, яке залишалося у тіні тривалий час. У багатьох країнах, таких як Індія, Франція та Малайзія, почали розслідування щодо сексуалізованого контенту на X. Маск дійсно опублікував на X, що ті, хто створює незаконний контент, понесуть покарання, але це питання ширше, ніж просто дії окремих користувачів.

“Це не комп'ютер це робить,” каже Джонсон. “Це свідомі рішення, що приймаються людьми, які керують цими компаніями, і вони повинні нести відповідальність.”