OpenAI запустила Sora 2: які нові загрози чекають на користувачів.

Як повідомляє Vox: Технічні компанії складно оцінювати за їхніми місіями. Як показують приклади Google з його "Не будь злим" та WeWork з "Піднесення свідомості світу", місії часто формуються в молодості компанії, коли її мрії безмежні, інвестори оптимістично усміхаються, а термін "фідуціарна відповідальність" ще не став актуальним. Це нагадує оцінку людини за сентиментами у шкільному альбомі.

Проте, зрозуміло, що OpenAI ускладнює цю ситуацію.

На сторінці компанії досі можна знайти їхні слова, що вперше з'явилися в статуті 2018 року, через три роки після заснування: “Наша місія полягає в тому, щоб забезпечити, щоб загальний штучний інтелект - системи ШІ, які в загальному розумніші за людей - приносив користь всьому людству.” Це, м’яко кажучи, не зовсім те, чого вони дотримувалися, про що свідчить ряд публікацій Future Perfect.

Наприклад, якби ви запитали мене про мою місію у три роки, я б, напевно, сказав: “Стати першим гравцем НБА на Марсі.” Ми не завжди досягаємо своїх цілей. Пріоритети змінюються, ви не виростаєте до 2,18 метра, і виявляється, що боїтеся космосу — зрозуміли, про що я.

Нескінченні порції штучного інтелекту

Sora 2 найкраще уявити так: вона поєднує, напевно, найгірший аспект великих мовних моделей, таких як ChatGPT — їхню здатність захоплювати користувачів — з найгіршою рисою сучасних ЗМІ: нескінченними вертикальними відео, які, серед інших негативних наслідків, знижують нашу увагу.

Це як змішати героїн з... Я не знаю, чи існує наркотик, який неймовірно викликає залежність, змушуючи вас прикуто дивитися на екран, забираючи при цьому кілька десятків балів IQ. Мабуть, героїн з ще більшою кількістю героїну? Не впевнений, що маю достатній досвід у цій сфері, аби це оцінити.

Основні проблеми, пов’язані з надзвичайно реалістичними AI-генерованими відео, виникли практично відразу після запуску Sora 2 на початку цього тижня.

По-перше, це проблеми з авторським правом. Одне з перших відео, яке я побачив у Sora 2, було ідеально відтвореним роликом, де Рік і Морті відвідують Спанч Боба. Виявляється, що OpenAI за замовчуванням дозволило використання захищених авторським правом матеріалів, покладаючи відповідальність на власників інтелектуальної власності активізувати запити до OpenAI з проханням про видалення їхнього матеріалу.

Далі, це фейкові відео. Однією з основних функцій Sora 2 є можливість завантажити своє зображення в додаток та вставити його в будь-яке AI-генероване відео. За даними Вашингтон Пост, це призвело до моментального створення фейкових правоохоронних відео, реальних людей у костюмах нацистських генералів, неймовірно реалістичних, але фальшивих відео історичних подій, і навіть — OpenAI CEO Сем Альтман, який крав в магазині.

Це означає, що, в той час, як Президент США постить, здавалося б, AI-генеровані фейки відео, OpenAI лише надав американцям — принаймні тим, хто має код доступу до Sora 2 — абсолютно реалістичні фейкові відео всього лише одним натисканням кнопки. І створив соціальну мережу, схожу на TikTok, де їх можна легко поширювати.

Хто виграє?

Отже, що на це говорить Сем Альтман? На щастя, він веде блог з 2013 року, коли розмірковував про можливе існування прибульців. Він написав, що Sora 2 є “моментом ‘ChatGPT для творчості’,” який може призвести до “кембрійського вибуху,” де “якість мистецтва та розваг може радикально зрости.”

Що можу сказати? Безумовно, період після кембрійського вибуху призвів до деяких досить дивних створінь, таких як Tullimonstrum, або “монстр Туллі,” істота з очима на лобі та “ротовою” кінцівкою, схожою на те, що ви могли б отримати, якби Бог мав код доступу до Sora 2. Якщо безкровна та нудна машина для реміксів є творчістю в майбутньому, то я б вважав за краще AI, що створює скріпки.

Але, мабуть, найгірша частина Sora 2 полягає в тому, що вона затушовує роботу з AI, яка справді може принести користь всьому людству. Того ж тижня, коли OpenAI вивела Sora 2, кілька колишніх співробітників великих AI-компаній оголосили про запуск Periodic Labs, стартапу, що має на меті використовувати штучний інтелект для прискорення відкриттів у фізиці, хімії та інших наукових галузях. Це те, що справді може бути корисним.

Сказано просто, чи не бути з нам лише підпорядкованими запитам ринку? OpenAI — це бізнес. (Або неприбуткова організація? Чи компанія з громадськими інтересами? Наразі це питання залишається незрозумілим.) Це підприємство, яке працює відповідно до попиту. Отже, останній захист — для нас, користувачів світу, встати і сказати: “Ні, я не буду споживати ваше AI-сміття.”

На завершення, Sora 2 наразі займає третє місце у чартах додатків iPhone. З цим нам доводиться жити.