OpenAI запустила Sora 2: какие новые угрозы ждут пользователей.

Как сообщает Vox: Технические компании сложно оценивать по их миссиям. Как показывают примеры Google с его 'Не будь злым' и WeWork с 'Восприятием мира', миссии часто формируются в молодости компании, когда ее мечты безграничны, инвесторы оптимистично улыбаются, а термин 'фидуциарная ответственность' еще не стал актуальным. Это напоминает оценку человека по сентиментам в школьном альбоме.

Однако, ясно, что OpenAI усложняет эту ситуацию.

На странице компании до сих пор можно найти их слова, которые впервые прозвучали в уставе 2018 года, через три года после основания: “Наша миссия заключается в том, чтобы обеспечить, чтобы общий искусственный интеллект - системы ИИ, которые в общем умнее людей - приносил пользу всему человечеству.” Это, мягко говоря, не совсем то, чему они следовали, о чем свидетельствует ряд публикаций Future Perfect.

Например, если бы вы спросили меня о моей миссии через три года, я бы, вероятно, сказал: “Стать первым игроком НБА на Марсе.” Мы не всегда достигаем своих целей. Приоритеты меняются, вы не вырастаете до 2,18 метра, и оказывается, что боитесь космоса — поняли, о чем я.

Бесконечные порции искусственного интеллекта

Sora 2 лучше всего представить так: она сочетает, вероятно, худший аспект больших языковых моделей, таких как ChatGPT — их способность захватывать пользователей — с худшей чертой современных СМИ: бесконечными вертикальными видео, которые, среди прочих негативных последствий, снижают наше внимание.

Это как смешать героин с... Я не знаю, существует ли наркотик, который невероятно вызывает зависимость, заставляя вас прикуто смотреть на экран, забирая при этом несколько десятков IQ. Возможно, героин с еще большим количеством героинов? Не уверен, что имею достаточный опыт в этой области, чтобы это оценить.

Основные проблемы, связанные с чрезвычайно реалистичными AI-генерированными видео, возникли практически сразу после запуска Sora 2 в начале этой недели.

Во-первых, это проблемы с авторским правом. Одно из первых видео, которое я увидел в Sora 2, было идеально воспроизведенным роликом, где Рик и Морти посещают Спанч Боба. Оказалось, что OpenAI по умолчанию разрешила использование защищенных авторским правом материалов, перекладывая ответственность на владельцев интеллектуальной собственности активировать запросы к OpenAI с просьбой о удалении их материала.

Далее, это фейковые видео. Одной из основных функций Sora 2 является возможность загрузить свое изображение в приложение и вставить его в любое AI-генерированное видео. По данным Вашингтон Пост, это привело к моментальному созданию фейковых правохранительных видео, реальных людей в костюмах нацистских генералов, невероятно реалистичных, но фальшивых видео исторических событий и даже — CEO OpenAI Сэм Альтман, который крадет в магазине.

Это означает, что, в то время как Президент США постит, казалось бы, AI-генерированные фейковые видео, OpenAI лишь предоставил американцам — по крайней мере, тем, кто имеет код доступа к Sora 2 — абсолютно реалистичные фейковые видео всего лишь одним нажатием кнопки. И создал социальную сеть, похожую на TikTok, где их можно легко распространять.

Кто выиграет?

Итак, что на это говорит Сэм Альтман? К счастью, он ведет блог с 2013 года, когда размышлял о возможном существовании инопланетян. Он написал, что Sora 2 является “моментом ‘ChatGPT для творчества’,” который может привести к “кембрийскому взрыву,” где “качество искусства и развлечений может радикально возрасти.”

Что могу сказать? Безусловно, период после кембрийского взрыва привел к некоторым довольно странным созданиям, таким как Tullimonstrum, или “монстр Тулли,” существо с глазами на лбу и “ротовой” конечностью, похожей на то, что вы могли бы получить, если бы Бог имел код доступа к Sora 2. Если безкровная и скучная машина для ремиксов является творчеством в будущем, то я бы предпочел AI, создающий скрепки.

Но, возможно, худшая часть Sora 2 заключается в том, что она затушевывает работу с AI, которая действительно может принести пользу всему человечеству. В ту же неделю, когда OpenAI ввела Sora 2, несколько бывших сотрудников крупных AI-компаний объявили о запуске Periodic Labs, стартапа, который имеет целью использовать искусственный интеллект для ускорения открытий в физике, химии и других научных областях. Это то, что действительно может быть полезным.

Сказано просто, не быть ли нам лишь подчиняющимися запросам рынка? OpenAI — это бизнес. (Или некоммерческая организация? Или компания с общественными интересами? На данный момент этот вопрос остается неясным.) Это предприятие, которое работает в соответствии с спросом. Следовательно, последняя защита — для нас, пользователей мира, встать и сказать: “Нет, я не буду потреблять ваше AI-мусор.”

В заключение, Sora 2 в настоящее время занимает третье место в чартах приложений iPhone. С этим нам придется жить.