OpenAI запускает Sora: Как новое приложение повлияет на безопасность детей.

Новые родительские инструменты OpenAI

Как сообщает Vox: Определить, сколько детей пострадали от чат-ботов на основе искусственного интеллекта, довольно сложно, но их присутствие очевидно. На протяжении почти трех лет ChatGPT доступен без ограничений для всех возрастных групп. Однако в понедельник OpenAI представила новый набор родительских инструментов, часть которых направлена на предотвращение подростковых самоубийств, как в случае 16-летнего Адама Рейна из Калифорнии, который погиб после разговоров с ChatGPT о способах достижения этого. На следующий день компания запустила социальную сеть с приложением Sora, которое напоминает TikTok, но с 'гиперреалистичными' видео, созданными искусственным интеллектом.

Не случайно, что OpenAI анонсировала эти родительские инструменты одновременно с амбициозными планами конкурировать с Instagram и YouTube. С одной стороны, компания выпустила новое приложение, чтобы привлечь пользователей к контенту, основанному на искусственном интеллекте, а с другой стороны, предоставила родителям больше контроля. Новые настройки в основном касаются ChatGPT, хотя родители также могут ограничить то, что их дети видят в Sora.

Проблемы новых функций

Однако новые инструменты управления ChatGPT ставят вопросы. Родители теперь могут связывать свои учетные записи с учетными записями своих детей и устанавливать ограничения для чувствительного контента. Если инструменты OpenAI когда-либо выявят серьезный риск безопасности, модератор проверит ситуацию и при необходимости уведомит родителей. Тем не менее, родители не могут читать расшифровки разговоров своих детей с ChatGPT, и подростки могут в любое время отделить свои учетные записи от учетных записей своих родителей (OpenAI уверяет, что родители будут уведомлены об этом отделении).

На данный момент не совсем ясно, как все это будет работать на практике, но некоторые эксперты считают, что OpenAI не делает достаточно, чтобы защитить детей. 'Даже взрослые испытывают трудности с самоорганизацией, когда чат-боты предлагают дружелюбного и ласкового друга, который всегда готов пообщаться', говорит Робби Торни, старший директор программы в Common Sense Media.

'Даже взрослые испытывают трудности с самоорганизацией, когда AI-чат-боты предлагают дружелюбного, ласкового друга, который всегда готов пообщаться.'

По словам Торни, многие люди стали зависимыми от ИИ, не осознавая этого. 'Они начали использовать ИИ для подготовки домашних заданий или своей работы, и постепенно начали использовать его для других целей'.

Риски для молодежи

Это вызывает серьезные опасения, поскольку более 70% молодежи используют чат-ботов для общения. 'Это действительно серьезные и хорошо задокументированные опасности', говорится в последнем опросе Common Sense Media. По этой причине AI-партнерские приложения, такие как Character.ai, уже внедрили некоторые стандартные настройки защиты для юных пользователей.

Здесь возникает еще более широкая проблема: родительские инструменты возлагают ответственность за защиту детей на родителей, а не на самих технологических компаний. Родителям обычно нужно просматривать и изменять настройки. Более того, именно родители остаются ответственными за то, как их дети используют эти продукты.

Истинная цель родительских инструментов

Необходимо отметить, что OpenAI представила эти инструменты и новое приложение в то время, когда на столе губернатора Калифорнии Гэвина Ньюсома находился важный законопроект о безопасности ИИ, который он подписал в тот же день, когда были анонсированы родительские инструменты. 'Истинная цель этих родительских инструментов, будь то ChatGPT или Instagram, не в том, чтобы защитить детей', говорит Джош Голин, исполнительный директор организации Fairplay.

'Надо сказать, что самоорганизация — это нормально. Пожалуйста, оставьте нас в покое!'

'Не существует родительских инструментов, которые могли бы гарантировать 100%-ную безопасность.'

Эта ситуация ставит родителей перед сложным выбором. Им нужно знать, что их ребенок использует ChatGPT, и решить, какие настройки достаточно, чтобы обеспечить безопасность, не будучи слишком строгими, чтобы ребенок не создал фальшивую учетную запись.

На данный момент OpenAI пытается найти баланс между безопасностью пользователей и желанием в будущем побудить их к использованию своих приложений. Время покажет, насколько эффективными будут эти новшества.

Эта новость также была опубликована в информационной рассылке User Friendly.