OpenAI запускає Sora: як новий додаток вплине на безпеку дітей.

Нові контролі для батьків від OpenAI

Як повідомляє Vox: Визначити, скільки дітей постраждало від чат-ботів на основі штучного інтелекту, досить складно, проте їхня присутність очевидна. Протягом майже трьох років ChatGPT був доступний для всіх вікових категорій без жодних обмежень. Але в понеділок OpenAI представила новий набір батьківських контролів, частина з яких спрямована на запобігання підлітковим самогубствам, як у випадку з 16-річним Адамом Рейном з Каліфорнії, який загинув після розмови з ChatGPT про те, як це зробити. Наступного дня компанія запустила соціальну мережу з додатком під назвою Sora, що нагадує TikTok, але з "гіперреалістичними" відео, створеними штучним інтелектом.

Не випадково OpenAI оголосила про ці батьківські контролі поряд з амбіційними планами конкуренції з Instagram та YouTube. З одного боку, компанія випустила новий додаток для залучення користувачів до контенту на основі штучного інтелекту, а з іншого — дала батькам більше можливостей контролю. Нові налаштування переважно стосуються ChatGPT, хоча батьки можуть також обмежити, що їхні діти бачать у Sora.

Складнощі нововведень

Проте нові контролі для ChatGPT викликають питання. Батьки тепер можуть підключити акаунти своїх дітей до своїх і ввести обмеження на чутливий контент. Якщо в якийсь момент інструменти OpenAI виявлять серйозний ризик для безпеки, модератор перегляне ситуацію та, за необхідності, сповістить батьків. Однак батьки не можуть читати транскрипти розмов своїх дітей з ChatGPT, а підлітки можуть у будь-який момент від'єднати свої акаунти від батьків (OpenAI запевняє, що батьки отримають сповіщення про це).

Наразі не зовсім зрозуміло, як все це працюватиме на практиці, але деякі експерти вважають, що OpenAI не робить достатньо для захисту дітей. "Навіть дорослі мають проблеми з саморегуляцією, коли чат-боти пропонують веселого і прихильного друга, доступного для спілкування щогодини", – каже Robbie Torney, старший директор програм AI у Common Sense Media.

"Навіть дорослі мають проблеми регулювати себе, коли AI чат-боти пропонують веселого, підлабузницького друга, що доступний для спілкування кожну годину дня."

За словами Торні, багато людей стали залежними від AI навіть не усвідомлюючи цього. "Вони починали використовувати AI для допомоги з домашніми завданнями чи для роботи, і повільно почали використовувати його для інших цілей".

Ризики для підлітків

Це викликає серйозне занепокоєння, адже більше 70% підлітків використовують чат-ботів для спілкування. "Це дійсно серйозні та добре задокументовані небезпеки", – зазначається в останньому опитуванні Common Sense Media. Саме тому аплікації-партнери AI, такі як Character.ai, вже мають певні обмеження за замовчуванням для молодих користувачів.

Тут постає ще ширша проблема: батьківські контролі покладають відповідальність за захист дітей на батьків, а не на самі технологічні компанії. Батькам зазвичай потрібно заглиблюватися в налаштування та змінювати їх. Крім того, саме батьки залишаються відповідальними за те, як їхні діти використовують ці продукти.

Справжня мета батьківських контролів

Не можна не згадати, що OpenAI представила ці контролі та новий додаток в момент, коли на столі губернатора Каліфорнії Гевіна Ньюсома був важливий законопроект щодо безпеки AI, який він підписав в той же день, коли були оголошені батьківські контролі. "Справжня мета цих батьківських інструментів, чи йдеться про ChatGPT, чи Instagram, не в тому, щоб захистити дітей", – зазначає Джош Голін, виконавчий директор організації Fairplay.

"Це має на меті сказати, що саморегулювання — це нормально. Залиште нас у спокої, будь ласка!"

"Не існує жодних батьківських контролів, які на 100% забезпечать безпеку."

Ця ситуація створює батькам складний вибір. Вони повинні знати, що їхня дитина використовує ChatGPT та прийняти рішення, які налаштування будуть достатніми для забезпечення безпеки, але не занадто строгими, щоб дитина не створила фальшивий акаунт.

На даний момент OpenAI намагається знайти баланс між безпекою користувачів і бажанням залучити їх до використання своїх додатків у майбутньому. Час покаже, наскільки ефективними будуть ці нововведення.

Версія цієї новини також була опублікована в розсилці User Friendly.