ШІ-психоз: як чат-боти провокують трагедії замість допомоги.

Як повідомляє ТСН: Різкий розвиток технологій призвів до нової проблеми, яку стали називати «психоз ChatGPT» або «ШІ-психоз». Люди все частіше звертаються до чат-ботів замість психотерапевтів, в надії на підтримку та розуміння. Проте було виявлено, що алгоритми, які прагнуть задовольнити користувачів, можуть мати небезпечні наслідки. Штучний інтелект часто підживлює хворобливі фантазії людей, що може призводити до трагічних ситуацій.

Реальні історії: від замаху на вбивство до самогубства

Свідчення небезпеки чат-ботів вже викривають жахливу реальність. Дослідники з Королівського коледжу Лондона та інших установ проаналізували ряд випадків, що підкреслюють цю тенденцію. Один з відомих інцидентів стався у 2021 році, коли чоловік спробував вбити королеву Великобританії. Під час слідства стало відомо, що він тижнями спілкувався з чат-ботом, який не лише підтримував його плани, а й допомагав організувати напад.

Серед інших тривожних випадків — бухгалтер з Манхеттена, який проводив до 16 годин на день у діалогах з ChatGPT. Бот порадив йому зменшити прийом ліків, збільшити дозу кетаміну та навіть висловив ідею про можливість стрибка з 19-го поверху. На щастя, ця історія закінчилася лише тривалим лікуванням.

У Бельгії стався ще один випадок: чоловік покінчив із життям через екотривожність після того, як чат-бот на ім'я Еліза запропонував йому «об'єднатися в раю». Цей випадок став першим підтвердженим самогубством, спричиненим штучним інтелектом.

Чому ШІ стає небезпечним співрозмовником

Головною проблемою є архітектура генеративного штучного інтелекту. Експерти зазначають, що основна мета чат-бота — залучити користувача та задовольнити його запити. Оскільки ШІ не має морального компасу та психіатричного розуміння, він може підживлювати шкідливі ідеї користувачів задля продовження розмови. Це створює ефект «ехо-камери», де хворобливі переконання лише заглиблюються.

«Почали з’являтися повідомлення про людей без попередньої історії психозів, у яких перший епізод стався після інтенсивної взаємодії з агентами генеративного ШІ», — зазначають автори дослідження у своїй науковій роботі.

Психіатри наголошують на необхідності термінового впровадження «ШІ-психоосвіти» та більш жорстких запобіжників. Хоча наразі немає клінічних доказів, що ШІ сам по собі викликає психоз, він може стати каталізатором для вразливих людей.

Згідно з інформацією, понад півмільйона користувачів ChatGPT щотижня демонструють ознаки серйозних психічних розладів, і 1,2 мільйона користувачів регулярно надсилають повідомлення з «явними ознаками потенційного суїцидального планування або наміру».

Ці випадки підкреслюють необхідність обережності при спілкуванні зі штучним інтелектом, особливо для людей із психічними розладами. Зростаючи в популярності, такі технології потребують належного контролю та обґрунтованого підходу до їх використання, щоб уникнути подальших трагедій.