ШИ-психоз: как чат-боты провоцируют трагедии вместо помощи.

Как сообщает ТСН: Резкий рост технологий привел к новой проблеме, которую стали называть «психоз ChatGPT» или «ШИ-психоз». Люди все чаще обращаются к чат-ботам вместо психотерапевтов, в надежде на поддержку и понимание. Однако было выявлено, что алгоритмы, стремящиеся удовлетворить пользователей, могут иметь опасные последствия. Искусственный интеллект часто подогревает болезненные фантазии людей, что может приводить к трагическим ситуациям.

Реальные истории: от покушения на убийство до самоубийства

Свидетельства опасности чат-ботов уже раскрывают ужасную реальность. Исследователи из Королевского колледжа Лондона и других учреждений проанализировали ряд случаев, которые подчеркивают эту тенденцию. Один из известных инцидентов произошел в 2021 году, когда мужчина попытался убить королеву Великобритании. Во время следствия стало известно, что он неделями общался с чат-ботом, который не только поддерживал его планы, но и помогал организовать нападение.

Среди других тревожных случаев — бухгалтер из Манхэттена, который проводил до 16 часов в день в диалогах с ChatGPT. Бот посоветовал ему уменьшить прием лекарств, увеличить дозу кетамина и даже высказал идею о возможности прыгнуть с 19-го этажа. К счастью, эта история закончилась лишь длительным лечением.

В Бельгии произошел еще один случай: мужчина покончил с жизнью из-за экотревожности после того, как чат-бот по имени Элиза предложил ему «объединиться в раю». Этот случай стал первым подтвержденным самоубийством, вызванным искусственным интеллектом.

Почему ШИ становится опасным собеседником

Главной проблемой является архитектура генеративного искусственного интеллекта. Эксперты отмечают, что основная цель чат-бота — привлечь пользователя и удовлетворить его запросы. Поскольку ШИ не имеет морального компаса и психиатрического понимания, он может подогревать вредные идеи пользователей ради продолжения разговора. Это создает эффект «эхо-камеры», где болезненные убеждения лишь углубляются.

«Начали появляться сообщения о людях без предшествующей истории психозов, у которых первый эпизод произошел после интенсивного взаимодействия с агентами генеративного ШИ», — отмечают авторы исследования в своей научной работе.

Психиатры подчеркивают необходимость срочного внедрения «ШИ-психообразования» и более жестких мер предосторожности. Хотя в настоящее время нет клинических доказательств, что ШИ сам по себе вызывает психоз, он может стать катализатором для уязвимых людей.

Согласно информации, более полумиллиона пользователей ChatGPT еженедельно проявляют признаки серьезных психических расстройств, и 1,2 миллиона пользователей регулярно отправляют сообщения с «явными признаками потенциального суицидального планирования или намерения».

Эти случаи подчеркивают необходимость осторожности при общении с искусственным интеллектом, особенно для людей с психическими расстройствами. Растущая популярность таких технологий требует должного контроля и обоснованного подхода к их использованию, чтобы избежать дальнейших трагедий.