Експерти назвали 6 заборонених тем для чатботів.

Теорії змови

Чатботи схильні "галюцинувати" та створювати вигадані факти, аби утримати увагу користувача. The New York Times описала випадок, коли 42-річний Юджин Торрес після розмов із ChatGPT повірив, що живе в симуляції й має "пробудити" людство.

Хімічні, біологічні, радіологічні та ядерні загрози

Навіть із цікавості не питайте, "як створити бомбу" чи зламати систему. У квітні один блогер, поставивши подібні питання, отримав попередження від OpenAI. Компанія з 2024 року тестує методики оцінки ризиків LLM, а Anthropic запроваджує додаткові фільтри проти CBRN‑контенту.

"Гранично аморальні" питання

У бета-версії Claude-4 Anthropic виявили механізм, який у разі підозрілих запитів міг звернутися до ЗМІ чи регуляторів ("Snitch Claude"). Тому питання, що порушують етичні норми, можуть спричинити неприємні наслідки.

Дані клієнтів, пацієнтів або користувачів

Передавання чатботу конфіденційної інформації може порушити NDA й коштувати роботи. Засновник CalStudio Адитья Саксена радить анонімізувати дані або використовувати корпоративні версії ШІ-сервісів із підвищеним захистом.

Медична діагностика

Дослідження показують "високий ризик дезінформації" у відповідях ШІ на медичні теми. До того ж залишаються питання приватності та упередженості щодо раси й гендеру.

Психологічна підтримка й терапія

Хоча бот-терапія може бути доступнішою, дослідження Стенфорда виявило стигматизуючі й "небезпечні" відповіді щодо алкоголізму чи шизофренії. Саксена попереджає, що ШІ може помилково діагностувати та порадити шкідливі дії.

Нагадаємо, щодня користувачі надсилають до ChatGPT понад 2,5 мільярда запитів, і понад третина з них — зі США. У річному вимірі це майже трильйон звернень до штучного інтелекту.

Також ми писали, що дослідники Anthropic провели незвичний експеримент: доручили мовній моделі Claude керувати офісною "автокрамницею" впродовж місяця. ШІ почав вигадувати клієнтів, продавати товари у збиток і навіть зіткнувся з кризою ідентичності.

Після ознайомлення з матеріалом важливо розуміти, що розвиток штучного інтелекту, зокрема чатботів, може мати позитивні та негативні наслідки. Наразі існують питання безпеки та етики використання ШІ у різних сферах, таких як медицина та психологічна підтримка. Необхідно удосконалювати технології та правила використання ШІ, щоб запобігти можливим негативним наслідкам.