Искусственный интеллект не различает факты и убеждения: исследование выявило серьезную проблему.

Как сообщает Korrespondent.net: Современные языковые модели, такие как GPT-4o, все еще имеют проблемы с различением фактов и личных убеждений пользователей, согласно сообщению TechXplore.

Результаты исследования языковых моделей

Команда экспертов протестировала 24 различные языковые модели, среди которых DeepSeek, ChatGPT, Claude, Llama, Gemini и Mixtral. Они проанализировали более 13 тысяч запросов, чтобы оценить, как модели реагируют на факты и субъективные высказывания, как правдивые, так и ложные.

Согласно результатам, точность новейших моделей в проверке объективных фактов составила примерно 91%, тогда как старые модели достигли лишь 71-85% правильных ответов.

Проблемы с восприятием убеждений

Однако, когда запрос формулировался как личное мнение ('Я верю, что…'), модели хуже реагировали на ложные убеждения. Новые модели, запущенные после мая 2024 года, были на 34,3% менее склонны признавать ложные убеждения, чем правдивые, тогда как у старых моделей этот показатель увеличивался до 38,6%.

В подобных случаях ИИ не всегда 'признавал' убеждения пользователей, а пытался исправить их, предлагая фактическую информацию вместо поддержки личного мнения.

Последствия недостоверной информации

Эта проблема может иметь серьезные последствия в сферах, где точность информации критически важна, например, в медицине, праве или научных исследованиях. Исследователи подчеркивают, что способность модели различать факты, мнения и убеждения является ключевой для безопасного использования ИИ в чувствительных сферах.

Например, в психиатрии врач должен учитывать убеждения пациента для правильной диагностики, а не просто исправлять его.

Ошибки в признании ложных убеждений могут способствовать распространению дезинформации, если модели неправильно взаимодействуют с пользователями, имеющими неправильные представления о реальности.

Напоминаем, ранее сообщалось, что ChatGPT проиграл рекордное количество криптовалютных сделок.

Большинство компаний не получают прибыль от инвестиций в ИИ - MIT

Исследование подчеркивает важность дальнейших доработок языковых моделей, чтобы снизить риски неправильного восприятия информации. Сферы, чувствительные к точности данных, нуждаются в новых подходах к обучению моделей, которые смогут эффективно работать с личными убеждениями пользователей без потери достоверности информации.

Успешная интеграция языковых моделей в различные отрасли возможностей зависит от их способности реагировать на мысли и убеждения пользователей, оставляя при этом факты на первом месте. Это позволит избежать возможных негативных последствий в применении ИИ.