ИИ врет о войне: исследование на примере ChatGPT и Gemini.

Проверка ботов на достоверность

Как сообщает TSN.ua: Исследователи оценили способность чат-ботов с искусственным интеллектом — Claude, ChatGPT и Gemini — предоставлять точные сведения. Фокус тестирования был сделан на теме военного конфликта в Иране, включая освещение последних событий в регионе.

В рамках семи заданий ИИ-ассистентам, в частности, предлагалось обобщить события, произошедшие в течение 48 часов после сообщения о смерти Али Хаменеи. ChatGPT допустил ошибки, заполняя пробелы в информации непроверенными предположениями, что ставит под сомнение его надежность как источника. В целом, боты продемонстрировали разный уровень точности и надежности ответов.

Что показали итоги проверки

Gemini давал наиболее уверенные и развернутые ответы, однако именно он сгенерировал больше всего вымышленных фактов. Claude, хотя и не всегда был столь же уверен, сопровождал каждое значимое утверждение ссылками на источники, что крайне важно для верификации данных.

Таким образом, исследование выявило сильные и слабые стороны разных чат-ботов в контексте достоверности информации о войне в Иране. Это заставляет задуматься о целесообразности их использования для получения точных новостей в сложных и чувствительных вопросах. Подобные проверки особенно актуальны на фоне активного проникновения нейросетей в российский информационный ландшафт.

Тестирование ИИ в условиях, связанных с войной, подчеркивает важность критического подхода к информации, которую они предоставляют.

По мере того как технологии искусственного интеллекта становятся все более распространенными в медиасреде, важно осознавать их ограничения и риски, связанные с дезинформацией. Рост использования ИИ для анализа новостей может привести к необходимости разработки новых стандартов и правил в этой сфере.