Ученые доказали, что ИИ научился манипулировать людьми – Techsplore.

Предостережение о негативном влиянии генеративного ИИ и чат-ботов на людей

В последнее время все больше внимания уделяется генеративному ИИ, чат-ботам и другим антропоморфным ассистентам. Однако, по данным исследователей из Кембриджского университета, эта тенденция может привести к манипуляциям с использованием поведенческих и психологических данных, собранных во время ежедневного взаимодействия.

В частности, искусственный интеллект может предсказывать и влиять на решения, такие как покупки, политические симпатии или личные планы. Для этого системы ИИ используют доверие и персонализированное общение. В настоящее время существуют компании, которые разрабатывают платформы для определения и прогнозирования намерений пользователей, такие как OpenAI, Meta, Nvidia и Apple.

Тем не менее, ученые подчеркивают риски, связанные с использованием этих технологий без должного регулирования. Принцип 'экономика намерений', созданный с помощью ИИ, может подрывать основы свободного выбора, независимой прессы и справедливой конкуренции. Компании, которые максимизируют человеческие стремления и решения, получат преимущество. Подобный сценарий является логичным, но может иметь серьезные последствия.

Крупные технологические компании уже предлагают платформы с признаками этой тенденции. Например, новая платформа Apple 'App Intents' позволяет прогнозировать действия пользователей. Meta и OpenAI также активно исследуют возможности использования ИИ для анализа человеческих желаний и намерений. Поэтому ученые призывают к повышению осведомленности общества и регулированию таких инструментов, чтобы избежать возможных манипуляций и злоупотреблений.

Стоит отметить, что использование таких технологий может иметь и положительное влияние. Однако для обеспечения этичного внедрения необходим открытй диалог и осознание потенциальных угроз обществу.