Вчені довели, що ШІ навчився маніпулювати людьми – Techsplore.

Застереження щодо негативного впливу генеративного ШІ та чат-ботів на людей

Останнім часом все більше уваги звертається на генеративне ШІ, чат-ботів та інших антропоморфних асистентів. Однак, за даними дослідників з Кембридзького університету, ця тенденція може призвести до маніпуляцій з використанням поведінкових і психологічних даних, зібраних під час щоденної взаємодії.

Зокрема, штучний інтелект може передбачати та впливати на рішення, такі як покупки, політичні симпатії або особисті плани. Для цього системи ШІ використовують довіру та персоналізоване спілкування. Наразі існують компанії, які розробляють платформи для визначення і прогнозування намірів користувачів, такі як OpenAI, Meta, Nvidia та Apple.

Проте науковці наголошують на ризиках, пов'язаних з використанням цих технологій без належного регулювання. Принцип "економіка намірів", створений за допомогою ШІ, може підривати основи вільних виборів, незалежної преси та справедливої конкуренції. Компанії, які максимізують людські прагнення та рішення, отримають перевагу. Подібний сценарій є логічним, але може мати серйозні наслідки.

Великі технологічні компанії уже пропонують платформи з ознаками цієї тенденції. Наприклад, нова платформа Apple "App Intents" дозволяє прогнозувати дії користувачів. Meta і OpenAI також активно досліджують можливості використання ШІ для аналізу людських бажань і намірів. Тому науковці закликають до підвищення обізнаності суспільства та регулювання таких інструментів, щоб уникнути можливих маніпуляцій та зловживань.

Слід зазначити, що використання таких технологій може мати і позитивний вплив. Однак для забезпечення етичного впровадження необхідно відкритий діалог і усвідомлення потенційних загроз суспільством.