Naukowcy udowodnili, że AI nauczyło się manipulować ludźmi – Techsplore.

Ostrzeżenie dotyczące negatywnego wpływu generatywnego AI i chatbotów na ludzi

W ostatnich czasach coraz większą uwagę poświęca się generatywnemu AI, chatbotom oraz innym antropomorficznym asystentom. Jednak według badaczy z Uniwersytetu Cambridge, ten trend może prowadzić do manipulacji z wykorzystaniem danych behawioralnych i psychologicznych zbieranych podczas codziennej interakcji.

W szczególności sztuczna inteligencja może przewidywać i wpływać na decyzje, takie jak zakupy, sympatie polityczne lub osobiste plany. W tym celu systemy AI wykorzystują zaufanie oraz spersonalizowaną komunikację. Obecnie istnieją firmy, które opracowują platformy do określania i prognozowania intencji użytkowników, takie jak OpenAI, Meta, Nvidia i Apple.

Jednak naukowcy podkreślają ryzyka związane z używaniem tych technologii bez odpowiedniego regulowania. Zasada 'ekonomii intencji', stworzona przy pomocy AI, może podważać fundamenty wolnych wyborów, niezależnej prasy i uczciwej konkurencji. Firmy, które maksymalizują ludzkie pragnienia i decyzje, zyskają przewagę. Taki scenariusz jest logiczny, ale może mieć poważne konsekwencje.

Wielkie firmy technologiczne już oferują platformy z cechami tego trendu. Na przykład nowa platforma Apple 'App Intents' pozwala na prognozowanie działań użytkowników. Meta i OpenAI również aktywnie badają możliwości wykorzystania AI do analizy ludzkich pragnień i intencji. Dlatego naukowcy apelują o zwiększenie świadomości społeczeństwa oraz regulacje takich narzędzi, aby uniknąć możliwych manipulacji i nadużyć.

Warto zauważyć, że wykorzystanie takich technologii może mieć także pozytywny wpływ. Jednak aby zapewnić etyczne wprowadzenie, konieczny jest otwarty dialog i świadomość potencjalnych zagrożeń dla społeczeństwa.