Запуск Grokipedia: як альтернатива Вікіпедії поширює дезінформацію.

Як повідомляє Vox: Grokipedia, ініціатива Елона Маска, що має на меті створення альтернативи Вікіпедії, вже запущена. Попередні аналізи показують, що сайт, оснований на xAI і під контролем правостороннього AI асистента Grok, вже почав виконувати функцію самостійної відповіді на дезінформацію.

Grokipedia, по суті, є ще одним проявом амбіцій Маска в його боротьбі за "прокидання свідомості". Цей проєкт демонструє, як він перетворює успішні ініціативи, такі як Вікіпедія, на менш ефективні версії, при цьому оголошуючи про перемогу.

Якщо Маск досягне успіху і Grokipedia стане реальним конкурентом Вікіпедії, це може створити проблеми для звичайних користувачів Інтернету. Ми вже бачили, як Маск може використовувати свої ресурси та вплив, щоб трансформувати платформу X на механізм дезінформації. Створення єдиного сховища такої дезінформації, яке може навчати моделі xAI або навіть конкуруючі моделі AI, ймовірно, лише прискорить її розповсюдження.

Говорити про Grokipedia — це не лише про те, що вона може бути поганою. Вона може також погіршити якість решти Інтернету.

Дорога до Grokipedia

Очевидно, Grokipedia використовує Вікіпедію як своє основне джерело, але впроваджує деякі праворадикальні погляди та теорії змови в певних темах, подаючи цю інформацію за факти. Зараз у Grokipedia немає ілюстрацій і посилань, що надає сайту схожість із результатами запиту чат-бота. Grokipedia приблизно в сім разів менша за Вікіпедію, але це лише версія v0.1, і Маск стверджує, що "версія 1.0 буде в 10 разів кращою".

Здивувало мене, що в Grokipedia немає статті про "апартеїд", але якщо ви знайдете "теорію гендерного геноциду" — одне з улюблених обговорень Маска — ви натрапите на статтю, яка нарікає на те, що академічна спільнота нібито намагається "перемістити цю теорію на край теорій змови, незважаючи на спостережувані дані про демографічні зміни". Вікіпедія, наскільки це можливо, вказує на цю теорію як на теорію змови в заголовку.

Для розуміння Grokipedia важливо звернути увагу на її походження — твіт Давида Сакса, голови AI президента Дональда Трампа та давнього друга Маска. У твіті від 29 вересня йдеться про те, що "Вікіпедія безнадійно упереджена. Армія лівих активістів контролює біографії і виступає проти розумних поправок".

Здається, Сакс адресував цей твіт прямо до Маска, який протягом року активно критикував Вікіпедію. Минулого Різдва Маск закликав своїх підписників "Припинити донати до Wokepedia", вказуючи на надмірні витрати організації на різноманітність, справедливість та інклюзивність. Він назвав Вікіпедію "додатком пропаганди традиційних медіа" і оголосив, що xAI створить Grokipedia у відповідь на твіт Сакса.

Теорія розмитого JPEG в Інтернеті

Коли я дізнався про запуск Grokipedia, одразу згадав статтю "розмитий JPEG", опубліковану New Yorker у 2023 році. Автор, науковий фантаст Тед Чіанг, детально пояснив, як працюють великі мовні моделі, створюючи синтетичний текст на основі справжнього письма, і чи можуть вони відображати справжні знання.

Розмитий JPEG вказує на проблему завантаження зображення в Інтернет, яке потребує стиснення, скачування версії з нижчою роздільною здатністю і повторного стиснення. Врешті-решт, зображення стає невпізнаваним через втрату інформації під час копіювання.

Це стосується і інформації в Інтернеті з давніх-давен. І в певному сенсі, ця ідея завантаження, змішування та перерозподілу контенту стала тим, що робить Веб таким захопливим. Блогінг, який став початком журналістики для мене та багатьох інших, часто грунтується на читанні того, що стається в Інтернеті, обробці ідей і їх переформатуванні для певної аудиторії, іноді з певними упередженнями. Твітинг, нащадок блогінгу, ще більше стискає ці пости, але його основна мета залишається: демократизувати та пришвидшити поширення знань і ідей у онлайн-середовищі. Вікіпедія, у своїй найпростішій формі, виконує ту ж функцію.

Але, як і з JPEG або старомодними ксероксами, повторне копіювання призводить до розмивання певних деталей, які, здавалося, менш важливі. Стиснення спрощує обмін даними, але ускладнює повернення до оригінального джерела.

Виглядає, що Grokipedia вже стикається з цією проблемою. Точно невідомо, як xAI створив цей ресурс, але Матео Вонг у Atlantic пропонує теорію. Найбагатша людина світу купила Твіттер і відкрила платформу для крайніх правих голосів. "Тоді він вжив цю схованку теорій змови, агресії та мемів у модель AI, яка вже була розроблена, щоб не уникати суперечливих або навіть ненависних поглядів," — стверджує Вонг. "Нарешті, Маск використав цю модель AI для створення анти-прокидальної енциклопедії".

Інакше кажучи, Grokipedia створювалася з участю людей, але в значній мірі під контролем Маска. Це схоже на те, що він завантажує своє обурення, реакції своїх правих фоловерів, а потім знову інтегрує це в AI, який організовує ідеї в енциклопедію: Grokipedia. У порівнянні з Вікіпедією, яка не є ідеальною і також має свою частку дезінформації через відкриту платформу, там існує система, що контролює якість контенту.

Мене турбує, що цю аналогію розмитого JPEG, хоча і насторожує, може бути недостатньо, щоб повністю відобразити ситуацію. Ще рік тому, після запуску ChatGPT, ми не могли з точністю визначити, чи ця технологія принесе більше користі чи шкоди. Тепер, із появою AI-генерованої інформації та сайтів на зразок Grokipedia, ми помічаємо, що негативних наслідків стає все більше. Виглядає неминучим, що генеративний AI і його різноманітні гілки, включаючи AI-генеровані енциклопедії, відтворюватимуть контент Інтернету — і, по суті, саме знання — у гіршій якості, розмитій формі.

Мене також непокоїть, що коли ця ненадійна інформація починає використовуватися з певною метою — наприклад, для радикалізації поменшої онлайн-популяції — вона може підірвати довіру до інститутів, що займаються збереженням знань у проблемному веб-просторі, як-от Вікіпедія.

Елон Маск не створить кращу Вікіпедію. Але в нього є безліч ботів, які навчені знижувати довіру до Вікіпедії. І чим більш розмите стає його бачення реальності, тим небезпечніше це для суспільства.