Запуск Grokipedia: как альтернатива Википедии распространяет дезинформацию.

Как сообщает Vox: Grokipedia, инициатива Илона Маска, нацеленная на создание альтернативы Википедии, уже запущена. Предварительные анализы показывают, что сайт, основанный на xAI и под контролем правостороннего AI помощника Grok, уже начал выполнять функцию самостоятельного ответа на дезинформацию.

Grokipedia, по сути, является еще одним проявлением амбиций Маска в его борьбе за 'пробуждение сознания'. Этот проект демонстрирует, как он трансформирует успешные инициативы, такие как Википедия, в менее эффективные версии, при этом объявляя о победе.

Если Маск добьется успеха и Grokipedia станет реальным конкурентом Википедии, это может создать проблемы для обычных пользователей Интернета. Мы уже видели, как Маск может использовать свои ресурсы и влияние, чтобы трансформировать платформу X в механизм дезинформации. Создание единого хранилища такой дезинформации, которое может обучать модели xAI или даже конкурирующие модели AI, вероятно, лишь ускорит ее распространение.

Говорить о Grokipedia — это не только о том, что она может быть плохой. Она также может ухудшить качество остальной части Интернета.

Путь к Grokipedia

Очевидно, Grokipedia использует Википедию в качестве своего основного источника, но внедряет некоторые праворадикальные взгляды и теории заговора в определенных темах, представляя эту информацию как факты. Сейчас в Grokipedia нет иллюстраций и ссылок, что придает сайту сходство с результатами запроса чат-бота. Grokipedia примерно в семь раз меньше Википедии, но это всего лишь версия v0.1, и Маск утверждает, что 'версия 1.0 будет в 10 раз лучше'.

Удивило меня, что в Grokipedia нет статьи о 'апартеиде', но если вы найдете 'теорию гендерного геноцида' — одно из любимых обсуждений Маска — вы наткнетесь на статью, которая обвиняет академическое сообщество в том, что оно якобы пытается 'сместить эту теорию на край теорий заговора, несмотря на наблюдаемые данные о демографических изменениях'. Википедия, насколько это возможно, указывает на эту теорию как на теорию заговора в заголовке.

Для понимания Grokipedia важно обратить внимание на ее происхождение — твит Дэвида Сакса, главы AI президента Дональда Трампа и давнего друга Маска. В твите от 29 сентября говорится, что 'Википедия безнадежно предвзята. Армия левых активистов контролирует биографии и выступает против разумных правок'.

Кажется, Сакс адресовал этот твит прямо Маску, который в течение года активно критиковал Википедию. Прошлым Рождеством Маск призвал своих подписчиков 'Прекратить донаты в Wokepedia', указывая на чрезмерные расходы организации на разнообразие, справедливость и инклюзивность. Он назвал Википедию 'дополнением пропаганды традиционных медиа' и заявил, что xAI создаст Grokipedia в ответ на твит Сакса.

Теория размытого JPEG в Интернете

Когда я узнал о запуске Grokipedia, сразу вспомнил статью 'размытый JPEG', опубликованную в New Yorker в 2023 году. Автор, научный фантаст Тед Чианг, подробно объяснил, как работают большие языковые модели, создавая синтетический текст на основе настоящего письма, и могут ли они отражать настоящие знания.

Размытый JPEG указывает на проблему загрузки изображения в Интернете, которое требует сжатия, скачивания версии с более низким разрешением и повторного сжатия. В конечном итоге изображение становится неузнаваемым из-за потери информации во время копирования.

Это относится и к информации в Интернете с давних пор. И в определенном смысле, эта идея загрузки, смешивания и перераспределения контента стала тем, что делает Веб таким захватывающим. Блогинг, который стал началом журналистики для меня и многих других, часто основывается на чтении того, что происходит в Интернете, обработке идей и их переформатировании для определенной аудитории, иногда с определенными предвзятостями. Твитинг, наследник блогинга, еще больше сжимает эти посты, но его основная цель остается: демократизировать и ускорять распространение знаний и идей в онлайн-среде. Википедия, в своей самой простой форме, выполняет ту же функцию.

Но, как и с JPEG или старомодными ксероксами, повторное копирование приводит к размыванию определенных деталей, которые казались менее важными. Сжатие упрощает обмен данными, но усложняет возвращение к оригинальному источнику.

Похоже, что Grokipedia уже сталкивается с этой проблемой. Точно неизвестно, как xAI создал этот ресурс, но Маттео Вонг в Atlantic предлагает теорию. Самый богатый человек мира купил Твиттер и открыл платформу для крайних правых голосов. 'Тогда он использовал эту схованку теорий заговора, агрессии и мемов в модели AI, которая уже была разработана, чтобы не избегать противоречивых или даже ненавистных взглядов,' — утверждает Вонг. 'Наконец, Маск использовал эту модель AI для создания анти-пробуждающей энциклопедии'.

Иными словами, Grokipedia создавалась с участием людей, но в значительной степени под контролем Маска. Это похоже на то, что он загружает свое возмущение, реакции своих правых последователей, а затем снова интегрирует это в AI, который организует идеи в энциклопедию: Grokipedia. В сравнении с Википедией, которая не идеальна и также имеет свою долю дезинформации из-за открытой платформы, там существует система, контролирующая качество контента.

Меня беспокоит, что эта аналогия размытого JPEG, хотя и настораживает, может быть недостаточной, чтобы полностью отразить ситуацию. Еще год назад, после запуска ChatGPT, мы не могли с точностью определить, принесет ли эта технология больше пользы или вреда. Теперь, с появлением AI-сгенерированной информации и сайтов вроде Grokipedia, мы замечаем, что негативных последствий становится все больше. Кажется неизбежным, что генеративный AI и его различные ответвления, включая AI-сгенерированные энциклопедии, воспроизводят контент Интернета — и, по сути, само знание — в худшем качестве, размытой форме.

Меня также беспокоит, что когда эта ненадежная информация начинает использоваться с определенной целью — например, для радикализации меньшей онлайн-популяции — она может подорвать доверие к институтам, занимающимся сохранением знаний в проблемном веб-пространстве, таких как Википедия.

Илон Маск не создаст лучшую Википедию. Но у него есть множество ботов, которые обучены снижать доверие к Википедии. И чем более размытой становится его видение реальности, тем опаснее это для общества.