Start Grokipedii: Jak alternatywa dla Wikipedii rozpowszechnia dezinformację.

Jak informuje Vox: Grokipedia, inicjatywa Elona Muska mająca na celu stworzenie alternatywy dla Wikipedii, już wystartowała. Wstępne analizy pokazują, że strona oparta na xAI i kontrolowana przez prawicowego asystenta AI Grok, już zaczęła reagować na dezinformację w sposób autonomiczny.

Grokipedia jest w zasadzie kolejnym manifestem ambicji Muska w jego walce o 'przebudzenie świadomości'. Projekt ten pokazuje, jak przekształca on udane inicjatywy, takie jak Wikipedia, w mniej efektywne wersje, jednocześnie ogłaszając zwycięstwo.

Jeśli Musk odniesie sukces i Grokipedia stanie się prawdziwym konkurentem dla Wikipedii, może to stwarzać problemy dla zwykłych użytkowników Internetu. Już widzieliśmy, jak Musk może wykorzystać swoje zasoby i wpływy, aby przekształcić platformę X w maszynę dezinformacyjną. Stworzenie jednej bazy tej dezinformacji, która może szkolić modele xAI lub nawet konkurencyjne modele AI, prawdopodobnie tylko przyspieszy ich rozpowszechnienie.

Mówienie o Grokipedii nie oznacza tylko, że może być zła. Może to również pogorszyć jakość reszty Internetu.

Droga do Grokipedii

Oczywiście Grokipedia używa Wikipedii jako swoich głównych źródeł, integrując jednak ekstremistyczne poglądy i teorie spiskowe dotyczące niektórych tematów i przedstawiając te informacje jako fakty. W tej chwili Grokipedia nie ma ilustracji ani linków, co nadaje stronie wygląd podobny do wyniku zapytania chatbota. Grokipedia jest około siedem razy mniejsza od Wikipedii, ale to tylko wersja v0.1, a Musk twierdzi, że 'wersja 1.0 będzie dziesięć razy lepsza'.

Byłem zaskoczony, że Grokipedia nie ma artykułu na temat 'apartheidu', ale jeśli znajdziesz 'teorię ludobójstwa płciowego' – jeden z ulubionych tematów dyskusyjnych Muska – natrafisz na artykuł, który narzeka, że wspólnota akademicka próbuje 'wypchnąć tę teorię na margines teorii spiskowych, mimo że istnieją obserwowalne dane dotyczące zmian demograficznych'. Wikipedia wskazuje, gdzie to możliwe, w nagłówku, że ta teoria to teoria spiskowa.

Aby zrozumieć Grokipedię, ważne jest, aby zwrócić uwagę na jej pochodzenie – tweet Davida Sachsa, przewodniczącego AI prezydenta Donalda Trumpa i długoletniego przyjaciela Muska. Tweet z 29 września brzmi: 'Wikipedia jest beznadziejnie stronnicza. Armia lewicowych aktywistów kontroluje biografie i sprzeciwia się rozsądnym poprawkom'.

Wygląda na to, że Sachs skierował ten tweet bezpośrednio do Muska, który aktywnie krytykował Wikipedię przez cały rok. W zeszłe święta Musk wezwał swoich zwolenników do 'zaprzestania finansowania Wokepedii', wskazując na nadmierne wydatki organizacji na różnorodność, sprawiedliwość i inkluzyjność. Nazwał Wikipedię 'aplikacją propagandy tradycyjnych mediów' i wyjaśnił, że xAI stworzy Grokipedię w odpowiedzi na tweet Sachsa.

Rozmyta teoria JPEG w Internecie

Kiedy usłyszałem o wprowadzeniu Grokipedii, natychmiast przypomniałem sobie artykuł 'Rozmyta JPEG', opublikowany przez New Yorkera w 2023 roku. Autor, sci-fi pisarz Ted Chiang, szczegółowo wyjaśnia, jak działają duże modele językowe, tworząc syntetyczny tekst na podstawie prawdziwego pisania i czy mogą one reprezentować prawdziwą wiedzę.

Rozmyta JPEG wskazuje na problem przesyłania obrazu do Internetu, który musi zostać skompresowany, wersja o niższej rozdzielczości zostaje pobrana i ponownie skompresowana. Ostatecznie obraz staje się nierozpoznawalny przez utratę informacji podczas kopiowania.

To samo dotyczy informacji w Internecie. I w pewnym sensie to idee przesyłania, mieszania i ponownego dystrybucji treści sprawiają, że sieć jest tak fascynująca. Blogging, który na początku dziennikarstwa stał się dla mnie i wielu innych, często opiera się na czytaniu tego, co się dzieje w Internecie, przetwarzaniu pomysłów i przekształcaniu ich dla konkretnej publiczności, czasami w pewnym stopniu z uprzedzeniami. Tweetowanie, będące potomkiem blogowania, jeszcze bardziej kompresuje te posty, ale jego głównym celem pozostaje ten sam: demokratyzacja i przyspieszanie wiedzy oraz pomysłów w online'owym otoczeniu. Wikipedia spełnia tę funkcję w najprostszej formie.

Ale podobnie jak w przypadku JPEG czy starych kserokopiarek, ponowne kopiowanie prowadzi do rozmycia pewnych szczegółów, które wydawały się mniej ważne. Kompresja ułatwia wymianę danych, ale utrudnia śledzenie do pierwotnego źródła.

Wygląda na to, że Grokipedia już boryka się z tym problemem. Nie jest jasne, jak xAI stworzyło ten zasób, ale Matteo Wong w Atlantic przedstawia teorię. Najbogatszy człowiek na świecie kupił Twitter i otworzył platformę dla skrajnie prawicowych głosów. 'Następnie przekształcił tę zbiorowisko teorii spiskowych, agresji i memów w model AI, który już został zaprojektowany, aby unikać kontrowersyjnych lub nawet nienawistnych poglądów', twierdzi Wong. 'Ostatecznie Musk użył tego modelu AI, aby stworzyć antyprzebudzeniową encyklopedię'.

Innymi słowy, Grokipedia została stworzona z udziałem ludzi, ale w znacznym stopniu pod kontrolą Muska. Wygląda na to, że umieszcza on swoje niezadowolenie, reakcje swoich prawicowych zwolenników i z powrotem integruje to w AI, które organizuje pomysły w encyklopedię: Grokipedia. W porównaniu z Wikipedią, która również ma swoje wady i swoją część dezinformacji z powodu otwartej platformy, istnieje tam system kontroli jakości.

Obawiam się, że ta analogia rozmytego JPEG, chociaż alarmująca, może nie wystarczyć, aby w pełni zobrazować sytuację. Jeszcze rok temu, po wprowadzeniu ChatGPT, nie mogliśmy z pewnością stwierdzić, czy ta technologia przyniesie więcej korzyści czy szkód. Teraz, wraz z pojawieniem się informacji generowanych przez AI i stron takich jak Grokipedia, zaczynamy dostrzegać, że negatywne konsekwencje narastają. Wydaje się nieuniknione, że generatywna AI i jej różne gałęzie, w tym encyklopedie generowane przez AI, będą reprodukować treści z Internetu – i zasadniczo mogą reprodukować wiedzę w gorszej jakości, rozmytej formie.

Obawiam się również, że jeśli te niewiarygodne informacje zostaną wykorzystane w określonych celach – na przykład do radykalizacji mniejszej populacji online – mogą podważyć zaufanie do instytucji zajmujących się przechowywaniem wiedzy w problematycznej przestrzeni internetowej, takiej jak Wikipedia.

Elon Musk nie stworzy lepszej Wikipedii. Ale ma mnóstwo botów, które są szkolone, aby obniżać zaufanie do Wikipedii. A im bardziej rozmyta jest jego wizja rzeczywistości, tym bardziej niebezpieczne jest to dla społeczeństwa.