OpenAI uruchomiło Sora 2: jakie nowe zagrożenia czekają na użytkowników.

Jak informuje Vox: Trudno ocenić firmy technologiczne na podstawie ich misji. Przykłady Google z jego 'Nie bądź zły' oraz WeWork z 'Podnoszeniem świadomości świata' pokazują, że misje często kształtują się w młodości firmy, kiedy jej marzenia są nieograniczone, inwestorzy optymistycznie się uśmiechają, a termin 'obowiązek fiducjarny' jeszcze nie staje się aktualny. Przypomina to ocenę osoby na podstawie sentymentów w szkolnym albumie.

Jednak oczywiste jest, że OpenAI utrudnia tę sytuację.

Na stronie firmy nadal można znaleźć ich słowa, które po raz pierwszy pojawiły się w statucie w 2018 roku, trzy lata po założeniu: “Naszą misją jest zapewnienie, aby ogólny sztuczny inteligent - systemy AI, które są ogólnie mądrzejsze od ludzi - przynosił korzyści całej ludzkości.” To, delikatnie mówiąc, nie do końca to, czego się trzymali, o czym świadczy szereg publikacji Future Perfect.

Na przykład, gdybyś zapytał mnie o moją misję na trzy lata, prawdopodobnie powiedziałbym: “Zostać pierwszym zawodnikiem NBA na Marsie.” Nie zawsze osiągamy nasze cele. Priorytety się zmieniają, nie wyrastasz do 2,18 metra, a okazuje się, że boisz się kosmosu - zrozumiałeś, o co mi chodzi.

Nieskończone porcje sztucznej inteligencji

Sora 2 najlepiej wyobrazić sobie tak: łączy zapewne najgorszy aspekt dużych modeli językowych, takich jak ChatGPT - ich zdolność do wciągania użytkowników - z najgorszą cechą nowoczesnych mediów: nieskończonymi wertykalnymi filmami, które, poza innymi negatywnymi skutkami, obniżają naszą uwagę.

To jak mieszanie heroiny z... Nie wiem, czy istnieje narkotyk, który wywołuje niezwykłe uzależnienie, zmuszając cię do wpatrywania się w ekran, jednocześnie odbierając kilka dziesiątek punktów IQ. Może heroiną z jeszcze większą ilością heroiny? Nie jestem pewien, czy mam wystarczające doświadczenie w tej dziedzinie, żeby to ocenić.

Główne problemy związane z niezwykle realistycznymi filmami generowanymi przez AI pojawiły się praktycznie natychmiast po uruchomieniu Sora 2 na początku tego tygodnia.

Po pierwsze, to problemy z prawem autorskim. Jednym z pierwszych filmów, które zobaczyłem w Sora 2, był idealnie odtworzony klip, w którym Rick i Morty odwiedzają SpongeBoba. Okazuje się, że OpenAI domyślnie zezwoliło na użycie chronionych materiałów, nakładając obowiązek na właścicieli własności intelektualnej aktywować prośby do OpenAI o usunięcie ich materiału.

Po drugie, są to fałszywe filmy. Jedną z głównych funkcji Sora 2 jest możliwość przesłania swojego wizerunku do aplikacji i wstawienia go w dowolny film generowany przez AI. Zgodnie z danymi Washington Post, doprowadziło to do momentalnego stworzenia fałszywych filmów o organach ścigania, prawdziwych ludzi w kostiumach nazistowskich generałów, niezwykle realistycznych, ale fałszywych filmów historycznych, a nawet - CEO OpenAI, Sama Altmana, który kradł w sklepie.

Oznacza to, że podczas gdy Prezydent USA publikuje, wydawałoby się, AI-generowane fałszywe filmy, OpenAI tylko dało Amerykanom - przynajmniej tym, którzy mają kod dostępu do Sora 2 - absolutnie realistyczne fałszywe filmy za pomocą jednego naciśnięcia przycisku. I stworzyło sieć społecznościową przypominającą TikTok, gdzie można je łatwo udostępniać.

Kto zyska?

Więc co na to mówi Sam Altman? Na szczęście prowadzi bloga od 2013 roku, gdy rozmyślał o możliwym istnieniu kosmitów. Napisał, że Sora 2 jest “momentem ‘ChatGPT dla kreatywności’,” który może doprowadzić do “wybuchu kambryjskiego,” gdzie “jakość sztuki i rozrywki może radykalnie wzrosnąć.”

Co mogę powiedzieć? Bez wątpienia okres po wybuchu kambryjskim doprowadził do kilku dość dziwnych stworzeń, takich jak Tullimonstrum, czyli “monstrum Tulli,” stworzenie z oczami na czole i “ustnym” kończynie, podobnej do tego, co mogłoby się zdarzyć, gdyby Bóg miał kod dostępu do Sora 2. Jeśli bezkrwawa i nudna maszyna do remiksów to kreatywność w przyszłości, wolałbym AI, które tworzy spinacze.

Ale chyba najgorszą częścią Sora 2 jest to, że zaciera pracę AI, która może naprawdę przynieść korzyść całej ludzkości. W tym samym tygodniu, w którym OpenAI wprowadziło Sora 2, kilku byłych pracowników dużych firm AI ogłosiło uruchomienie Periodic Labs, startupu mającego na celu wykorzystanie sztucznej inteligencji do przyspieszenia odkryć w dziedzinie fizyki, chemii i innych dziedzin nauki. To jest to, co rzeczywiście może być użyteczne.

Mówiąc wprost, czy mamy być jedynie podporządkowani żądaniom rynku? OpenAI to biznes. (Czyż nie jest to organizacja non-profit? Czy organizacja z interesem publicznym? Na razie ta kwestia pozostaje niejasna.) To przedsiębiorstwo, które działa zgodnie z popytem. W związku z tym ostatnią obroną - dla nas, użytkowników świata - jest wstać i powiedzieć: “Nie, nie będę konsumować twojego AI-śmiecia.”

Na zakończenie, Sora 2 obecnie zajmuje trzecie miejsce w rankingu aplikacji na iPhone'a. Z tym musimy żyć.