ROZDZIAŁ 1
MAGICZNE GRZYBKI I MAGICZNE NARZĘDZIE
Pablo Xavier, jak sam przyznał, po południu 24 marca 2023 roku spożył nieco za dużo magicznych grzybków. (Czy AI mogłoby tak zacząć rozdział?)
Trzydziestojednoletni robotnik budowlany z okolic Chicago posłużył się halucynogenną substancją dla zabicia czasu i żeby wzmocnić swoją kreatywność. Pablo (prosił mnie, abym nie zdradzał jego nazwiska, chce bowiem zachować anonimowość) liczył też na zdławienie niepokoju, który wzbudziła w nim przedwczesna śmierć brata, a przy okazji szukał sposobu, aby go powspominać.
Natknął się na Midjourney, zasilany sztuczną inteligencją generator obrazów, oddany do użytku publicznego w 2022 roku, i pomyślał, że program może mu pomóc. Jak wszystkie generatywne narzędzia AI, Midjourney jest szkolony na ogromnych zbiorach danych. W przypadku Midjourney jest to 100 milionów obrazów, pobranych bez zgody z Internetu, co przyznał założyciel firmy David Holz w wywiadzie dla "Forbesa": "Naprawdę nie ma sposobu, aby pozyskać 100 milionów obrazów i wiedzieć, skąd wszystkie pochodzą".
Oparty na AI generator obrazów uczy się, dokładnie analizując każdy załadowany obraz i wykorzystując widzenie komputerowe do zrozumienia, co takiego widzi. Czasami tożsamość obiektu jest niejasna. Zbitka czerwonych i białych pikseli obok siebie może być piłką plażową, biało-czerwonym słupkiem przed barber shopem albo laską cukrową. Kiedy model AI bada obszar w otoczeniu obiektu, może poprawić domysły. Często wspomagany jest przez etykietowanie rękami człowieka - ktoś włącza się do procesu, rysuje metaforyczny krąg wokół piłki plażowej i mówi: "To jest piłka plażowa". Informacja na temat kształtu, koloru, rozmiarów i typowego położenia względem innych obiektów jest następnie zapisywana. Z czasem AI zbiera coraz więcej kontekstowych wskazówek z wielu różnych obrazów przedstawiających piłki plażowe, co pozwala wytworzyć złożone rozumienie tego, jak wygląda piłka plażowa.
Wystarczy ćwiczyć model AI dostatecznie dużo razy na dostatecznie różnych obiektach i efektem jest narzędzie w rodzaju Midjourney. Użytkownik wprowadza polecenie tekstowe - na przykład: narysuj mi piłkę plażową na Księżycu - a program posłusznie tworzy obraz.
"Szukałem ujścia dla targających mną emocji" - powiedział mi Pablo. Przyszło mu do głowy, że może uda się to osiągnąć za pośrednictwem Midjourney, jeśli program pomoże przekształcić zdjęcie zmarłego brata w postać z kreskówki i sprawi w ten sposób, że brat będzie nadal żył w tym nowym wcieleniu. Zamówił rysunkową postać, która celowo była odrealniona, a potem posłał swojego wirtualnego bohatera w wir heroicznych przygód. "Praktycznie właśnie od tego wszystko się zaczęło, od radzenia sobie z rozpaczą i obrazów mojego zmarłego brata" - przyznał. "Potem pokochałem to całym sercem". Wkrótce Pablo sięgnął po coś więcej niż komiksowe podobizny brata. Zaczął wykorzystywać Midjourney do uprawiania sztuki.
"Próbowałem sklejać śmieszne albo odjechane obrazki, trochę psychodeliczne" - opowiadał dalej. I nagle grzybki zrobiły swoje. "Zwyczajnie olśniło mnie. Powinienem zrobić papieża" - wspomina. "Od tej chwili myśli napływały strumieniem. "Papież w puchowym płaszczu od Balenciagi albo Moncler [jeszcze jedna modna marka luksusowych ubrań], spacerujący po ulicach Rzymu, Paryża, takie tam"".
Pablo wpisał prompty (polecenia tekstowe) do Midjourney o 13.48 w piątek, pod koniec marca 2023 roku. W odpowiedzi dostał trzy obrazki. Pracownik budowlany pomyślał, że są doskonałe. Udało mu się - albo raczej Midjourney - stworzyć niesamowicie wierne wizerunki papieża Franciszka ubranego w przydużą, białą, puchatą kurtkę z kapturem. Obrazki wzbudzały zainteresowanie, wypełniając "dolinę niesamowitości" realizmu. Ponieważ papież jest człowiekiem w określonym wieku, zamieszkującym we Włoszech, z dostatecznie dużym zasobem gotówki na modne ubrania, sposób, w jaki się ubrał, wydawał się co najmniej prawdopodobny.
Pablo zamieścił swoje dzieła na grupie Facebooka o nazwie AI Art Universe i na subredditcie r/midjourney, gdzie entuzjaści generatywnego AI dzielą się własnoręcznymi pracami. Stamtąd były pobierane, pozbawione jakże ważnego kontekstu, i rozpowszechniane na Twitterze, gdzie wielu ludzi zostało wprowadzonych w błąd.
Kiedy Pablo otrzeźwiał z psychodelicznego odurzenia, partnerka zapytała go, czy widział, co znalazło się na jego Facebooku. Internet eksplodował komentarzami na temat papieża. Hollywoodzka celebrytka Chrissy Teigen zatweetowała: "Pomyślałam, że puchowa kurtka papieża jest prawdziwa, i w ogóle się nad tym nie zastanowiłam. Nie ma szans, żebym przetrwała z tą technologią przyszłości".
Reakcja Pabla zamknęła się w dwóch słowach: "Ja p...lę!". "Powaliło mnie" - wyznał. "Wcale nie chciałem rozpętać takiej burzy". Nie był też przygotowany na gwałtowną reakcję ludzi, którzy mieli wrażenie, iż jego zamiarem było świadome oszukanie ich albo, co gorsza, obrażenie 1,3 miliarda katolików na całym świecie. Pablo wychował się w katolickiej rodzinie, ale nie czuje się już związany z religią. Martwił się, co pomyśli jego rodzina, wysłał więc obraz żyjącemu bratu, katolikowi, lecz ten, na szczęście, stwierdził, że jest zabawny. Był przekonany, że jest prawdziwy. "Musiałem powiedzieć mu, że zrobiłem go za pomocą Midjourney" - przyznał Pablo.
Kiedy rozmawiałem z nim w samym środku medialnej burzy, Pablo zdawał się zupełnie nieprzygotowany, by stawić czoła konsekwencjom swojej zabawy na halucynogenach. Odrzucał wszystkie kierowane za moim pośrednictwem prośby o wywiad ze strony Google, BBC, kanadyjskiego nadawcy publicznego, "Time'a", "Popular Science", "El Mundo" i "The New York Timesa". Był zbyt przestraszony perspektywą, że może mu się wymknąć coś, co jeszcze bardziej rozsierdzi ludzi.
Pablo nie mógł pojąć, że ludzie wierzyli, iż stworzony przez niego obraz przedstawia rzeczywistość. Kiedy zamieszczał go w sieci, był przekonany, iż od razu widać, że stworzyło go AI. Nie przyszło mu przez myśl, że zostanie wyrwany z kontekstu i szeroko rozpowszechniony, ani to, że ludzie będą tak łatwowierni.
Frankenstein musiał zrobić rachunek sumienia, gdy przyszło mu się zmierzyć ze spustoszeniem, jakie siał stworzony przez niego potwór. Podobnie czuł się Pablo. "Nie miałem złych intencji" - tłumaczył się. "Papież ubrany w taką fikuśną kurtkę wydał mi się po prostu zabawny". Przygnębiło go, że jego twórczość została przejęta: widział już, że te obrazy zostały użyte do ilustrowania artykułów atakujących Kościół katolicki za rozrzutność.
To dziwne, ale w zderzeniu cyfrowego i realnego świata wykreowanym przez AI obrazom często towarzyszy całkiem rzeczywista fotografia, zrobiona w 2017 roku i przedstawiająca papieża Franciszka chrzczącego warte 200 tysięcy dolarów białe lamborghini, z dwoma złotymi pasami na masce, nadającymi mu sportowy charakter.
"Czuję się podle" - podsumował Pablo. - "Nie ja to zacząłem. Jestem pewien, że to i tak by się stało, jednak to ja za pomocą Midjourney umożliwiłem ludziom tworzenie fałszywych wiadomości".
Obrazy, znane obecnie jako "papież w kurtce od Balenciagi" lub "papież w puchowej kurtce", były drugim przypadkiem, gdy deepfake w jednym i tym samym tygodniu oszukał Internet. Jeszcze przed rzekomo planowanym aresztowaniem byłego prezydenta Stanów Zjednoczonych Eliot Higgins, najbardziej znany z tego, że był założycielem serwisu internetowego Bellingcat, który zajmował się dziennikarstwem śledczym, wykorzystał Midjourney do stworzenia realistycznych "fotografii" przedstawiających, jak mogłoby wyglądać zatrzymanie Trumpa i wtrącenie go do więzienia. Kiedy obrazy papieża w kurtce wywołały efekt podobny do tych Higginsa, Pablo Xavier postanowił nie zamieszczać na forum innych, stworzonych w Midjourney, przedstawiających papieża gestykulującego jak członek gangu, ale zrobił to tylko na Instagramie, gdzie mogły być obejrzane przez znacznie mniej użytkowników. Narzucił sobie nową zasadę w odniesieniu do jakichkolwiek obrazów wygenerowanych w Midjourney w przyszłości: żadnych osób publicznych. Powiedział mi, że nie widzi problemu w tym, iż ktoś używa generatorów obrazu do tworzenia prac w stylu artystów takich jak Vincent van Gogh - później odkryjemy, że świat miłośników sztuki nie podziela tego poglądu - ale ma wrażenie, iż przedstawianie żyjących ludzi to granica, jakiej nie powinien przekraczać.
Zafascynowanie tego człowieka pracy generatywnym AI i późniejsza eksplozja jego twórczości w świadomości społecznej uwydatniają dwa najważniejsze filary, na których wspiera się ta książka.
Pierwszy z nich: Pablo Xavier, jak sam przyznał, nie zastanawiał się nad konsekwencjami korzystania z AI. Nie brał pod uwagę, że obrazek, który stworzył dla zabawy pod wpływem grzybków halucynogennych, zacznie żyć swoim życiem i rozprzestrzeni się w Internecie szybciej, niż on sam zdąży wypowiedzieć frazę: "wygenerowane za pomocą komputera oszustwo".
Drugi: ujrzawszy ogrom tego, co nieświadomie można wykreować za pomocą AI, wielu twórców takich treści nabiera wątpliwości. W dalszych rozdziałach spotkamy fanów hip-hopu, którzy gromadzą się wokół aplikacji do czatu, takich jak Discord, i bawią się narzędziami, w tym noszącym nieszkodliwą nazwę So-Vits-SVC, aby komponować utwory brzmiące idealnie jak piosenki śpiewane przez Jay-Z, Drake'a lub Kanye Westa, tylko że wymienieni artyści nigdy tych piosenek nie zaśpiewali. Ludzie ci, podobnie jak Pablo, zdobyli się na refleksję i zadali sobie pytanie, czy to, co robią, powinno się jakoś uregulować. Zadziwiająco wielu z nich doszło do wniosku, że AI trzeba ograniczyć.
Co się tyczy papieskich obrazów Pabla, sam papież nie wypowiedział się publicznie na temat fałszywek, ale wykorzystał moment, gdy ogłaszał, iż tematem przewodnim Światowego Dnia Pokoju w 2024 roku będzie AI, aby poprosić o "otwarty dialog" w zakresie znaczenia i zastosowań nowych technologii. Biuro prasowe Stolicy Apostolskiej wystosowało komunikat, w którym padło stwierdzenie, iż istnieje "pilna potrzeba ukierunkowania koncepcji i stosowania sztucznej inteligencji w odpowiedzialny sposób, aby mogła ona służyć ludzkości i ochronie naszego wspólnego domu".
Pośród obaw o to, że AI zdławi kreatywność i położy kres indywidualności ludzi, często przeoczamy to, iż w każdym wspomaganym przez nie procesie twórczym mają swój udział dwa czynniki: technologia i człowiek. Ten pierwszy nie może istnieć bez drugiego. Przynajmniej jeszcze nie, jak twierdzą niektórzy.
Mamy dużo czasu, aby do tego dojść. Tymczasem, zanim skoczymy do lata roku 1956, wyznaczającego narodziny AI, cofnijmy się do okresu poprzedzającego II wojnę światową - to wtedy zostało zasiane ziarno technologii, która pozwoliła Pablowi ubrać papieża w kurtkę od Balenciagi.
CIĄG DALSZY DOSTĘPNY W PEŁNEJ WERSJI