Preludium. Przeciw bogom AI
Preludium
Przeciw bogom AI
Z ustępu skalnego pod szczytem Kazbeku widać wiele i niewiele. Zależy,
gdzie padnie wzrok. Powyżej jawi się, zawieszona na czubku jednego z wulkanicznych stożków, nieruchoma chmura soczewkowa. Niżej -?wyraźny
fragment zbocza tego majestatycznego stratowulkanu. Żleby pokryte
jeszcze śniegiem. Dalej, aż po horyzont, ostre wierzchołki najwyższych
gór Kaukazu i łagodniejsze linie zielonych wzgórz. Gdzieś w oddali można
zauważyć punkcik kilku budowli: drewnianego kościółka, pasterskiego
szałasu i potężnego schroniska dla śmiałków, którzy zamierzają wspiąć
się na najbardziej mityczną górę Gruzji.
Górę, która -?rozkazem wszechpotężnego Zeusa -?stała się wiecznym
więzieniem Prometeusza. To tam właśnie miał odbywać niekończącą się karę
za kradzież ognia i bezprawne podarowanie go ludzkości. Tam miał wisieć,
przykuty do skały, a gigantyczny orzeł codziennie wydziobywał mu
wątrobę, która wciąż odrastała. Według najbardziej rozpowszechnionej
wersji mitu monstrualne ptaszysko było potomkiem dwóch potworów:
poczętego bez udziału mężczyzny Tyfona oraz żywiącej się ludzkim mięsem
Echidny. Jest jednak alternatywna wersja. Według niej orzeł był
automatonem, robotycznym ptakiem z brązu, skonstruowanym przez boga
ognia, Hefajstosa. Technologia za technologię.
Z półki skalnej, na której ma po wieczne czasy wisieć tytan, który
przyniósł ludziom techné, pierwszą i najważniejszą naonczas
umiejętność korzystania z ognia, Prometeusz nie może zobaczyć, jak
tysiące lat później ludzkość wykorzystuje właściwości płomienia. Nie
widzi hut z rozgrzanymi do czerwoności konwertorami i piecami
martenowskimi, nie widzi dymiących kominów elektrowni, nie widzi
kontrolowanego ognia, stosowanego podczas utleniania termicznego w produkcji półprzewodników, nie widzi ziejących ogniem rakiet, odpalanych
w kosmos. Nie widzi, jak bardzo ludzkość wciąż czerpie z mitycznego
daru. I nie widzi, że czas tytanów wydaje się dobiegać końca. Nie widzi,
że nowoczesne technologie to coraz częściej dar, który okazuje się
puszką Pandory, że innowacje stają się prestiżową kartą przetargową w rękach miliarderów, że wyścig kosmiczny zmienia się w statusową zabawę
technokratów i że ludzkość tworzy nowe wynalazki, jednocześnie nie mogąc
nadążyć za starymi.
W tej chwili technologią du jour jest sztuczna inteligencja i wszystkie zmiany z nią związane, ale za rogiem czekają już kolejne
technorewolucje. Przede wszystkim te, związane z biologią syntetyczną i technologiami kwantowymi. Mogą one wprawdzie wprowadzić jeszcze więcej
chaosu i zamieszania niż dotychczasowe przełomowe odkrycia i wynalazki,
ale jednocześnie mogą pchnąć świat do przodu. Na nowe, nieznane jeszcze
ścieżki. Dlatego w tych czasach bardziej niż kiedykolwiek potrzeba
Prometeuszy, z ich buntem przeciwko niesprawiedliwości, heroiczną
postawą i oddaniem. Warto ich odszukać...
01000001 01100001. Dolina Mózgowców i nowa rewolucja Doliny Krzemowej.
01000001 01100001
Dolina Mózgowców i nowa rewolucja Doliny Krzemowej.
Czyli tam, gdzie
powstają innowacyjne algorytmy
Feniks. Mit rezonujący w Dolinie Krzemowej najmocniej. Opowieść o niezwykłym ptaku -?niespotykanie mądrym, potężnym i pięknym, który nie
tylko przeczuwał kres swojego istnienia, ale przygotowywał się do
śmierci, budując gniazdo z suszonych ziół i wonnych kwiatów, spajając je
żywicą kadzidłową -?stała się tam lejtmotywem. Gniazdo to stawało się
stosem, na którym ptak dokonywał samospalenia, by po trzech dniach
odrodzić się na nowo. Najpierw jako czerw, a potem jako pisklę, by
wreszcie móc pokazać się w całej swojej okazałości: z potężnymi szponami
i dziobem, mieniącym się kolorami jak macica perłowa, ze szmaragdowymi
oczyma i purpurowo-złotym upierzeniem.
Dolina Krzemowa odradzała się jak feniks z popiołów już kilkukrotnie w swojej historii. Nie zmógł jej ani krach dotcomów na przełomie wieków,
ani kryzys finansowy w 2008 roku, ani pandemia. Z każdego kryzysu
wychodziła cało, choć nie bez szwanku. Potrafiła odbudować się od nowa,
w nieco innym kształcie, z nieco innymi ambicjami i celami, ale wciąż z niewyczerpanym potencjałem. Teraz trwa w kolejnym swoim wcieleniu. Innym
niż poprzednie. Bardziej cynicznym, bardziej pragmatycznym. Do lamusa
odłożono wcześniejsze ideały, przekonanie, że ta "stolica przełomowych
technologii" zaoferuje światu rozwiązania na wszystkie bolączki: wojny,
głód, ubóstwo, choroby... A także śmierć.
Symboliczną zmianą stało się usunięcie z opisu misji Google'a motta,
które było dumnie powtarzane przez pracowników tej techkorporacji: "Nie
rób zła!". Hasło zniknęło, gdy wydało się, że firma -?wbrew swoim
wcześniejszym zapowiedziom, że stworzone przez nią rozwiązania
technologiczne nie będą służyć przemysłowi zbrojeniowemu -?współpracuje
z wojskiem i ma podpisany kontrakt z Pentagonem.
Dolina Krzemowa trzeciej dekady dwudziestego pierwszego wieku to wciąż
technologiczny feniks, ale taki, który już większość czasu spędza w bezpiecznym i zasobnym gnieździe. Techkorporacje, takie jak Wielka
Piątka, czyli: Alphabet (firma parasol dla Google'a, YouTube'a oraz
powiązanych z nimi firm i start-upów), Apple, Amazon, Meta i Microsoft
nie tylko rozrosły się do monstrualnych, monopolistycznych rozmiarów i okrzepły, ale także zesztywniały. Są mniej elastyczne, mniej skore do
szalonych, ryzykownych działań, które charakteryzowały Silicon Valley u schyłku poprzedniego stulecia i na przełomie wieków.
Nie znaczy to jednak, że region przechodzi okres stagnacji. Wręcz
przeciwnie. Wciąż rośnie i się rozwija, ale są to wzrost i rozwój
znacznie bardziej przewidywalne i obliczalne niż wcześniej, choć nadal
kotłuje się tam w innowacyjnym tyglu. Dolina Krzemowa to w końcu
przemysł nieustannej zmiany. Piwotów i wolt. Niekończących się
reinkarnacji. Pęcznienia kolejnych biznesowych baniek. Krachów i katastrof. Nieustannego zaciskania się i luzowania tak zwanej pętli
biznesowej zagłady -?jak o funkcjonowaniu w SiliconValley mówią
techies, mający świadomość, że tylko osiem procent z około dwunastu
tysięcy lokalnych start-upów przetrwa na rynku. Reszta albo zbankrutuje,
albo wyda wszystkie pozyskane fundusze, albo wyczerpana szukaniem
inwestorów zamknie działalność. Trupy tych firm grzebie się po cichu,
zacierając ślady, a przedsiębiorcy na ogół próbują szczęścia w kolejnym
projekcie. Wiedzą, że liczy się wytrwałość i adaptowanie do
zmieniających się warunków brzegowych.
Dlatego branża IT nadal anektuje coraz większą przestrzeń San Francisco
Bay Area, obszaru położonego między San Francisco na północy, San Jose
na południu, a Pacyfikiem i górami Santa Cruz na zachód oraz wybrzeżem
Zatoki San Francisco na wschód. To już nie tylko półprzewodniki,
komputery, smartfony i internet. To coraz bardziej biotechnologia, a także zielona energia. Powstają nowe kampusy dużych firm, budynki
przemysłowe przerabiane są na laboratoria. Dolina się dostosowuje i dywersyfikuje.
Przechodziła różne koleje losu. Jeszcze w latach czterdziestych
stanowiła owocowe zaplecze dla całego stanu. Po obu stronach polnych
dróg, które wiły się pośrodku niecki, sadzono rzędy niskopiennych drzew.
Hodowano brzoskwinie, morele i jabłka, ale największą chlubę przyniosły
regionowi węgierki, które suszono i sprzedawano tonami w całym kraju.
Amerykanie nie gustowali szczególnie w surowych śliwkach, ale suszone
cenili jako "naturalny środek przeczyszczający".
W czasach Wielkiego Kryzysu, a potem drugiej wojny światowej trzeba było
zaciskać pasa i media podsuwały przepisy na potrawy wegetariańskie,
podkreślając znaczenie błonnika dla zdrowia układu pokarmowego. Jednym z najbardziej znanych promotorów kuchni jarskiej był John Harvey Kellogg,
wynalazca kukurydzianych płatków śniadaniowych i masła orzechowego.
Promował wprawdzie nie tylko dietę roślinną, ale też "higienę rasową" i eugenikę, ale Amerykanie słuchali i kalifornijskie zagłębie sadownicze
rosło w siłę.
Sytuacja zaczęła zmieniać się kilka lat po wojnie, kiedy w Dolinie
Krzemowej, która oficjalnie nosiła wówczas nazwę Doliny Zachwytu Serca
(Valley of Heart's Delight) zaczęli pojawiać się pierwsi przedsiębiorcy
innowatorzy, zdegustowani skostniałymi i konserwatywnymi metodami
wdrażania innowacyjnych produktów i prowadzenia interesów na Wschodnim
Wybrzeżu. Z czasem miejsce to stało się mekką nie tylko dla naukowców i wynalazców, ale i dla inwestorów. Sand Hill Road w Palo Alto nadal
pozostaje ulicą o największej koncentracji kapitału inwestycyjnego na
całym świecie.
Silicon Valley stworzyła unikatowy ekosystem. Jak się okazało, nie tylko
wyjątkowy, ale niepodrabialny, choć wielu próbowało, ogłaszając jej
sobowtóry w różnych częściach świata. Wszystkie okazywały się
podróbkami. Niektóre wyjątkowo niezdarnymi.
Przez dekady Dolina Krzemowa była beniaminkiem świata. W opinii
publicznej zasiedlali ją herosi innowacji, współcześni Prometeusze,
którzy mieli przynosić ludzkości dary w postaci technologii zmieniającej
świat na lepsze. Większość z tych nadziei okazała się płonna. Nie
rozprawiono się z największymi problemami nękającymi planetę, pozwolono
za to prezesom, dyrektorom i wysokiej rangi menedżerom bogacić się bez
umiaru i zasiedlać panteon biznesowych tuzów.
"Kolebka globalnych innowacji" ponownie zaczęła przepoczwarzać się jakąś
dekadę temu.
W 2017 roku prezydentem Stanów Zjednoczonych został Donald John Trump i nagle się okazało, że nie jest on takim fanem technokracji jak poprzedni
rezydenci Białego Domu, co zagroziło specyficznemu ustrojowi
politycznemu panującemu w Silicon Valley, nazywanemu
technolibertarianizmem, a hołdującemu zasadzie: "Wolnoć, Tomku, w swoim
domku!", czyli "swoboda innowacji i brak ingerencji rządowych".
Techmagnaci mieli zbyt dużo do stracenia, by pozwolić administracji
federalnej wkroczyć na ich teren i zacząć się szarogęsić z propozycjami
regulacji i rozbijania monopoli. Przez pierwszą kadencję Trumpa trwała
wojna podjazdowa między prezydentem a szefami największych
techkorporacji. Nikt jej nie wygrał, ale kiedy przyszedł czas na kolejne
starcie, podczas drugiej prezydentury, obie strony grały już według
innych zasad. Najbogatsi Doliny Krzemowej ukorzyli się przed Trumpem,
obawiając się utraty intratnych, federalnych kontraktów. Prezydent
zaczął dyktować warunki, a technokraci zaczęli je przyjmować.
Symboliczna dla tej raptownej zmiany wizerunku całej Doliny Krzemowej z liberalnej i demokratycznej na konserwatywną i zachowawczą stała się
osobista zmiana emploi Marka Zuckerberga, szefa Mety, który na kołku
zawiesił swoje klasyczne bluzy z kapturem i dżinsy i zaczął pokazywać
się w stylizacjach godnych rapera z Compton -?włączając w to złoty
łańcuch i sztuczny zarost -?i opowiadać o tym, jak to w kulturze korpo
potrzeba "więcej męskiej energii", bo firmy straciły pazur, a "odrobina
agresji w pracy ma swoje uzasadnienie" i "nikomu jeszcze nie
zaszkodziła".
Nieposzlakowana reputacja Silicon Valley zaczęła gwałtownie pikować w dół. Mało kto chwalił, wielu ganiło. Z rozpieszczonego beniaminka
zmieniła się w ulubionego chłopca do bicia. Coraz więcej ekspertów
odtrąbiało ostateczny upadek Doliny Krzemowej. Nie ekonomiczny, a moralny. Wyliczano wszystkie grzechy główne: tuczenie się szefów kosztem
podwładnych, blokowanie powstawania związków zawodowych, przedkładanie
zysku nad wszystko inne, arogancję i brak empatii wobec sytuacji
pracowników, wciskanie klientom niesprawdzonych produktów, a wreszcie
brak prawdziwie rewolucyjnych innowacji.
Technologiczny pępek świata miał stać się współczesną Sodomą i Gomorą.
Koniec obwieszczono jednak za wcześnie. Pod koniec 2022 roku OpenAI
wypuściło pierwszą wersję programu ChatGPT. I znów wszystko się
zmieniło. Znów -?na poły z nadzieją, na poły z przestrachem -?zaczęto
obserwować Dolinę Krzemową. A właściwie nie całą Dolinę, a San
Francisco, bo to tam mieści się teraz swoista "baza dowodzenia"
technologii związanych ze sztuczną inteligencją. Epicentrum to Hayes
Valley, senna do niedawna dzielnica miasta. Niewiele się tam zmieniło
przez dziesięciolecia. Nadal stoją starutkie domy w stylu wiktoriańskim
i edwardiańskim, wybudowane dzięki fortunom poszukiwaczy złota, które
bez szwanku przetrwały największe trzęsienie ziemi w San Francisco w 1906 roku.
Teraz wynajmują je młodzi programiści pracujący nad AI. Panuje atmosfera
jak z lat osiemdziesiątych, kiedy zespoły młodych-zdolnych mieszkały,
pracowały i bawiły się pod jednym dachem, licząc na to, że poszczęści im
się i ich innowacja zawojuje świat. Teraz "gorączka złota" znów ogarnęła
San Francisco, choć nie szuka się drogocennych kruszców, a nowatorskich
algorytmów. Te też są na wagę złota. Czas pokaże, czy Hayes Valley,
zwane też Doliną Mózgowców (Cerebral Valley), wyda na świat prawdziwie
prometejskie technologie...
01000001 01100002. Apokalipsa? Czy już? Już!
01000001 01100002
Apokalipsa? Czy już? Już!
Czyli czy powinniśmy się bać algorytmicznej
dystopii
List był formalny. Wydrukowano go na specjalnym, czerpanym papierze. W górnej części kartki umieszczono imponujące kolorowe godło. Na pierwszym
planie wojownik ze złotą dzidą w ręku, w skąpej przepasce na biodrach,
na drugim -?święta góra Tabwemasana i potężny kieł dzika, a u dołu
napis: "Long God Yumi Stanap", co w kreolskim języku bislama oznacza:
"W Bogu nasza ufność". List zaadresowany był do niejakiego Denysa
Troyaka, zamieszkałego na Wyspie Satoshiego, nazwanej tak na cześć
mitycznego twórcy (lub twórców) pierwszej na świecie kryptowaluty. Ktoś
zrobił zrzut ekranu i cyfrowa odbitka błyskawicznie obiegła wszystkie
zakamarki internetu. W sieci wrzało, bo nie zdarza się codziennie, aby
szef rządu oficjalnie poparł ideę kryptoraju, gdzie szczęśliwi
posiadacze bitcoinów będą mogli wykupić kryptoapartamenty i przyjeżdżać,
by pławić się w kryptoluksusie.
Premier Vanuatu, urokliwego, acz niełatwego do zarządzania archipelagu w Oceanii był w opałach. Państwo, w którym sprawował funkcję szefa rządu,
składało się się ze stu dziewięćdziesięciu ośmiu wysp i wysepek, z których jedna, Lataro, właśnie została wzięta w wieloletnią dzierżawę
przez miliarderów związanych z technologią blockchainu.
Początkowe rozmowy o kontrakcie odbywały się w eleganckim barze,
serwującym tradycyjny napój kava, sporządzany ze sproszkowanego
korzenia lokalnego drzewa pieprzowego. Kava działa trochę jak alkohol,
łagodzi lęki, uspokaja i powoduje lekką ekscytację, więc negocjacje
poszły gładko.
Sprawa budziła jednak kontrowersje, bo nuworysze od kryptowalut znani
byli głównie z ostrego imprezowania i niefrasobliwego podejścia do
długofalowych biznesplanów, więc jednoizbowy parlament miał wątpliwości,
czy ich obecność aby na pewno przyczyni się do rozwoju kraju, a nie do
krachu gospodarczego. Vanuatu miało i tak dość własnych problemów, by w przyszłości dodatkowo mierzyć się z potencjalnymi konsekwencjami
szastania wirtualnymi pieniędzmi przez tak zwane bractwo krypto.
Premier Bob Loughman potrzebował jednak pilnie pieniędzy, nieważne czy
realnych, czy wirtualnych. Wyspiarskim państewkiem co i rusz targały
kataklizmy polityczne i naturalne. Jego ministrowie ledwo radzili sobie
z geopolityczną rzeczywistością. Po serii rzeczywistych wstrząsów
sejsmicznych -?jedno z trzęsień ziemi miało siłę ponad siedmiu stopni w skali Richtera -?pojawiły się pęknięcia i wstrząsy w rządzie. Oponenci
zarzucali mu marnotrawienie funduszy przeznaczonych na walkę z pandemią
i ogólną niegospodarność, szczególnie podczas akcji pomocowych po
huraganach, które także przetoczyły się przez Vanuatu. Loughman sam
znalazł się w oku cyklonu. Cudem utrzymał się na stanowisku podczas
głosowania nad wotum nieufności.
Za to w Dolinie Krzemowej ekscytowano się faktem, że oto ma szansę wejść
w życie idea start-upowych miast, która kilka lat wcześniej narodziła
się właśnie w Silicon Valley i o której od początku było głośno w środowisku technokratów. Głównym problemem okazywało się zawsze
znalezienie odpowiedniej lokalizacji. Vanuatu było wymarzonym miejscem.
Ale nie tylko ono...
Technoutopijną wisienką na torcie nieustającego postępu miała być
Grenlandia. To tam planowano rozwijać nowe technologie związane ze
sztuczną inteligencją. Fakt, że na wyspie panuje klimat polarny i subpolarny, ma być zaletą, bo dzięki temu w sposób naturalny chłodzone
byłyby potężne centra danych, których funkcjonowanie wymaga niskich
temperatur. Centra takie potrzebują też ogromnej ilości energii i dlatego wymyślono, że na wyspie zbudowanych zostanie kilkadziesiąt
minireaktorów jądrowych. Potrzebne będą również rozległe parkingi, z wbudowanymi serwerami do przetwarzania danych zebranych z autonomicznych
pojazdów, które się będzie tam testować, a które staną się z czasem
podstawowym środkiem transportu.
Mają także powstawać liczne kopalnie -?jak twierdzi Anthony Marchese,
jeden z potencjalnych inwestorów, a jednocześnie ekspert w dziedzinie
eksploatacji bogactw naturalnych -?więc Stany Zjednoczone muszą za
wszelką cenę zdobyć Grenlandię, jako że posiada ona największe na
świecie skupisko zróżnicowanych minerałów, w tym zawierające metale ziem
rzadkich, niezbędne do budowy smartfonów i innych elektronicznych
gadżetów.
Na razie złoża te są głęboko pod lodem, ale od czego mamy zmianę
klimatu! Lądolód stopnieje, a wtedy lit, neodym, cynk, miedź, a także
diamenty, złoto oraz ropa będą na wyciągnięcie ręki. Badania geologiczne
potwierdziły, że wyspa kryje potężne złoża co najmniej dwudziestu pięciu
z trzydziestu czterech surowców krytycznych, potrzebnych do
funkcjonowania współczesnej cywilizacji.
Grupa potencjalnych inwestorów wciąż się powiększa. Niektórzy zaczynają
już dzielić skórę na niedźwiedziu. Nikt nie myśli o ochronie środowiska.
Dryder Brown, założyciel Praxis, dość podejrzanego start-upu, który w swojej misji ma "ratunek dla zachodniej cywilizacji" przy użyciu
kryptowalut, jest przekonany, że dzięki specyficznym warunkom
geograficznym Grenlandia mogłaby się stać dla amerykańskich
techmagnatów, a przede wszystkim dla Elona Muska, poligonem do testów
przed planowaną kolonizacją Marsa.
Przez stulecia powstały koncepcje rozlicznych utopii: socjalistycznych,
kapitalistycznych, feministycznych, patriarchalnych. Swoje mieli też
faszyści, a pozostałości jednej z nich wciąż można zobaczyć w Tresigallo, ospałym miasteczku w północno-wschodnich Włoszech, gdzie w latach trzydziestych ówczesny minister rolnictwa Edmondo Rossoni obiecał
swojemu Duce budowę miasta, które miało stać się, jak wzorzec metra z S?vres, pierwowzorem miast w całym kraju. Benito Mussolini niechętnie,
ale jednak przystał na tę propozycję i w ciągu kilku lat, z położonej na
bagnach i zapomnianej przez Boga osady, Tresigallo przeistoczyło się w miejscowość z nowoczesnym, funkcjonalnym planem ulic i budynkami,
których potężne, geometryczne kształty wskazywały na wpływy Le
Corbusiera, a całość przypominała metafizyczne obrazy Giorgio de
Chirico. To w takim właśnie otoczeniu miały być w pełni wprowadzone w życie idee faszyzmu.
Po drugiej wojnie światowej, gdy ideologia się skompromitowała, a Włosi
wypierali pamięć o niechlubnej faszystowskiej przeszłości, utopia w Tresigallo zaczęła podupadać. Bo wszystkie utopie kończą się upadkiem.
Bez wyjątku. Okazują się -?z różnych względów -?nierealnymi mrzonkami
lub przeradzają się w dystopie, potworkowate karykatury samych siebie.
Taką też okazała się technoutopia Zizian w Dolinie Krzemowej,
prawdopodobnie pierwsza, która w centrum swoich idei miała wykorzenienie
szkodliwej AI i stworzenie dobrotliwej sztucznej inteligencji, będącej
algorytmem zdolnym jedynie do działania dla dobra ludzkości. Przed
pandemią covidu Zizianie -?których nazwa wzięła się od ich nieformalnego
lidera, Ziza LaSoty -?należeli do Wspólnot Racjonalistów. Wspólnoty te
powstawały spontanicznie, oddolnie, koncentrując się wokół założonych na
początku tego wieku blogów poświęconych filozofii, psychologii i sztucznej inteligencji. Przewodnikami po "nowym wspaniałym świecie", w którym człowiek podejmuje decyzje "wyłączając emocje, a włączając
myślenie", stało się dwóch blogerów: LessWrong (Eliezer Judkowski) i AstralCodexTen (Scott Alexander Siskind). Ich fani wierzyli, że możliwe
jest pozbycie się rozmaitych błędów poznawczych i uprzedzeń, które
sprawiają, że człowiek podejmuje irracjonalne decyzje o fatalnych
konsekwencjach dla siebie i dla innych. Wierzyli również, że można taki
stan przejrzystości umysłu osiągnąć dzięki odpowiedniemu treningowi
mózgu. Jednocześnie uważali, że odpowiedzialność za przyszłość świata
spoczywa na ich barkach. To oni mieli zbawić świat od potencjalnej
destrukcyjnej dla globu sztucznej inteligencji. To było ich zadanie, bo
według nich nikt inny nie dostrzegał tak wyraźnie powagi i bliskości
zagrożenia.
Co wrażliwszych tak potężna odpowiedzialność, o której słyszeli na
każdym kroku, zaczęła przytłaczać. Na racjonalistycznych forach
internetowych coraz częściej mówiło się o problemach psychicznych
racjonalistów. Że nie dają rady, że zaczynają się ciąć, że mają myśli
samobójcze. W tym czasie Zizianie zaczęli odłączać się od głównego nurtu
racjonalistycznego. I zaczęli się radykalizować. Przez jakiś czas
mieszkali na niesprawnym, pordzewiałym statku ściągniętym z Alaski,
marząc o "sfederalizowanej flotylli wolnych jednostek pływających", na
której mogliby realizować swoje utopijne idee "wegańskiego
anarcho-transhumanizmu". Ich pomysły z miesiąca na miesiąc stawały się
coraz bardziej dziwaczne i ekscentryczne. Zizianie osuwali się w szaleństwo.
LaSota, uznany za przywódcę, promował coraz dziwniejsze metody
"oczyszczania i przeprogramowania" mózgu. Wszystko po to, by mieć pełną
jasność co do tego, jak czynić dobro.
W pisanym na przestrzeni kilku lat manifeście wspomina wielokrotnie o swoim odkryciu dotyczącym półkul mózgowych. Jego zdaniem jedna półkula
jest odpowiedzialna za całe zło jednostki, a druga -?za całe dobro. Obie
półkule są w stanie permanentnego konfliktu i walczą o pierwszeństwo.
Wystarczy jednak zastosować metodę "śnienia jednej półkuli", aby zyskać
nad nimi pełną kontrolę. W enigmatycznych instrukcjach Ziz tłumaczy, że
trzeba dać spać tylko jednej połowie naszego mózgu. Druga pozostaje
wówczas w stanie czuwania.
Manifest LaSoty jest niemalże niemożliwy do przebrnięcia. Czyta się go
jak rozrzucone puzzle słowne. Jak joyce'owski luźny strumień świadomości
technologicznego obłąkańca. Wśród ponad stu tysięcy słów najczęściej
padają zdania o dobru. Jak to: "Dobro to inherentna wada
epistemologicznych zawodów typu "kto więcej wypije". Ale nasza grupa
jest w tym konkursie do przodu: ja jestem w stanie oddać życie za
dobro". Te ezoteryczne paragrafy na każdy możliwy temat, od
programowania (większość Zizian to studenci bądź absolwenci takich
wydziałów jak matematyka, informatyka, statystyka bądź bioinformatyka)
po kwestie tożsamości płciowej (Ziz LaSota jest transpłciową kobietą),
wydają się nielogiczne i bezsensowne, ale w niszowych kręgach Wspólnot
Racjonalistycznych budziły zainteresowanie. Ziz znajdował naśladowców,
chociaż coraz częściej pisał o tym, że "nie może znieść ludzkości",
nawet tej racjonalistycznej. I znajdował makiaweliczne uzasadnienia dla
łamania prawa. Wszystko po to, by szerzyć dobro.
Grupa słuchała. Przemawiało do nich, że mając na względzie wyższy cel,
można na przykład nie płacić za wynajem lokalu. I stawiać czynny opór,
kiedy właściciel będzie próbował doprowadzić do eksmisji. Czuli się
coraz bardziej bezkarni. Czuli się usprawiedliwieni. I nie mieli
wyrzutów sumienia, kiedy zaatakowali gospodarza posesji, na której
wynajmowali przyczepę kempingową, a któremu byli winni ponad
sześćdziesiąt tysięcy dolarów. Ofiara przeżyła pierwszy atak, drugiego -
kilka miesięcy później -?już nie. Nie przeżyli też rodzice jednego z członków grupy, zastrzeleni w swoim domu przez jego współtowarzyszy.
Zizianie poczuli smak krwi. Do 2025 roku, kiedy to aresztowano i oskarżono trzydziestoczteroletniego LaSotę, "wegańska
anarchotranshumanistyczna" utopia o wyraźnych znamionach kultu,
powiązana była już z dwoma samobójstwami oraz sześcioma morderstwami. I to nie tylko w kalifornijskiej Dolinie Krzemowej, skąd się wywodziła i gdzie miała swoją bazę, ale również w innych stanach. Technoutopia
okazała się zabójczą dystopią, a grupa młodych idealistów -
niebezpiecznymi przestępcami. I tak oto prometejska wiara, że jednostka
wyposażona w wyostrzoną samoświadomość i zaawansowane technologie zdoła
odwrócić bieg świata, okazała się destrukcyjną fantasmagorią.
Przekonanie, że technologie mogą być kluczem do radykalnej zmiany w społeczeństwach, towarzyszy ludziom od wieków, a z wyrazistymi
koncepcjami technoutopii, zwanej też coraz częściej techtopią, mamy do
czynienia od czasów pierwszej rewolucji przemysłowej. Pożywką dla
wyobraźni stał się wtedy silnik parowy, który zmienił transport i przyczynił się do zmechanizowania produkcji. Okazało się, że jedna
innowacja może pomóc rozwiązać szereg problemów jednocześnie. Początkowo
słychać było nieśmiałe, a z czasem coraz odważniejsze głosy ówczesnych
intelektualistów, by rządy przejęli naukowcy i industrialiści.
Powoływano się na ideę technokratycznego społeczeństwa, głoszoną przez
Henriego de Saint-Simona.
Podczas drugiej rewolucji przemysłowej, na początku dwudziestego wieku,
utopianizm był już w rozkwicie. Najczęściej jednak kończyło się na
teorii, bo praktyka wymagała niebagatelnych nakładów finansowych. Te
pojawiły się podczas przełomu związanego z technologiami cyfrowymi i doprowadziły do szeregu nieudanych prób stworzenia utopii, które
konsekwentnie i każdorazowo przepoczwarzały się w antyutopie.
Czy zatem należy bać się algorytmicznej dystopii? Tak, ale jeszcze
bardziej należy obawiać się jej piękniejszej siostry, utopii, mamiącej
nierealnymi obietnicami raju na ziemi. To zawsze wiedzie na
niebezpieczne manowce.
Był jasny, chłodny kwietniowy dzień i zegary wybijały trzynastą.
George Orwell, 1984
01000001 01100003. Czy po holocenie i antropocenie nastąpi era algorytmów.
01000001 01100003
Czy po holocenie i antropocenie nastąpi era algorytmów.
Czyli jak nowe
technologie wpłyną na klimat i geologię Ziemi
Czy jesteśmy bliscy ery algorytmów? Geoffrey Hinton, zwany ojcem
chrzestnym AI, uważa, że jesteśmy. I to bliżej, niż nam się wydaje. Z jego punktu widzenia -?a jest to perspektywa naukowca, który dostał
Nagrodę Nobla z fizyki za uczenie maszynowe przy pomocy sztucznych sieci
neuronowych -?będziemy mieli nie tyle do czynienia z nową erą rozwoju
ludzkości, co z jej apokalipsą. Dla wszystkich tych, którzy wypatrują
jakiejkolwiek nadziei co do przyszłości, Kanadyjczyk nie ma dobrych
wieści. Jego zdaniem dobre czasy właśnie się skończyły, a jemu udało się
wstrzelić w najlepszy możliwy okres w historii ludzkości, czyli w powojenne pokolenie boomersów, tych szczęśliwców, których ominęły
okropności dwóch wojen światowych, a teraz, w coraz bardziej niepewnym i niestabilnym świecie, wciąż jeszcze w spokoju i dobrobycie dochodzą
kresu swych dni. Żadna generacja przed nimi nie miała tak korzystnych
warunków: względnego pokoju, względnego dobrobytu, względnej
stabilizacji. Dobrze już było, a teraz trzeba zapiąć egzystencjalne pasy
bezpieczeństwa, bo ludzkość czekają brutalne turbulencje. Milenialsi,
zetki i alfy -?ich przyszłość rysuje się w ciemnych barwach.
Niemalże z każdą prelekcją dotyczącą sztucznej inteligencji, którą sam
pomógł stworzyć -?choć jak podkreśla ostatnio, zdarzyło się to
"właściwie przez przypadek" -?pesymizm Hintona rośnie. Jego
apokaliptyczna "księga objawienia" obfituje w coraz więcej scenariuszy
końca świata.
Tyle że zamiast czterech jeźdźców Apokalipsy, jest jeden -?AI. W ciągu
dekady ma się pojawić generatywna sztuczna inteligencja, z którą
człowiek nie będzie mógł się mierzyć w żadnym aspekcie. Zdaniem noblisty
istnieje nawet dwudziestoprocentowe prawdopodobieństwo, że te algorytmy
zmiotą ludzkość z powierzchni Ziemi.
Najpierw jednak stracimy kontrolę. Bo algorytm będzie jak kupione od
przemytnika zwierząt tygrysiątko, które wyrośnie na wielkiego tygrysa,
gotowego zagryźć właściciela. I -?beztrosko zapowiada naukowiec, każdą
ze swoich wypowiedzi okraszając lekkim uśmiechem, jakby proponował
wycieczkę all inclusive do piekła -?niewątpliwie tygrys zagryzie
właściciela, bo ten ostatni nie ma właściwych narzędzi, by okiełznać
majestatyczną bestię, jaką jest potężna Panthera tigris. Tak samo
bezbronni staniemy się my, kiedy generatywna AI wyhoduje intelektualne
kły i pazury. Czyli świadomość.
Pytany o teraźniejszość oraz o tak podstawową kwestię, jak
bezpieczeństwo zatrudnienia oraz zawody przyszłości w czasach, w których
AI sukcesywnie pożera kolejne stanowiska pracy, ojciec AI radzi zdobyć
uprawnienia... hydraulika. Wbrew bowiem wcześniejszym, idealistycznym
wizjom sztucznej inteligencji, która miała stać się wybawieniem dla
wszystkich podbijających karty pracy i zapewnić -?jak obiecywał Bill
Gates -?zaledwie dwudniowy tydzień pracy, AI zdaje się zabierać tę pracę
demokratycznie. Nie dając przy tym nic w zamian. Oprócz zasiłku dla
bezrobotnych.
Szybciej jednak znikają możliwości dla tak zwanych białych kołnierzyków,
czyli osób zatrudnionych w urzędach, firmach i instytucjach, niż dla
pracowników fizycznych. W 2025 roku w Stanach Zjednoczonych, przy
relatywnie stabilnym poziomie bezrobocia, jedna tylko grupa zanotowała
znacznie większe trudności w znalezieniu zatrudnienia: młodzi absolwenci
amerykańskich uniwersytetów, w tym również tych najbardziej
prestiżowych. W przypadku pokolenia Zet, świeżo po studiach, poziom
bezrobocia w Stanach Zjednoczonych wynosi prawie sześć procent, przy
średniej krajowej w okolicach czterech procent. I choć ekonomiści nie
mają jeszcze pewności, czy przyczyną takiego stanu rzeczy jest masowa
automatyzacja pracy dzięki algorytmicznym innowacjom, czy w grę wchodzą
również inne czynniki, to coraz częściej przebąkują, że rozsądniej
będzie znaleźć konkretny rzemieślniczy fach, zamiast edukować się na
uczelniach wyższych, które stają się akademickimi wieżami z kości
słoniowej i nie dają umiejętności poruszania się po niepewnych i niestabilnych rynkach pracy.
Słuchaczy swoich wykładów Hinton dobija prognozowaną przez siebie datą
rozkładu dotychczasowego świata. Ma się to wydarzyć już w ciągu
najbliższej dekady. Jeszcze kilka lat wstecz naukowiec ten wieszczył, że
zostały nam dwa lub trzy dziesięciolecia do momentu, kiedy będzie można
obwieścić koniec rzeczywistości, jaką znamy. Teraz twierdzi, że przełom
nastąpi szybciej. A potem nie będzie happy endu.
Po tak pesymistycznych obrazach przyszłości wydawałoby się, że Geoffrey
Hinton, ów "Prometeusz algorytmów", mimo że przyczynił się w ogromnym
stopniu do rozwoju sztucznej inteligencji, będzie teraz z nią walczył.
Na każdym kroku podkreśla przecież, że zrezygnował z pracy w Google'u,
by mówić o niebezpieczeństwach AI. Bardziej oczywistą, choć jednocześnie
mniej atrakcyjnie brzmiącą przyczyną jego emerytury było ukończenie
siedemdziesiątego piątego roku życia, czym zresztą początkowo tłumaczył
chęć odetchnięcia już nieco od dusznych, binarnych klimatów Doliny
Krzemowej. Na każdym kroku powtarza też, jak poważnym zagrożeniem może
być dla człowieka sztuczna inteligencja, więc chyba nie bez powodu
ostrzega przed "ejajowym" załamaniem się naszej cywilizacji?
Pod koniec jednego z wykładów na uniwersytecie w Chicago padło pytanie:
"Skoro AI może nam przynieść zagładę, to z pewnością nie inwestuje pan w firmy zajmujące się sztuczną inteligencją?". Hinton zamilkł na chwilę,
wyraźnie speszony, po czym odpowiedział defensywnie: "A co? Mam może
trzymać moje pieniądze w banku?!". Okazało się, że jak najbardziej
inwestuje w te "skrajnie niebezpieczne technologie". Można na nich
bowiem nieźle zarobić. Prometejska narracja załamuje się w obliczu
ogromnych zysków.
Geoffrey Hinton ma rzesze fanów. Jest inteligentny, charyzmatyczny, ma
ironiczne poczucie humoru. Do tego dochodzi działanie efektu halo, tej
symbolicznej aureoli, która otacza naukowców, mających na swoim koncie
wyjątkowe odkrycia i wynalazki. To może wystarczyć, by brać jego
prognostyki za pewniki. A wystarczyć nie powinno.
Przewidywanie przyszłości nie jest zerojedynkową rozgrywką. To nie kod
binarny, który Hinton doskonale zna i rozumie, w którym po prostu coś
jest lub nie ma, w którym jest tylko włącz-wyłącz. Przewidywanie
przyszłości, jeśli w ogóle jest możliwe, choćby w podstawowym wymiarze,
to raczej kompleksowe obliczenia kwantowe, niebinarne, wielowymiarowe,
choć i one nie dają żadnej gwarancji, że to, co wyjdzie na końcu
obliczenia, rzeczywiście się ziści. Nobliści się mylą.
Co więcej, część z nich cierpi na "chorobę noblowską", przedziwną, choć
psychologicznie wytłumaczalną przypadłość, która powoduje, że po
otrzymaniu w Sztokholmie medalu z podobizną Alfreda Nobla,
spersonalizowanego dyplomu i czeku na niebagatelną sumę pieniędzy,
naukowcy wracają do swoich macierzystych uczelni czy instytucji z przekonaniem, że za rogiem czeka jeszcze większe odkrycie, jeszcze
ważniejszy przełom i że tylko wyjątkowym ideom należy się poświęcać.
Wśród ponad tysiąca osób, które mogą się poszczycić nagrodą, jest
kilkudziesięciu noblistów, którzy nie do końca poradzili sobie z jej
ciężarem, a ich kolejne projekty zbliżyły się do pseudonauki.
Zapraszamy do zakupu pełnej wersji książki