Wstęp

Wielkie przełomy widać na horyzoncie. Pierwszy to „świt algorytmów” uczenia maszynowego, które – w co trudno może uwierzyć – będą równie kreatywne, co człowiek. Drugi przełom dotyczyć będzie wykorzystania głosu w pozyskiwaniu danych na globalną skalę i ekspansji asystentów głosowych towarzyszącej internetowi rzeczy, które wywrą wielką presją na rozbudowę potencjału analitycznego.

Ponieważ wszystko wskazuje na to, że sprawcami i beneficjentami tych przełomów będą te same wielkie cyfrowe korporacje platform, które od kilku dekad, a zwłaszcza w dobie pandemii, ufundowały miliardom ludzi środowisko życia, pracy, rozrywki, komunikacji – ze wszystkimi tego stanu rzeczy konsekwencjami – warto krytycznie przyjrzeć się celom i misjom, jakie im przyświecają, oraz stosunkom, jakie one kształtują.

Czas ku temu jest szczególnie dogodny, ponieważ na tym samym horyzoncie widać jeśli nie schyłek ich władzy, to rysy na wizerunku. Osiągnęły bowiem podczas pandemii klasyczne pyrrusowe zwycięstwo: z jednej strony uzyskały historycznie wielkie bogactwo, z drugiej strony, za sprawą radykalnie wzmocnionych państw walczących z pandemią, zostały zepchnięte na drugi plan. Przede wszystkim erozji uległ mit ich sprawczości. Nie tylko nie „uratowały świata przed zarazą”, ale jeszcze odegrały w jej zwalczaniu marginalną rolę. Ich technologie w minimalnym stopniu wsparły polityczne i społeczne wysiłki, w wielkiej zaś mierze pozwoliły na pogłębienie nierówności rynkowych i eksploatacji społecznych przestrzeni. Im bardziej rosło ich bogactwo, tym bardziej malało ich strategiczne znaczenie. Jeszcze niedawno były partnerami państw, niezbędnymi oswojonymi liderami w noosferze1, dziś – w defensywie – są stawiane pod pręgierzem.

To książka o janusowym obliczu władzy korporacji cyfrowych platform, ujmowanych w perspektywie nauki o mediach i komunikacji społecznej oraz zarządzania mediami. Platform niezwykłych, uwodzących oferowanymi możliwościami kreatywności, karier i wizjonerstwa, łatwością zanurzenia się i buszowania w cyberprzestrzeni, spędzenia życia w świecie, którego granice zacierają się ze światem realnym. Przede wszystkim jednak platform „magii” społecznego oddziaływania, ekstrakcji wartości, informacji i wiedzy oraz celebrujących osobliwe mity. Uniwersum utkanym z równie poruszających wyobraźnię, co magnetyzujących metafor (platform i chmur) oraz inwazji neologizmów (marketing 5.0, społeczeństwo algorytmiczne, inwigilacja…), niezwykłych umiejętności „deformowania rzeczywistości”, narzucania wiary, że „niemożliwe jest możliwe”. Platform obietnic, końca nauki i posthumanizmu.

To książka o władzy platform, zwłaszcza (Meta)Facebooka i Google, ujętej jako zdolność narzucania woli, zmuszania do określonego zachowania i kontrolowania poczynań człowieka, grup społecznych i podmiotów gospodarczych, a nawet państw. To władza kreowania zbiorowych wyobrażeń, kształtowania doświadczeń i decydowania o kierunkach rozwoju. To także władza obsadzania retorycznie upodmiotowionego człowieka w roli konsumenta i produsera oraz biernego odbiorcy, zawsze – jako współtwórcy wartości platformy i dostarczyciela danych, współczesnego paliwa platformizacji.

Aby się zorientować, jak bardzo jest to władza różnorodna i wyrafinowana, wypada stanąć wobec mnogości perspektyw, które można przyjąć i które składają się na przykład na całe spektrum propozycji systemowych: kapitalizmu regulacji, danych, nadzoru, inwigilacji, kapitalizmu algorytmicznego, kreatywnego, kognitywnego, informacyjnego, chińskiego reglamentowanego kapitalizmu czy bezkofeinowego kapitalizmu. Kapitalizmu platform. Człowiek w żadnym z nich nie występuje w roli podmiotowej, nie może bowiem „wejść na platformę” bez przejścia procedury uprzedmiotowienia (przekazania danych i zrzeczenia się roszczeń z tego tytułu). Staje się więc zasobem danych, konsumentem i klientem, rzadko obywatelem, coraz częściej superprocesorem – kluczowym czynnikiem przetwarzania cyfrowych artefaktów, unikatowym „przedłużeniem” komputera.

W całym tym wielkim procesie komodyfikacji i zawłaszczania nowych przestrzeni ludzkiej egzystencji otwarte pozostaje pytanie o intencje platform. Ideał bowiem nie sięgnął jeszcze bruku, nadal pobudza wyobraźnię i wydaje się krystaliczny, tak jak aktualna jest metaopowieść oświecenia o postępie i emancypacji nauki.

Przez kilka dekad z oświeceniowej narracji platformy czerpały niezwykłą witalność i starały się wykuć nową ideę sankcjonującą poświęcenia użytkowników. Niszczyły konkurencję i redefiniowały znaczenia całej cyberprzestrzeni ludzkiej aktywności w imię wyższych celów oraz w zgodzie z przekonaniem, że nowy, lepszy świat ukaże się w postleibnitzowskim uniwersum. Wszystko w zgodzie z tyranią kwantyfikowalności, obsesją na punkcie pomiarów każdego aspektu życia – od edukacji i medycyny po naukę i filantropię, przyjaźń, miłość. Wiarą, że świat można naprawić, tworząc jeszcze lepszych algorytm.

Jednocześnie platformy okazały się światem wielkich paradoksów, czerpią bowiem swoją siłę z odległej od „policzalnego świata” mitologii utkanej z narracji o nowych technologiach, „kulturze wielkich idei”, wizjonerskich liderach i przełomowych innowacji rodem z technoutopii.

Książka ta oferuje zatem zbiór uwikłanych w aporie obserwacji o zarządzaniu wyjątkowymi organizacjami medialno-technologicznymi. Żeby je poznać, przyjęto przede wszystkim perspektywę krytyczną, dzięki której jak w soczewce widoczne stały się algorytmizacja i platformizacja życia codziennego, osobliwy feudalizm platform, towarzyszący im kult sukcesu (jednorożców) i unikatowych kompetencji – wszystko na fali narracji o rozwoju w służbie ludzkości.

1 T. Goban-Klas, Rwący nurt mediów. Mediocen – nowa fala mediatyzacji życia społecznego, Universitas, Kraków–Rzeszów 2020, s. 362–366.

Prolegomena

Akt I

Korporacje platform na ratunek

Gdy w lutowy piątek 2020 roku prezydent Stanów Zjednoczonych Donald Trump ogłosił, że rząd otrzyma wkrótce wsparcie od Google, który podpowie Amerykanom, czy potrzebują testu na koronawirusa, a jeśli tak, to gdzie go mogą znaleźć, okazało się, że Google nic nie wiedział o takiej koncepcji. Owszem, spółka zależna Alphabetu, do którego należy Google, przygotowywała stronę internetową o podobnej funkcji, ale tylko dla pracowników służby zdrowia i jedynie w regionie San Francisco, poza tym prace nad nią były na wczesnym etapie.

Nie zanosiło się na to, że Google zaangażuje się w „ratowanie Ameryki”, choć prezydent i jego urzędnicy już zdążyli zachwalać stronę i przedstawili sposób jej funkcjonowania w ramach większego pakietu działań2. Na marginesie tego qui pro quo wybrzmiały pytania o realną i wyobrażoną rolę największej korporacji medialno-technologicznej.

Pomijając historię oszczędnego gospodarowania prawdą przez prezydenta Trumpa, zwracano także uwagę na skłonność do zwracania się o pomoc w godzinie próby do tych autorytetów, które wyrobiły sobie pozycję niezbędnych społecznie. Zważywszy na unikatowy status platform, reakcja prezydenta Trumpa mogła być zatem uznana za naturalną i oczywistą. Co więcej, niespełnione oczekiwania ze strony Google nie zmieniły status quo korporacji. Nie doznał więc uszczerbku mit (w tym wypadku omnipotencji) i nadal dominuje we współczesnej dyskusji o konfrontacji wolności i bezpieczeństwa. Kwantowe komputery korporacji w nowym kampusie w Santa Barbara mają dokonać rewolucji w medycynie, korygując ludzkie błędy i przyspieszając obliczenia. Dzięki Google zbadanie serca będzie możliwe przez kamerę w telefonie, a mapy Google pokażą miejsca, gdzie można się zaszczepić podczas pandemii.

Dlaczego tak się stało, pośrednio tłumaczy Naomi Klein w eseju na temat redefiniowania własnej roli przez korporacje platform. Oto w maju 2020 roku Google zaangażował się w budowę Nowego Ładu (New Deal), który jakoby miał się wyłonić pod wpływem pandemii. Na spotkaniu z burmistrzem Nowego Jorku zaanonsowano zakres partnerstwa publiczno-prywatnego odpowiadającego misyjnej roli korporacji: „włączenie technologii do każdego aspektu życia obywatelskiego”3. Aby nie było wątpliwości, że cele Erica Schmidta, byłego zarządzającego Google, były czysto dobroczynne, w tle nagrania wideo znalazła się – jak zauważa Naomi Klein – oprawiona para skrzydełek złotego anioła. Dzień wcześniej burmistrz Nowego Jorku ogłosił podobne partnerstwo z Fundacją Billa i Melindy Gatesów w celu opracowania „inteligentniejszego systemu edukacji”.

Jeszcze na początku 2020 roku Schmidt podtrzymywał mit Doliny Krzemowej i przypominał, że amerykańskie firmy i uniwersytety wprowadzają innowacje na niespotykaną w świecie skalę („jesteśmy start-upami garażowymi, przedsiębiorcami podejmującymi ryzyko i nieustraszonymi naukowcami poszukującymi nowych osiągnięć w nauce i technologii”). Skupiając się na roli państwa, przestrzegał jednak, że jeśli obecne tendencje się utrzymają, to inwestycje Chin w badania i rozwój przewyższą te w Stanach Zjednoczonych w ciągu dziesięciu lat. Wówczas Ameryka będzie konkurować z krajem, który ma większą gospodarkę, więcej inwestycji w badania i rozwój, lepsze badania, szersze zastosowanie nowych technologii i silniejszą infrastrukturę komputerową.

W kolejnych miesiącach doszło do korekty misji Doliny. Teraz wszystkie publiczne środki, które miały wesprzeć korporacje Big Tech w walce Stanów Zjednoczonych o prymat z Chinami, były prezentowane jako jedyna nadzieja na ochronę przed nowym wirusem, „który będzie z nami przez wiele lat”, a firmy technologiczne, których rola w ochronie zdrowia była marginalna, zmieniły się w czołowych obrońców zdrowia publicznego.

Tym sposobem – wnioskuje Klein – powstał New Deal w żywym laboratorium „bezkontaktowej dochodowej przyszłości”, w której maszyny nie stanowią zagrożenia dla ludzi, w przeciwieństwie do innych ludzi4.

To przyszłość, w której domy już nigdy nie będą wyłącznie przestrzenią osobistą, lecz również, dzięki szybkiej łączności cyfrowej, naszymi szkołami, gabinetami lekarskimi, siłowniami, a także, jeśli będzie to określone przez państwo, naszymi więzieniami. Oczywiście dla wielu z nas te same domy już przed pandemią zamieniały się w nasze nigdy nieistniejące miejsca pracy i nasze podstawowe miejsca rozrywki, a więzienie inwigilacyjne „w społeczności” już kwitło. Ale w przyszłości, która jest budowana w pośpiechu, wszystkie te tendencje przyspieszą5.

Pandemia zmieniła także klimat wokół społecznych konsekwencji nowych technologii. O ile wcześniej publiczna debata dotyczyła konieczności podziału zbyt wielkich korporacyjnych gigantów, o tyle strach przed pandemia skłonił do wiary, że nowe technologie są bezdyskusyjnie niezbędne w zapewnieniu bezpieczeństwa, co było dość paradoksalne, ponieważ właśnie brak bezpieczeństwa – ale innego rodzaju – był jednym z głównych zarzutów wobec ich ekspansji. Zmienił się zatem jedynie „czynnik strachu” (chińskie przywództwo technologiczne na „chiński COVID”), lecz mechanizm formowania celu i sfinansowania jego osiągnięcia pozostaje ten sam – „bezprecedensowe partnerstwo między rządem a przemysłem”.

Na czym miałoby ono polegać, wyłuszczył Schmidt na łamach „Wall Street Journal”: konieczne są szybkie, zakrojone na szeroką skalę eksperymenty, które przyspieszą rewolucję biotechnologiczną. Potrzeba ultraszybkiej infrastruktury, więc rząd musi dokonać ogromnych inwestycji – być może w ramach pakietu stymulacyjnego – aby przekształcić krajową infrastrukturę cyfrową w platformy oparte na chmurze i połączyć je z siecią 5G6.

Choć zwykło się przyjmować, że cyfrowe sieci uzupełniają przestrzeń publiczną, to dla wielu ludzi jest na odwrót – to ona staje się rozszerzeniem sieci i zacierają się granice między rzeczywistością cyfrową a realnym światem. Gdy każdy aspekt ludzkiej egzystencji staje się komercjalizowany, gdy dane są wykorzystywane w hiperspersonalizowanym marketingu i handlu, „sprywatyzowane” staje się całe środowisko społeczne.

Proces ten ze swadą objaśnia Lucie Green, pisząc, że firmy z Doliny Krzemowej, w tym Alphabet, Amazon i Facebook, uzurpują sobie prawo do rządów jako kluczowi dostawcy przestrzeni i usług publicznych. Nie są jedynie podmiotami biznesowymi, ale konkurują z „powolnym i nieseksownym” sektorem publicznym w zakresie świadczenia kluczowych usług i pozbawiają władze istotnych dochodów podatkowych7.

Co więcej, spoglądają na inne sektory regulowane przez państwowe i lokalne władze jak na kolejne obszary, które należy „zakłócić” i „naprawić” według własnych standardów. W kolejce są europejskie media publiczne, ochrona zdrowia (na świecie), planowanie przestrzenne, edukacja i transport, a także bezpieczeństwo publiczne w każdym zakątku globu, do którego mogą dotrzeć.

Podczas gdy etos rządu skupia się jednak na idei służenia całej populacji, prywatne podmioty są napędzane przez zysk i wówczas nowy wymiar będzie mogła zyskać zmodyfikowana zasada Pareto: usługi cyfrowe będą skierowane do większości, która może sobie na nie pozwolić, ale pominą tych, którzy ich potrzebują. Jest to powszechny problem tam, gdzie dotyczy usług nastawionych na zysk wypierających usługi publiczne, które może są mniej efektywne, ale za to służą wszystkim.

2 B. Barrett, L. Matsakis, Trump Caught Google Off Guard With a Bogus Coronavirus Site Announcement, Wired, 13 marca 2020 roku, pobrano z: https://www.wired.com/story/coronavirus-donald-trump-google-website.

3 N. Klein, How big tech plans to profit from the pandemic, The Guardian, 13 maja 2020 roku, pobrano z: https://www.theguardian.com/news/2020/may/13/naomi-klein-how-big-tech-plans-to-profit-from-coronavirus-pandemic.

4 Ibidem.

5 Ibidem.

6 E. Schmidt, A Real Digital Infrastructure at Last, 27 marca 2020 roku, pobrano z: https://www.wsj.com/articles/a-real-digital-infrastructure-at-last-11585313825.

7 L. Greene, Silicon states: The power and politics of big tech and what it means for our future, Counterpoint Press, Berkeley 2018.

Prolegomena

Akt II

Jak platformy wdarły się do wnętrza Kapitolu

Obrazy wtargnięcia zwolenników prezydenta Donalda Trumpa na Kapitol na początku 2021 roku są powszechnie znane – zwielokrotniony przekaz obrósł komentarzami i symboliką. Gdy tłumy dostały się do budynku, w Dolinie Krzemowej trwały gorączkowe rozważania, co począć z kolejnymi przekazami prezydenta. Rezygnując z tradycyjnego pośrednictwa dziennikarzy, przez całą kadencję Trump mimowolnie uzależnił się od cyfrowych kanałów, które nagle mogły być niedostępne.

Najpierw ulubiony przez prezydenta Twitter nałożył na jego nagranie ograniczenia – Trump powtórzył w nim, że: „Mieliśmy wybory, które nam ukradziono”. W reakcji na treść kolejnego tweeta skierowanego do okupujących Kapitol: „Jesteście wielkimi patriotami, którzy byli źle i niesprawiedliwie traktowani przez tak długi czas”, Twitter usunął całkowicie przekaz i ogłosił, że konto prezydenta pozostanie zablokowane przez co najmniej dwanaście godzin.

Cicha wojna między Twitterem i prezydentem trwała od siedmiu miesięcy. Gdy Twitter uznał dwa tweety Trumpa za „potencjalnie wprowadzające w błąd”, ten oskarżył serwis o „mieszanie się w wybory prezydenckie”. W reakcji na blokadę kont – śledziło je 88 milionów osób – Trump na koncie rządowym napisał: „Nie zostaniemy uciszeni!”. Wówczas Twitter prewencyjnie zablokował także oficjalny prezydencki profil, a przy okazji również konta kampanii (@TeamTrump) i najbliższych doradców oraz usunął całą serię tweetów, które Trump zamieścił na koncie prezydenckim.

Tym sposobem Twitter, kierując się stworzonymi przez siebie zasadami, zadecydował, co jego użytkownicy mogą, a czego nie mogą się dowiedzieć od urzędującego prezydenta. Naraził się przy okazji na zarzut o odwet za to, że Trump forsował pod koniec prezydentury wprowadzenie przepisów ułatwiających pozywanie serwisów społecznościowych za moderację umieszczanych w nich treści (sekcja 230 tzw. ustawy o przyzwoitości komunikacyjnej).

Twitter nie był jedyny. Wcześniej decyzję o usunięciu nagrania Trumpa podjęły czołowe korporacyjne cyfrowe platformy – Facebook, Instagram oraz należący do grupy Alphabetu YouTube – i prezydent został skutecznie odcięty od głównych mediów społecznościowych. Gdy przeniósł się na konkurencyjny dla Twittera Parler, ten został natychmiast zablokowany przez Google i Apple, które tłumaczyły swoją decyzję pojawianiem się postów „wzywających do przemocy”.

Tłumaczący decyzję Facebooka Guy Rosen, wiceprezes do spraw rzetelności, ogłosił, że została ona podjęta w związku z „sytuacją kryzysową”, dodając: „[…] usunęliśmy ją, ponieważ uważamy, że zwiększa ona raczej ryzyka trwałej przemocy, niż je zmniejsza”8. Następnie Facebook wydał oficjalne oświadczenie, w którym wyjaśnił, że platforma aktywnie usuwa wszelkie treści pochwalające i popierające wtargnięcie na Kapitol.

Gdy później wiele osób świętowało ogłoszenie przez Marka Zuckerberga zakazu umieszczania wiadomości przez Trumpa na Facebooku i Instagramie do końca jego kadencji – w maju 2021 roku okazało się, że zakaz ten potrwa dłużej – nieliczni, jak Edward Snowden, dostrzegli w tym akcie punkt zwrotny w walce o kontrolę nad komunikacją cyfrową. Owszem, Facebook i inne media społecznościowe są prywatnymi platformami – dowodził Snowden – ale właśnie obwieściły prawo uchwalania zakazów i będą to robiły coraz częściej, bez względu na opinie państwowych regulatorów i użytkowników.

Edward Snowden nie był w tej opinii odosobniony. „Prawo do wolności poglądów ma fundamentalne znaczenie” – napisał Steffen Seiber, rzecznik ówczesnej kanclerz Niemiec Angeli Merkel, dodając, że podstawowe prawo może być naruszane, ale zgodnie z prawem i w ramach określonych przez ustawodawców, a nie na podstawie decyzji kierownictwa platform mediów społecznościowych. W podobnym duchu wypowiedział się Boris Johnson: „Czas na szczerą rozmowę o granicach […] i roli tych firm w tym, co decydują się publikować, a czego nie”. Cédric O, minister do spraw technologii cyfrowych w rządzie prezydenta Francji, zauważył (naturalnie na Twitterze), że zakazy stawiają „podstawowe pytania”, i wezwał do „nowej formy demokratycznego nadzoru” nad firmami z sektora mediów społecznościowych9.

W istocie wspólne decyzje platform, które chętnie widzą się w roli nowej agory i „dają głos każdemu obywatelowi”, były bezprecedensowym aktem sprawowania władzy nad dyskursem. Uznały, że – nawiązując do słów Zuckerberga – ryzyko pozwolenia prezydentowi na dalsze korzystanie z usług jest zbyt duże10. Innymi słowy: szef Facebooka i inni zarządzający wyszli z roli liderów neutralnych platform „łączących wszystkich ludzi na świecie”, i na chwilę w całej okazałości ukazali, na czym polega zarządzanie widocznością w sieci11.

Wyjątkowy akt eksmisji Trumpa z politycznego spektaklu był ponadto uchyleniem zasłony na scenie społecznej selekcji oraz – co bodaj najważniejsze – aktem najważniejszej korporacyjnej władzy, mianowicie umożliwiania sprawowania władzy przez reprezentantów elit politycznych, gospodarczych, finansowych czy kulturalnych. A przy okazji – aktem pozwalającym na petryfikację plemiennych zachowań12. Debata nie dotyczy bowiem tego, co jest lub nie jest dopuszczalne do powiedzenia w mediach społecznościowych, ale tego, kto decyduje i jakie ma narzędzia sprawowania realnej władzy oraz jakie intencje nim kierują.

Strącając prezydenta w publiczny niebyt w świecie, w którym platformy są najważniejszym źródłem informacji i wiedzy dla miliardów ludzi, zarządzające nimi korporacje nie dokonały jednak w istocie niczego, co mogłoby zaskakiwać ich biznesowych konkurentów13. Przeciwnie.

Gdy Jack Dorsey, szef Twittera, refleksyjnie zatweetował, że „nie świętuje ani nie czuje dumy z tego, że musi zakazać @realDonaldTrump na Twitterze”, od razu dodał: „uważam, że to była dobra decyzja dla Twittera”. Nie prowokując prostych analogii – kilka dekad wcześniej, w 1954 roku, prezes koncernu General Motors, Charles Erwin Wilson, stwierdził, że „co jest dobre dla GM, jest dobre dla Stanów Zjednoczonych” – trudno pozbyć się wrażenia, że wyrugowanie prezydenta jest kolejnym logicznym aktem w krótkiej, ale burzliwej historii determinizmu korporacyjnego i osobliwym aktem wiary we własną misję.

Takie działania platform prowokują do wyrażania radykalnych sądów. „Ekstremizm, dezinformacja, socjopaci zarządzający algorytmami nastawionymi na zysk – to wirusy, a to, czego byliśmy świadkami wokół Kapitolu, to epidemia – zauważa Scott Galloway, którego przyjdzie jeszcze kilka razy cytować. – W obliczu słabości publicznych instytucji kapitał prywatny staje się »gabinetem cieni«, a bałwochwalstwo innowatorów utożsamia bogactwo z cnotą, nic więc dziwnego, że dwadzieścia cztery godziny po nieudanym zamachu stanu głównym tematem na Twitterze nie był największy kryzys demokracji w Stanach Zjednoczonych, tylko to, że Elon Musk został najbogatszym człowiekiem na świecie”14.

W takim „pozbawionym sterów środowisku, w którym przepływ informacji nie jest dobrem publicznym, lecz strumieniem dochodów, wirusy należałoby monitorować – kontynuuje Galloway – tymczasem uderzająca arogancja amerykańskiej wyjątkowości pozwoliła zignorować wirusa idei skrajnych, napędzanych algorytmami i zyskiem. Na razie jedynym powodem, dla którego Mark Zuckerberg zrobił cokolwiek, jest […] uświadomienie sobie, że podkomisje Izby i Senatu, które nadzorują Facebooka, wkrótce będą miały przewodniczących, »którzy mają dość socjopaty«”15.

W cieniu tych wydarzeń trwa jednak spóźniona o dziesięciolecia dyskusja nad kwestią uregulowania mediów społecznościowych. Spóźniona choćby dlatego, że przez lata platformy korzystały z nadaktywności prezydenta w mediach publicznych, a pod koniec jego kadencji wykorzystały okazję, by przywdziać szaty katonów publicznej odpowiedzialności. Nie bez powodu.

O ile w Stanach Zjednoczonych, czyli tam, gdzie w najbliższym czasie będzie się decydować o kształcie organizacyjnym korporacji platform, dyskusja na ten temat przyspieszyła pod koniec 2020 roku – szerzej kwestia ta jest poruszona w kontekście antykonkurencyjności platform – o tyle w ramach Unii Europejskiej konkretów nabiera reforma prawa dotyczącego usług cyfrowych (Digital Services Act) i rynków cyfrowych (Digital Market Act), która ma się opierać na prostej zasadzie: to, co jest nielegalne offline, jest również nielegalne online. Oznacza to odpowiedzialność platform za publikowane na nich treści, przed czym platformy broniły się latami.

Istotnym elementem tej dyskusji, choć niedotyczącym problemu koncentracji władzy, jest opublikowany kilka miesięcy przed wydarzeniami w Waszyngtonie raport Forum on Information and Democracy, zawierający kluczowe koncepcje nowych regulacji, które miałyby zapobiec „chaosowi informacyjnemu, który stanowi istotne zagrożenie dla demokracji”16. Przede wszystkim chodzi o ujawnienia badaczom szczegółów dotyczących ich algorytmów i podstawowych funkcji w celu weryfikacji tej technologii, aby zapobiec gwałtownemu rozprzestrzenianiu się dezinformacji. Proponowany jest także „statutory building code”, który opisuje obowiązkowe wymogi bezpieczeństwa i jakości dla platform cyfrowych.

Powód jest oczywisty: „Gdybym miał wyprodukować urządzenie kuchenne, musiałbym przeprowadzić więcej testów bezpieczeństwa i przejść przez więcej procedur zgodności w celu stworzenia tostera niż tworzenia Facebooka” – mówił BBC jeden z autorów raportu17. Serwisy społecznościowe powinny być zobowiązane do ważenia wszystkich potencjalnych szkód, które mogą być spowodowane przez ich projektowania i decyzje inżynieryjne.

Raport sugeruje, że platformy społecznościowe powinny wyświetlać korektę dla każdej osoby, która była narażona na błędne informacje. Inne rozwiązania dotyczą wprowadzenia „automatycznych wyłączników”, które tymczasowo uniemożliwią rozprzestrzenianie się nowych treści wirusowych podczas sprawdzania faktów. Rozważa się ponadto zmuszanie serwisów społecznościowych do ujawniania w kanałach informacyjnych, dlaczego treść została polecona użytkownikowi, ograniczenie mikrotargetowania reklam, niezgodne z prawem wykluczanie ludzi z treści ze względu na rasę lub religię, na przykład ukrywanie przed kolorowymi ludźmi ogłoszenia o wolnym pokoju, zakaz korzystania z tzw. ciemnych wzorców – interfejsów mających na celu dezorientację lub frustrację użytkownika, na przykład utrudniających usunięcie konta.

Bez względu na los i znaczenie tej i innych inicjatyw korporacje platform zyskują tymczasem nowe miliony użytkowników, głównie w Afryce i Azji, a w Europie i Stanach Zjednoczonych trwa finansjalizacja coraz nowszych form społecznej aktywności.

Dyskusja na ten temat jest dogodnym punktem wyjścia, aby ukazać unikatowość platform, którym przez lata udało się zmitologizować własne role społeczne, stać się symbolami wolności i kreatywności oraz przywdziać szaty narodowych czempionów (w Stanach Zjednoczonych) i niezbędnych dla losów ludzkości liderów postępu (na całym świecie).

8 A. Ohlheiser, E. Guo, Twitter locked Trump’s account. Insiders say it needs to go further, MIT Technology Review, 2021, pobrano z: https://bit.ly/3J3Dr8z.

9 A. Chrisafis, France’s digital minister says tax on big tech is just the start, The Guardian, 12 stycznia 2020 roku, pobrano z: https://www.theguardian.com/world/2020/jan/12/frances-digital-minister-tax-on-tech-giants-just-the-start-cedric-o-gafa.

10 A. Palmer, Facebook will block Trump from posting at least for the remainder of his term, CNBC, 7 stycznia 2021 roku, pobrano z: https://www.cnbc.com/2021/01/07/Facebook-will-block-trump-from-posting-for-the-remainder-of-his-term.html.

11 J. Kreft, Władza algorytmów, Wydawnictwo Uniwersytetu Jagiellońskiego, Kraków 2019.

12 Z. Bauman, Retrotopia. Jak rządzi nami przeszłość, Wydawnictwo Naukowe PWN, Warszawa 2018, s. 118.

13 Szerzej na ten temat w rozdziale szóstym, dotyczącym „stref zabijania”.

14 S. Galloway, Stupid, No Mercy / No Malice, 8 stycznia 2021 roku, pobrano z: https://www.profgalloway.com/stupid?utm_source=newsletter&utm_medium= email&utm_campaign=NMNM20210108.

15 Ibidem.

16 Forum on Information and Democracy, pobrano z: https://informationdemocracy.org/working-groups/concrete-solutions-against-the-infodemic. Forum zostało ustanowione w celu wydania niewiążących zaleceń dla trzydziestu ośmiu krajów. Należą do nich Australia, Kanada, Francja, Niemcy, Indie, Korea Południowa i Wielka Brytania. Wśród autorów raportu znaleźli się między innymi sygnalista Cambridge Analytica Christopher Wylie oraz były inwestor Facebooka Roger McNamee – wieloletni krytyk sieci społecznościowej.

17 Ch. Fox, Social media: How might it be regulated?, BBC News, 12 listopada 2020 roku, pobrano z: https://www.bbc.com/news/technology-54901083.

I. Potęga platform

1. Dlaczego Google, Facebook, Apple i Amazon oraz Microsoft są tak potężne?

Odpowiedź na to pytanie nie jest łatwa. W wersji lakonicznej potęgę platform kształtują przede wszystkim: potencjał narzucania interpretacji + misyjna retoryka + możliwości kształtowania otoczenia społecznego, politycznego i gospodarczego + unikatowe kompetencje gromadzenia i wykorzystania zasobów, zwłaszcza niematerialnych.

Sięgając po terminologię zarządzania, na potęgę wielkich korporacji Big Tech zarządzających platformami składa się: zarządzanie konkurującym ze sobą albo współpracującym ekskluzywnym zestawem platform, które rządzą rdzeniem światowych cyfrowych systemów informacyjnych, korzystających i kształtujących bezprecedensowy gospodarczy, społeczny i geopolityczny system kontroli18.

O ile władza i pieniądze oraz wpływy (geo)polityczne są stosunkowo dobrze rozpoznane, o tyle występujące na początku tego „pakietu” potencjał narzucania interpretacji roli platform oraz ich misyjna retoryka wydają się ciałami obcymi. Zanim jednak zostaną przedstawione jako charakterystyczne czynniki potęgi i niezwykłej ekspansji korporacji, trzeba podkreślić, że taka odpowiedź odnosi się do najpopularniejszej definicji platformy: programowalnej architektury cyfrowej zaprojektowanej do organizowania interakcji między użytkownikami – nie tylko użytkownikami indywidualnymi, ale także podmiotami korporacyjnymi i organami publicznymi. Taka platforma jest ukierunkowana na systematyczne gromadzenie, przetwarzanie algorytmiczne, obieg i monetyzację danych użytkowników19.

Platforma jak kameleon

Definicja ta, szeroka i wielowymiarowa, wykazuje jednak tę ułomność, że platforma jest w niej obecna z perspektywy jej twórców. To prawda, że platformy nieustannie ewoluują pod wpływem otoczenia politycznego, prawnego czy społecznego oraz rozwoju wiedzy programistycznej (będzie o tym jeszcze mowa), lecz dla dalszych rozważań znaczenie ma jeszcze jedna, fundamentalna cecha platform, a mianowicie jej „performatywność interpretacyjna”, czyli zmienności tego, co użytkownicy i miliony firm widzą w platformie w zależności od tego, które z jej rodzajów ról akurat wysuwa się na pierwszy plan.

To, jak platformy są odbierane i jaka akurat dominuje narracja, jest skutkiem „negocjacji” między narzucanymi przez nie same i forsowanymi autointerpretacjami a interpretacjami konkurencyjnymi. Można je bowiem postrzegać nie tylko z perspektywy ich strategii i analiz struktur, ale także z perspektywy języka i zachowań organizacyjnych w zgodzie z paradygmatem interpretatywno-symbolicznym, skupiającym się na opisie współzależności w złożonych strukturach społecznych i organizacyjnych.

Taka płynna interpretacja platformy nawiązuje do definicji organizacji rodem z zarządzania humanistycznego autorstwa Mary J. Hatch, według której jest to wspólny wytwór technologii, struktury społecznej i fizycznej oraz kultury zanurzonych w otoczeniu, które współkształtuje – jest siecią zbiorowych działań podejmowanych jako próba kształtowania świata i życia ludzi20. Taka organizacja jest symboliczną i społeczną konstrukcją dziejących się na bieżąco i nakładających się na siebie wymian komunikacyjnych między jej uczestnikami.

Platforma cyfrowa jest zatem kameleonem przybierającym różne postaci w zależności od tego, jaki czynnik ekosystemu jest akurat najbardziej dla jej właścicieli i zarządzających niebezpieczny, a jaki może jej zapewnić największy wpływ – presja polityczna, rynkowa czy społeczna – oraz który jest akurat poręczny czy może stanowi okazję rynkową. Jest to kameleon osobliwy, władny narzucać interpretacje tego, co sobą przedstawia, kameleon czerpiący swoją moc z „sił witalnych” dostarczanych przez użytkowników i podmioty biznesowe i wpływający na codzienne praktyki życia politycznego, społecznego i gospodarczego21. Ponadto – co tym bardziej nie ułatwia diagnozy – jest to podmiot tworzący własny ekosystem, stosujący unikatowy semantyczny kamuflaż.

Zanim ten kamuflaż zostanie przedstawiony, odpowiedzi wymaga jednak pytanie o potęgę platform.

2. Platforma a stosunki władzy

Na wstępie wypada zastrzec, że ten złożony, wywodzący się z różnych perspektyw badawczych problem trudno ująć w jedną spójną koncepcję. Odwagi w tych okolicznościach dodaje przekonanie, że nauka jest jedna i nie sposób ukazać wielowymiarowej roli tak złożonych podmiotów bez wykroczenia poza sztuczne ramy przypisane tradycyjnie subdyscyplinie zarządzania mediami czy – szerzej – mediom i komunikowaniu, bez odwołania się do dorobku zarządzania humanistycznego i „ekonomicznego”, ekonomii czy socjologii. Transdycyplinarne ujęcie platform pozwala uwzględnić perspektywę i humanistyki cyfrowej, i software studies, na styku nauk humanistycznych, społecznych i technicznych.

Owszem, za rogiem takiej „swawolnej fanaberii” mogą, jak zauważa profesor Jerzy Jastrzębski, kryć się różne kłopoty: niebezpieczeństwo „proteuszowej zmienności” przedmiotu badań, wynikającej z przyspieszeni historii, „płynności” realiów, narastania chaosu oraz inflacji obserwowanych obiektów i procesów. Wszystko to może powodować „rozmycie znaczeniowe”, utratę tożsamości i – jak zauważa przywoływany badacz – fraktalizację fenomenów. Jednak nagrodą za interdyscyplinarne ujęcie jest uwypuklenie złożoności w czasach redukcjonizmu i nachalnej marektingizacji.

W sukurs przychodzi bogata teoria sprawowania władzy, dostarczająca kilku ważnych ustaleń, z których prace Talcotta Parsonsa, Stevena Leukesa i Pierre’a Bourdieu będą stanowiły szczególnie dogodne odniesienia.

Warto przypomnieć, że dla Parsonsa władza jest zdolnością osiągania celów przede wszystkim przez instytucje, przy czym niekoniecznie musi być ona działaniem uświadamianym i zamierzonym przez jej gestorów. Na platformie taka władza polegałaby na zdolności mobilizowania zasobów społecznych w celu osiągnięcia zbiorowych celów systemu, przy czym system ten materializuje się i przejawia także w postaci umożliwiania przez nią sprawowania władzy przez inne podsystemy22, władza według Parsonsa nie odnosi się bowiem jedynie do podsystemu politycznego, ale jest atrybutem wszelkich systemów społecznych. Co więcej, ponieważ parsonsowska władza jest swoistym środkiem wymiany w obrębie podsystemu polityki i w jego relacjach z innymi podsystemami, można ją także wymieniać na pieniądze, dobra i usługi, zatem platformy, które są środowiskiem sprawowania władzy politycznej, uzyskują konkretne koncesje z tego tytułu.

Sprawowanie władzy przez platformy z perspektywy nurtu krytycznego odnosi się do szczególnie wartościowego dla zrozumienia roli platform ujęcia Stevena Leukesa, który podkreśla ważny jej wymiar, mianowicie zdolność kontrolowania przekonań i preferencji23. Stosunek władzy zachodzi, gdy jeden podmiot wpływa na inny w „moralnie istotny” czy „nietrywialny” sposób, co oznacza, że podmioty sprawują tylko wówczas władzę nad innymi, gdy wywierają negatywny wpływ na interesy tych podmiotów.

Gdy występuje tzw. konflikt utajony, czyli sprzeczność między interesami sprawującego władzę – w tym wypadku platformy – a rzeczywistymi czy zmiennymi „obiektywnymi interesami”24 tych, którzy są tej władzy pozbawieni, wówczas dochodzi do sprawowania władzy przez nietransparentną kontrolę i wytwarzanie mitów oraz budowę ideologii. Ofiary władzy wcale nie muszą bowiem dostrzegać zagrożenia swoich prawdziwych interesów i w konsekwencji nie próbują ich nawet bronić. Jeśli zatem na platformach ma się urzeczywistniać – jak przekonują ich reprezentanci – z góry założony ideał, jak choćby wspólnota autonomicznych jednostek, to w istocie następuje utrwalenie relacji władzy25.

Platformy uruchamiają także funkcjonujące w społeczeństwie wartości, wierzenia, rytuały i procedury instytucjonalne (zasady gry), broniąc dotychczasowego porządku i stawiając go w uprzywilejowanej pozycji. Spełniają tym samym dyspozycję „władzy ukrytej”26.

Władza platform to także – nawiązując do myśli Pierre’a Bourdieu – władza symboliczna, najsubtelniejsza z nich, polegająca na narzucaniu znaczenia, ukrywaniu układu sił i przejawiająca się w komunikacji opartej na racjonalności27. Jest to władza nieujawniana, zachodząca, gdy podporządkowani jej podlegają formom i schematom myślowym i sami uczestniczą w jej konstruowaniu, nie dostrzegając podporządkowania, a wręcz je umacniając. Przemoc władzy symbolicznej dokonuje się za pośrednictwem realizowania przez platformę własnych interesów, przedstawianych jako działania bezinteresowne albo w interesie obecnych na platformie w zgodzie z obiektywnym (ustanawianym i egzekwowanym przez algorytmy), sprawiedliwym zasadom28. Żeby się to zmieniło, obecni na platformach musieliby – dotyczy to zwłaszcza indywidualnych użytkowników – wyjść z „platońskiej pieczary”, albowiem uświadomienie sobie faktu, że podlega się władzy platform i zasadom w niej obowiązującym, jest możliwe dopiero wówczas, gdy widzi się „pieczarę z zewnątrz”. Symboliczna władza dokonuje się zatem tam, gdzie się jej nie zauważa, i gdy dominuje przekonanie, że „taki jest porządek rzeczy”. Cybernetyczny świat, w którym użytkownicy są „zanurzeni”, jest bowiem tyle oczywisty, co naturalny.

Po tym wstępie można przyjąć, że władza platform cyfrowych jest zdolnością narzucania woli, zmuszania do określonego zachowania i kontrolowania poczynań człowieka (użytkownika), grup społecznych i podmiotów gospodarczych. Człowiek, retorycznie upodmiotowiony, a w istocie „utowarowiony” na platformie, występujący na niej w kilku zazębiających się rolach – jako konsument i produser oraz bierny odbiorca, rzadko jako obywatel – w każdej z nich współtworzy wartość platformy, zawsze jako dostarczyciel danych, niekiedy jako współtwórca treści i (lub) konsument. W roli w pełni podmiotowej na platformie nie występuje, nie może bowiem na nią wejść bez przejścia „procedury uprzedmiotowienia” (przekazania danych i zrzeczenia się – nie wprost – roszczeń z tytułu tego przekazania). W istocie zatem wejście na platformę (zgoda na jej warunki) jest, w zależności od perspektywy, aktem zrzeczenia się podmiotowości albo uprzedmiotowienia.

Platforma jako „game changer” zarządzania

Z punktu widzenia relacji z indywidualnymi użytkownikami platformy mogą zmienić każdą interakcję w dane. To proces, ponieważ właśnie dzięki datafikacji platformy działające wcześniej na różnych rynkach zbiegają się w jeden jednolity rynek danych. Dla sektora mediów oznacza to na przykład, że jego granice stają się coraz bardziej rozmyte i stopniowo łączą się z rosnąca branżą danych. Nietrudno więc wyobrazić sobie, że właśnie ta perspektywa, a nie na przykład społeczna odpowiedzialność mediów, jest ważniejsza dla zarządzających platformami czy dla programistów. Datafikacja narzuca optykę rozumienia szeroko pojętego rozwoju, i to w różnych wymiarach.

Ma również swoje fundamentalne konsekwencje. Gdy bowiem menedżerowie będą polegali na wiedzy algorytmicznej, wówczas platformy cyfrowych mediów dostarczą danych niezbędnych w tym procesie, a platformy staną się centrum oceny i wyceny danych oraz jądrem procesów zarządczych.

Na marginesie można przywołać ciekawy paradoks: platformy stają się także czynnikiem blokującym siły rynkowe, nawet kosztem efektywności29, to bowiem nadal ludzie zarządzający platformami mają określać, co pozostaje automatycznie planowane, a co rynkowo stymulowane. Gdy korporacje zarządzające platformami stają wówczas na ostatniej linii obrony człowieka przed eksternalizacją procesów decyzyjnych, jest to przejaw ludzkiej sprawczości chroniącej rynek cyfrowy przed nim samym30.

Przechodząc zaś do szczególnych cech i różnych ról platform, można je pokrótce ująć w następującym katalogu:

• retoryczna neutralność – moderowanie aktywności i treści na platformie odbywa się w zgodzie z logiką biznesową31;

• programowalność – platformy można tak konfigurować, by pozwalały na stosowanie innowacji i umożliwiały opracowywanie aplikacji i dodatków;

• generatywność – korzystanie z udziału użytkowników, tworzenia przez nich treści i pozostawiania cyfrowych śladów32;

• czerpanie wartości z sektorów, do których platformy wchodzą przez datafikację, utowarowienie i selekcję.

Z rynkowego punktu widzenia należy w platformie widzieć przede wszystkim infrastrukturę cyfrową, która łączy producentów, konsumentów, usługodawców, reklamodawców i inne grupy w interaktywnym ekosystemie oraz umożliwia wymianę towarów, usług lub informacji. Strategicznym celem tak rozumianej platformy jest zdominowanie wszystkich relacji (społecznych i hybrydowych) między człowiekiem a „nie-ludzkimi aktorami” w ramach „przestrzeni mikropłatności”, czyli czerpanie zysku z interakcji między ludźmi, organizacjami i rzeczami. Oznacza to, że na przykład „medium społecznościowe”, jakim wydaje się Facebook, jest osnutym „mgłą” społecznościowej retoryki podmiotem wymykającym się łatwym interpretacjom.

Platforma rozumiana jako miejsce spotkań sektora prywatnego i sektora państwowego, z jego prerogatywami regulacyjnymi i monopolem na stosowanie siły, oferuje nową logikę rewolucyjnych zmian dla tradycyjnych sektorów gospodarki. Powstające na niej wartości są wielowymiarowe: platformy udostępniają infrastrukturę, mechanizmy transakcji i tzw. systemów reputacji, tworzą zatem przede wszystkim wielką agorę interakcji i transakcji, łączenia ludzi, firm i zasobów, a dopiero w dalszej perspektywie agorę społecznego dobrostanu. W każdej z tych postaci ustanawiają jednak, na własnych zasadach, warunki sprawowania władzy i środowisko kulturowe.

Dla biznesu obecność na platformach jest nie tylko szansą – nie są przecież jedynie miejscem spotkań z partnerami biznesowymi i klientami oraz „motorem innowacji” – ale także wymuszoną koniecznością, ponieważ stały się oczywistym ekosystemem biznesowym, co nie znaczy, że jednoznacznie korzystnym dla wszystkich uczestników.

W kontekście konwergencji infrastruktury platforma tak zwanego medium społecznościowego występuje jako rodzaj infrastruktury pozwalającej na stosowanie pewnych praktyk, a jednocześnie zabraniającej innych, ma więc polityczny charakter jeśli chodzi o przydział zasobów w tworzeniu kapitału i stosowaniu przemocy.

Ta sama platforma z ekonomicznej perspektywy to system zarabiający pieniądze przez umożliwianie stronom trzecim zarabiania pieniędzy. Platforma wyłoniła się bowiem jako nowy model biznesowy, zdolny nie tylko do kojarzenia różnych aktorów, ale także do wspomnianego wydobywania i kontrolowania ogromnych ilości danych.

Platforma występuje zatem jako typowy „game changer” – burzyciel dotychczasowych reguł i czynnik stanowienia nowych. Produkcja i dystrybucja, usługi i kwestie społeczne w mediach – wszystkie zostały zmienione przez zasady funkcjonowania platformy. Logikę tę dobrze ilustruje przykład Ubera, firmy świadczącej usługi przewozu osób, która nie ma pojazdów. To bowiem dostęp, a nie posiadanie jest wspólne dla platform. To samo można powiedzieć o Facebooku i Google (media), Alibabie (handel detaliczny) i Airbnb (hotele) – żadna z tych platform nie jest właścicielem dóbr, które umożliwiają korzystanie z jej usług, nie licząc może inwestycji w rozwój internetu w postaci kabli podmorskich (Facebook, Google) oraz marginalnych prób tworzenia treści mediowych w ramach na przykład Google News i sprzedaży na firmowej platformie własnych produktów.

3. Algorytmy a platformy – iluzje racjonalności..., neutralności i obiektywności

Retoryczne upodmiotowienie i przedstawiona dalej narracyjna siła platform nie miałyby racji bytu bez unikatowości „technologii władzy”, czyli algorytmów platform, zwłaszcza algorytmów społecznych – mających bezpośredni kontakt z człowiekiem. Ci, jak proponował Bruno Latour, „nie-ludzcy aktorzy” – z tej interpretacji jeszcze nieraz przyjdzie skorzystać – dołączają do aktantów (nie tylko ludzi, ale także czynników oddziałujących na inne czynniki i nabywających mocy w związkach z nimi) i tworzą układ aktorów-sieci, przy czym są równie ważni, jak ludzie. Organizacja jawi się w tej perspektywie jako złożony układ relacji między użytkownikami, ich narzędziami komunikacji oraz algorytmami w skomplikowanym uniwersum materialno-semiotycznym33, ujętym w profetycznych ramach „socjologii nie-ludzi”34.

Algorytm jawi się jednak także jako konstrukt narracyjny platform, utożsamiający i – metaforycznie ujmując – „ucieleśniający” obiektywność i neutralność oraz doskonałą wolność od etycznych niejednoznaczności. Jako byt doskonały, wolny od ludzkich i rynkowych ułomności, symbolizujący pokonanie ludzkich ograniczeń, stanowi mcluhanowskie doskonałe „przedłużenie” człowieka. To w nim manifestuje się „pozarynkowy” charakter platform i ich elastyczność, pozwalająca – jako kulturowy konstrukt – uwzględniać miejscowe zwyczaje, kulturę i wiedzę. Kiedykolwiek zatem algorytm pojawi się w dalszych rozważaniach, nie będzie konstruktem programowania, ale przede wszystkim konstruktem społecznym.

Współczesny stan badań nad algorytmami w naukach humanistycznych osiągnął taki poziom dojrzałości, że można wskazać na kilka głównych krzyżujących się nurtów. Gdyby podjąć próbę ich systematyzacji, dostrzegłoby się dążenia do uchwycenia fenomenu algorytmicznego w kategoriach „ideologii algorytmicznej”35, „algorytmicznego nadzoru” czy „algorytmicznej tożsamości”36 oraz wysiłki w ramach socjologii algorytmów.

Krytyczne studia algorytmiczne oferują zachowanie troski o specyfikę, zwłaszcza w obliczu „dyskursywnego marketingowego przesłodzenia”. Z tej perspektywy kontestowane są wszystkie cechy przypisywane zazwyczaj algorytmom: obiektywizm, bezstronność i wiarygodność – wszystkie uznawane za starannie przygotowane fikcje37.

Nawet jeśli programiści starają się utrzymać wysoki poziom obiektywności, a tym samym niezależność od lokalnych zwyczajów, kultury, wiedzy i uwarunkowań, to nie sposób od nich uciec w procesie tłumaczenia zadania na język programu. Nie ma zatem obiektywnych algorytmów, mnożą się zaś nieudane i skazane na porażkę próby ich tworzenia. Tymczasem zakres działań jest dość pokaźny: wyszukują, zestawiają, sortują, kategoryzują, grupują, dopasowują, analizują, profilują, modelują, symulują, wizualizują i regulują postawy ludzi. Kształtują to, jak człowiek rozumie i przedstawia świat – i w tym sensie są performatywne, sprawiając, że coś się zdarza.

Na przykład Facebook angażuje wiele wersji algorytmu, by poznać skutki ich działania, a to oznacza, że użytkownik po kilku sekundach korzystania z tej samej usługi może wchodzić w interakcje z inną jego wersją. Niektóre kody z kolei są tak napisane, żeby były reaktywne i zmienne w stosunku do danych wejściowych – w ten sposób ma działać EdgeRank Facebooka, określający, które posty i w jakiej kolejności są wprowadzane do osi czasu użytkownika. Algorytmy takie nie są statyczne i współdziałają z każdym użytkownikiem inaczej, w zależności od tego, jak wchodzi on w interakcje z innymi użytkownikami38.

Stopień zróżnicowania jest tak duży, że w wypadku Google może się nigdy nie udać prześledzenie dojścia do wyników działania algorytmu, jest w nim bowiem „wbudowana” losowość39. Trudno nawet o przybliżone przewidzenie społecznych skutków jego działania. Oznacza to, że pojedyncze zdarzenie (czynniki) mogą wpływać na liczne wyniki uzyskiwane przez ten sam algorytm. Nie oznacza to, że zrozumienie algorytmu nie jest możliwe, ale przesądza o dużej komplikacji tego procesu40.

Podsumowując, w obecnym stanie rzeczy nie rozumiemy, w jaki sposób na przykład platformowa infrastruktura Web 2.0 wpływa na życie indywidualnych użytkowników, w jaki sposób oprogramowanie ustala hierarchie, kształtuje dostęp do treści. Innymi słowy: zrozumienie partycypacji wymaga zrozumienia „performatywnej” infrastruktury, ta zaś wymyka się łatwym interpretacjom.

Algorytmy platform mają normatywny wpływ, wdrażają regulacje wiedzy41. Są używane do narzucania narracji, uwodzenia, wymuszania, dyscyplinowania, regulowania i kontrolowania – do przekształcania sposobu, w jaki ludzie i „nie-ludzcy aktorzy” wpływają na siebie, jak użytkownicy są beneficjentami i „ofiarami” autorytetu algorytmicznego42 oraz podmiotami i przedmiotami algorytmicznego zarządzania.

Wspomniany „autorytet algorytmiczny” to większe zaufanie do wyników procesu algorytmicznego niż do wiedzy i intuicji człowieka, to uznanie za autorytatywny procesu pozyskiwania wartości z różnych niewiarygodnych źródeł, bez udziału człowieka43, nawet jeśli polega on na czerpaniu informacji z wielu niesprawdzonych pod względem wiarygodności źródeł i łączenie ich w taki sposób, że powstaje wynik, pod którym nie podpisałby się żaden ludzki autorytet44.

Takie algorytmy stały się wreszcie czymś w rodzaju nowoczesnego mitu: przypisano im wielkie możliwości, władzę i moce. Podczas gdy jedne są proste, opisywalne w jednym „zdaniu”, to inne, jak megaalgorytmy wyszukiwarki Google czy kanałów informacyjnych Facebooka, rekomendacji Netflixa i Amazona, a ostatnio Apple+ i platformy streamingowej Disneya, stały się tak skomplikowane, że aż trudno zrozumiałe.

Zarówno najbardziej skomplikowany, jak i prostszy algorytm społeczny może być interpretowany na kilku poziomach: jako czynnik ułatwiający dialog między ludźmi, jako kreator powszechnego dialogu oraz jako składnik cyfrowego ekosystemu zastępujący/uzupełniający działanie niedoskonałych ludzi składnikiem wyobrażonej doskonałości organizacji. Zawsze zatem pojawi się w kontekście społecznym i humanistycznym, ale także jako czynnik zakłócający i transformujący – w odniesieniu i do sposobu działania organizacji, i do związanego z nią obecnego oraz przyszłego rynku pracy. Ich rozwój sprzyja atrofii jednych sektorów i powstawaniu nowych sektorów – wszystko w zgodzie z prymatem potencjału zakłócania.

Normatywne przejawy wpływu społecznego algorytmów cyfrowych platform to zatem:

• sortowanie i klasyfikowanie sieci społeczności, sygnalizowanie jakości wyszukiwania;

• organizowanie pseudospołeczności;

• pobudzanie działalności komercyjnej i przepływu kapitału;

• organizowanie ludzi w audytoria, gdy automatycznie tworzą, rekomendują i czytają wiadomości45;

• optymalizacja międzynarodowych rynków pracy;

• tworzenie „cyborgicznych finansów”46, działających szybciej niż ludzkie zrozumienie.

Wszystko to oznacza, że algorytm nie jest społecznie obojętny i nie jest jedynie matematyczną abstrakcją. Jest kształtowany przez społeczne, polityczne i estetyczne decyzje, przejawiające się w jego instrukcjach i przeobrażeniach. Jego ontogenetyczna natura (znajduje się on zawsze w stanie stawania się) oznacza, że jest labilnym abstraktem kształtowanym przez bogactwo środowiskowych wpływów. Jest „zanurzony” w społecznych praktykach, osadzony kulturowo, historycznie i instytucjonalnie, i jako taki nie może być zrozumiany czy interpretowany jako technologiczny abstrakt w zgodzie z jego naturą i zadaniami. Jest „technologią kultury”.

Takie ujęcie stoi w opozycji do wykorzystywanej przez platformy potocznej interpretacji, według której algorytmy pozostają przede wszystkim jądrem racjonalnego, matematycznie opisywalnego cyberśrodowiska – logiki, zgodnie z którą świat można przedstawić za pomocą „zer” i jedynek” w sekwencjach kodu. To świat wielkich obietnic: przedstawienia życia biologicznego, a w najbliższej przyszłości – posthumanistycznego postępu, czyli pokonywania ludzkich ograniczeń dla ludzkiego dobra, a na obecnym etapie – przede wszystkim obietnica rozprawiania się z chaosem danych, nadmiaru informacji i interpretacji. Wszystko w służbie użytkownika, a nawet ludzkości.

W myśl tego stanowiska algorytmy Facebooka i wielu innych platform są neutralnymi narzędziami identyfikacji, selekcji i dostarczania odpowiednich informacji poszczególnym użytkownikom czy grupom użytkowników. Wszystko to w zgodzie z marketingową logiką „zaspokajania potrzeb” i bogactwa.

Algorytmy są zatem przedstawiane jako całkowicie autonomiczne, wolne od ludzkiej interwencji, a zarządzający platformami sugerują, że są „wymyślone” jako logiczny i oczywisty kolejny krok nauki i szczytowe jej osiągnięcie, tak jakby były naturalnym przejawem praw natury, nieuniknionym owocem wiary w postęp. Jako następstwo praw matematycznych mają być obiektywne i neutralne – dotyczy to zarówno obecnie wykorzystywanych, jak i tych, które mają poradzić sobie z problemami braku bezpieczeństwa, czyli na przykład koncepcji blockchainu. W zgodzie z tą logiką algorytmom towarzyszy utopijna wizja wolności od błędów człowieka i jego stronniczości, wizja, w której człowiek nie decyduje już, jakie dane zbierać i jakie ustalać kryteria wyboru oraz jakie wskazywać cele47.

Wizerunek autonomii algorytmów ignoruje jednak decyzje i prace wymagane przy projektowaniu algorytmów oraz ograniczenia infrastrukturalne i technologiczne. Algorytm staje się totemem przesłaniającym odpowiedzialność organizacji, która go stosuje, ma wzbudzić zaufanie nadszarpnięte etycznymi dezorientacjami zarządzających platformami. Programowanie staje się w tej narracji praktyką tajemną, godną szacunku i wolną od ingerencji zewnętrznych i wewnętrznych, składową większego mitu.

Mit algorytmu utkany z wierzeń w jego neutralność jest ważny nie dlatego, że odzwierciedla prawdę o platformie, ale dlatego, że jest żywy. Algorytmizacja jawi się bowiem jako tajemniczy, niemal magiczny proces, często utożsamiany z istotą rozwoju i z powiększaniem zakresu wiedzy, ekspansją kognitywnego kapitalizmu. Jest oczekiwana, a nawet pożądana, obiecuje uporządkowanie w obliczu poczucia chaosu, niepewności, bezradności i nienadążania za zmianami, choć jednocześnie często pogłębia ten chaos, zwiększa różnice społeczne i jest nierozumiana co do zasady i skutków.

Tymczasem zachodzące na platformach procesy algorytmizacji wykazują następujące istotne cechy:

1. Najważniejsze algorytmy, o największym wpływie społecznym, powstają w zamkniętych, niepodatnych na kontrolę ekosystemach medialno-technologicznych. Kodowanie odbywa się zazwyczaj w ramach korporacji i na jej zasadach, a sam algorytm jest pilnie strzeżonym, cennym zasobem strategicznym, decydującym o pozycji konkurencyjnej organizacji.

2. Trudność w dekonstrukcji algorytmu wynika z jego systemowego charakteru, zależności od wielu innych algorytmów i pozostałych czynników. Ponadto systemy algorytmiczne mają zwykle wielu autorów pierwotnych rozwiązań i autorów korekt. Na ich relacyjny, heterogeniczny wpływ składają się niekiedy tysiące osób, protokoły, standardy i prawa. Ponieważ są one także chaotyczne, poznanie ich logiki i racjonalnych przesłanek nimi rządzących jest utrudnione, a ostatecznie zrozumienie całego systemu budowanego przez różne zespoły w ramach platform może okazać się niemożliwe.

3. Algorytmy platform są performatywne, nie są ustalone raz na zawsze, ucząc się niezależnie od swoich twórców. Algorytmy nie wykonują jedynie instrukcji programisty, lecz również porównują wartości, które wcześniej zostały wybrane, a następnie sortowane – każde działanie algorytmu musi być (i jest) poprzedzone wcześniejszym działaniem (ludzi bądź nie-ludzi)48. Performatywność oznacza, że nie wiadomo, jakimi akurat kierują się przesłankami czy celami oraz jakie cele mają być osiągane przez testowane za ich pomocą modele.

Wszystkie te konsekwencje nie determinują jednak sposobu postrzegania algorytmów platform cyfrowych. W tym kontekście mniej ważne jest to, czy są neutralne i performatywne, decydujący jest zaś poziom zmitologizowania ich roli. Uderza w tym ujęciu brak publicznej dyskusji, ale także woli poznania algorytmicznego wymiaru władzy platform oraz tego, na czym ta władza w istocie polega.

Tymczasem w praktyce społecznej i rynkowej sygnalizowana już władza organizacji platform i ich algorytmów przejawia się (w rozwiniętej postaci) następująco:

1. Determinacja doświadczenia użytkowników i firm przez:

• nadawanie znaczenia – na przykład wyszukiwarki strukturyzują kategorie w odpowiedzi na zapytania użytkowników, mają zdolność tworzenia kategorii dla opisu rzeczywistości/świata; przez definiowanie, które informacje stają się dostępne dla każdego zapytania, wyszukiwarki kształtują stanowiska, koncepcje i pomysły49;

• retorykę algorytmu – retoryka wielkiej mocy decydowania o tym, co jest wiedzą, prawdą i materialną rzeczywistością w codziennym ludzkim życiu globalnych społeczności XXI wieku. Wywieranie wpływu na to, co jest ważne lub prawdziwe w społecznych, kulturowych, gospodarczych i politycznych relacjach50;

• selektywny dobór / ignorowanie zbiorów – bazy danych są dla zarządzających algorytmami zestawem możliwych do odszukania danych, a nie zobowiązaniem do ich odszukania, zobowiązania społeczne ustępują celom rynkowym.

2. Korygowanie społecznych norm (definiowania prywatności). Władza przejawia się w pozbawianiu użytkowników wyboru tego, co z ich życia pozostanie tajemnicą. Nadzór nie polega na osłabianiu prywatności – miejsce wielu ludzi mających pewne prawa do prywatności zajmuje koncentrowanie tych praw w ramach algorytmicznego systemu nadzoru.

3. Selekcję społeczną:

• redukcja człowieka do profilu – złożoność i wyjątkowość ludzka jest sprowadzona do produktu, którego wartość weryfikuje rynek uwagi i rynek reklamowy;

• zarządzanie widocznością użytkowników dla innych użytkowników – władza uwzględniania w wynikach wyszukiwania oraz nakłaniania do uczestnictwa wobec zagrożeniu „niewidocznością”;

• nadawanie statusu społecznego – rzadkim i pożądanym dobrem są popularność, status celebryty i sława mierzone według kryteriów narzuconych przez organizacje medialno-technologiczne;

• separacja – w zgodzie z koncepcją bańki filtrującej niewidzialne filtry algorytmów łączą treść ze zinterpretowanymi przez algorytm preferencjami użytkowników. Tak powstają bańki informacyjne, pułapki separowania użytkowników od treści niezgodnych z ich poglądami, wcześniej zidentyfikowanymi w ramach analiz big data. Praktyki takie wpisują się w powszechność regulowania Web 2.0 przez sortowanie i filtrowanie wykonywane przez algorytmy decydujące, co użytkownik napotyka w internecie;

• władza decydowania o „powrocie do plemion” – platformy tworzą i zrywają więzi międzyludzkie oraz wytyczają graniczne linie oddzielające „nas” od „nich”. Taki świat oferuje niczym nieograniczone, przyjemne uczucie przewagi i wywierania wpływu na innych swoją władzą51.

4. Władzę umożliwiania doświadczania władzy – algorytmy platform zapewniają doświadczanie władzy nad innym (innymi).

Poszczególne elementy tego niepełnego katalogu będą uzupełnianie i rozwijane w dalszych rozważaniach. Tymczasem, sięgając po pozaprogramistyczne interpretacje, należy wyjaśnić wielowymiarowość algorytmicznych narzędzi sprawowania władzy i ich performatywną naturę.

(Kult)ura algorytmiczna

Jeśli programiści, inżynierowie i naukowcy nauk społecznych mówią o algorytmie, to każdy ma zwykle na myśli co innego. Podczas gdy programiści widzą w nim zazwyczaj proste reguły, logiczną serię kroków organizowania i działania na zbiorze danych w celu szybkiego osiągnięcia pożądanego rezultatu, to dla szerokiej opinii publicznej algorytm jest niezrozumiałym konstruktem. Z kolei badacze społeczni i humaniści dostrzegają znaczenia odległe od technologicznych oraz matematycznych i widzą niezbadany artefakt o nieuchwytnej i objaśniającej mocy. Zazwyczaj łatwiej próbować objaśniać wpływ algorytmu, niż opisać, czym jest w kontekście społecznym. Kanonicznie ujmowany, rozumiany jest jako technologia52, ale to także aktor podejmujący decyzje53, wręcz „epistemologia sama w sobie”54.

Nic dziwnego, że różni ludzie w różnych okolicznościach społecznych i w różnym czasie odmiennie definiują algorytm i wskazują na jego różne cechy. Jak zauważa Nick Seavers, osoba pracująca w Facebooku w 2017 roku, matematyk uniwersytecki pracujący w 1940 roku albo lekarz ustalający procedury leczenia w 1995 roku – wszyscy oni mogą słusznie twierdzić, że pracują nad „algorytmami”, ale nie oznacza to, że będą mówili o tym samym55.

Dodać wypada, że choć algorytmy mogą być zawsze reprezentowane w kategoriach numerycznych, to niekoniecznie działają na liczbach. Na przykład algorytm umieszczający listę słów w porządku alfabetycznym działa na obiektach (słowach), które nie są liczbami, zatem logika funkcji numerycznych jest obecna nie tylko jako funkcja poznawcza (jako matematyka), ale także jako język performatywny. Ogólnie jednak, większość procesów produkcyjnych, organizacja usług dla „obywatela” i „klienta” oraz niezliczone kliknięcia są inspirowane modelami algorytmicznymi, co oznacza w istocie hegemonię logiki algorytmicznej56.

Nic więc dziwnego, że interpretacjom takim towarzyszy niepewność metodologiczna, która nie ma jednak związku z poczuciem niekompetencji technologicznej ze strony przedstawicieli nauk humanistycznych i społecznych, wiele ją jednak łączy z przekraczaniem granic dyscyplinarnej jurysdykcji, krytyczne badania nad algorytmami polegają bowiem właściwie na przekraczaniu dyscypliny. Można by zatem pozostać przy eksperckiej „technologicznej” definicji informatycznej algorytmu, a następnie rozważyć, jak odnieść do niej inne obszary wiedzy. Taka kolejność ułatwiałaby dyskusję na temat jego wpływu57, ale byłoby to rozwiązanie ułomne, ponieważ granice pojęcia „algorytm” nie byłyby wyznaczane przez społeczne zaangażowanie.

Dlatego, powracając do wątku definicyjnego, w celu uporządkowania wywodu, sformułować można definicję algorytmu jako rodzaju socjotechnologicznego związku, części rodziny autorytatywnych systemów tworzenia wiedzy lub podejmowania decyzji, w których ludzie i nie-ludzcy aktorzy dostarczają dane i są umieszczani dzięki nim w systematycznych/matematycznych relacjach, a następnie otrzymują zasoby informacyjne na podstawie analizy danych wejściowych i ich ocen58.

Definicja taka wymaga jednak istotnych komentarzy.

Algorytm jako platforma

Termin „algorytm” jest bowiem także używany w kontekście całej organizacji, na przykład platformy, i identyfikowany z nią na każdym etapie jej ewolucji. Mówimy „algorytm Facebooka” – i takie sformułowanie staje się formą przypisywania odpowiedzialności oraz redukuje dystans między organizacją a zapisem cyfrowym. Mając na myśli „Facebook” czy „WeChat”, w istocie rozważamy także tajemniczy, niewidoczny (algorytmiczny) „zabieg”, dzięki któremu zyskujemy kontakt z ludźmi i artefaktami, a przy okazji identyfikujemy organizację, z którą go kojarzymy.

Gdy zabieg ten działa dłużej, z czasem zaciera się różnica między algorytmem i organizacją – myślimy wówczas „Facebook”, ale kojarzymy tablicę albo po prosto zapośredniczony kontakt ze znajomymi – przy okazji zaś zanikają granice między postrzeganą władzą organizacji a jej możliwościami i użytecznościami oraz obietnicą marki. Wówczas w społecznej świadomości metafora „algorytmy rządzą światem” wydaje się całkiem dobrze oddawać relacje w środowisku platform matematycznych abstraktów i ludzi.

W wąskiej, technologicznej interpretacji współczesne algorytmy pozostają tymczasem dalekie od takiej omnipotencji i rzadko są tak zaprojektowane, aby uzyskiwały pojedynczą jednoznaczną odpowiedź. Ich projektanci dążą do osiągnięcia pewnego progu zadowolenia operatora lub użytkownika, na przykład satysfakcjonującego odsetka prawidłowo dopasowanych kontaktów, reklam do profilu użytkownika czy zidentyfikowanych twarzy ludzkich59.

Aby osiągnąć aprobowany próg, algorytmy są „szkolone” na korpusie danych weryfikowanym przez projektantów lub przez dotychczasowe praktyki użytkowników – w ten sposób potwierdza się, że konkretne zdjęcie jest zdjęciem ludzkiej twarzy, że dany wynik wyszukiwania został wybrany przez wielu użytkowników w odpowiedzi na to konkretne pytanie, a ten nie. Taki algorytm ma „nauczyć się” parowania zapytań i wyników uznanych w przeszłości za zadowalające. Wartości i założenia, które wchodzą w zakres wyboru i przygotowania tych danych dotyczących szkolenia, mogą mieć o wiele większe znaczenie niż algorytm.

W pracach z dziedziny informatyki główny nacisk kładzie się na to, jak zaprojektować i udowodnić optymalność z czysto technicznej perspektywy. Jeśli zatem istnieje dyskusja na temat pracy algorytmów, to koncentruje się ona na tym, jak algorytmy wykonują konkretne zadanie. Innymi słowy: algorytmy są rozumiane jako ściśle racjonalne, godzące w sobie pewność matematyki z obiektywnością technologii60 – jako esencja rozsądku61 w oświeceniowym duchu empiryzmu.

Taka techniczna interpretacja rzadko jednak występuje w szerszym dyskursie publicznym. Gdy mowa o znaczeniu Google czy Instagrama, to „algorytm” jest skrótem myślowym: algorytmu, danych, modelu, celu, danych, aplikacji i sprzętu. Sporadycznie dotyczy ludzi zaangażowanych na każdym etapie projektowania platformy, podobnie jak nieczęsto jest mowa o wartościach zaszytych w algorytmach, o „mgle software’u”.

Dlatego warto porzucić wąskie, technologiczne interpretacje, przekroczyć umowne granice dyscyplin i zyskać szerszy pogląd, osadzający cyfrowy konstrukt w kulturowym, społecznym, politycznym i ekonomicznym środowisku. Oznacza to przy okazji, że badacz nie musi legitymować się fachową wiedzą informatyczną, choć staje w obliczu zagrożenia stosowaniem uproszczeń. Aby ich uniknąć, konieczna jest próba doprecyzowania tego, czym w istocie jest algorytm (a więc i platforma).

Ku etnografii algorytmu platform

Pamiętając więc o kanonicznej interpretacji technologicznej, należy zwrócić uwagę na wizję „algorytmów, które stają się kulturą”.

W istocie algorytmy wolno przedstawiać jako „kulturę” – rozumianą jako coś, co ludzie czynią, jako wynik działań, a nie jako zapis cyfrowy. Jeśli jednak przyjmie się tę interpretację, to miejsce ujednoliconej „kultury” zajmie szereg luźno skoordynowanych praktyk, które konkurują i współpracują ze sobą, czasami dla celów „kulturowych”, a czasami dla innych celów – na przykład „technicznych” czy ekonomicznych. Algorytm jest skutkiem wielu ludzkich i nie-ludzkich działań. Dobrym przykładem jest algorytm Facebooka, który programiści korygują na potrzeby użytkowników i reklamodawców, a jednocześnie uczestnicy rynku reklamowego, zwłaszcza firmy marketingowe, starają się „grać z nim”, przewidując jego korekty i dostosowując się do nich. Zmiany te bywają dewastujące dla uczestników rynku, na przykład gazet „The Washington Post” i „The Guardian”, które zainwestowały znaczne środki, by paść ofiarą zmian pozbawiających je większego ruchu62.

Algorytm platform jest zatem „z natury” niestabilny, nigdy nie jest ukończonym projektem, jest procesem, nieskończonym produktem (nieskończoną kulturą). Jest nieustannie poprawiany i udostępniany, zawsze tymczasowy, „płynny z natury” co do rezultatów63.

Algorytmy nie są więc – posługując się metaforami Seavera – „skałami w potoku kulturowym”, ale raczej większą „masą wody”64. Nie są również pojedynczymi obiektami technicznymi, które wchodzą w wiele różnych interakcji kulturowych, ale są raczej obiektami niestabilnymi, wprowadzanymi przez praktyki stosowane przez ludzi w celu nawiązania z nimi kontaktu.

Taka wizja algorytmów jako kultury różni się od pojęcia „kultury algorytmicznej” autorstwa Teda Striphasa, który z etnograficznej perspektywy organizacji określa je jako siłę transformacyjną, egzogeniczną dla kultury65. W tym ujęciu na przykład film jest „kulturowy”, ponieważ kształtuje przepływy materiału kulturowego, a nie dlatego, że jego algorytmiczna logika jest sama w sobie kulturowa. Wyjaśnić to można na przykładzie. Gdy użytkownik rekomenduje jakieś produkty kulturowe, które można zobaczyć (wysłuchać, kupić), to jego aktywności towarzyszy wykorzystywanie „mądrości tłumu”, wskazującego na Filmwebie, Netflixie albo na Spotify, co jest ważne/ciekawe w sieci. Podobny mechanizm dotyczy algorytmu PageRank Google, analizującego zachowania milionów użytkowników dostarczających dane.

„Kultura algorytmiczna” oznacza zatem, że każdy użytkownik i każdy nie-ludzki aktor odgrywa własną rolę w „tworzeniu algorytmu”. Niesie to, jak podkreśla Striphas, ważne konsekwencje metodologiczne. Podczas gdy informatyk może zajmować się sprawami efektywności lub tym, jak algorytm współpracuje ze strukturami danych, to antropolog może przejmować się tym, jak taki „kulturowy” algorytm kształtuje wartości i znaczenia kulturowe66.

Etnograficzne interpretacje pozwalają więc dostrzec w algorytmach nie tylko racjonalne procedury, ale także instytucje i ludzi. Różni się to od uznania algorytmów za matematyczne, obiecuje zaś – a to ważny czynnik przemawiający za jego uwzględnieniem – przynajmniej częściowe odsłonięcie tego, co istotne w środowisku nowych mediów, czyli kurtyny tajemnic algorytmicznych. Można się bowiem doszukiwać źródeł tajemniczości algorytmu w jego złożoności, jednak głównym czynnikiem ukrywania algorytmicznych mechanizmów i ich wpływu jest jego traktowanie przez organizacje medialne jako cennego zasobu pozwalającego na uzyskiwanie przewagi konkurencyjnej, a zatem takiego, który należy chronić przed wścibskim i zazdrosnym wzrokiem konkurentów i użytkowników. Jeśli bowiem pozna się kulturę platformy, to można także wnioskować o jej kulturowych produktach.

Dzięki tajemnicy handlowej oraz klauzulom o zakazie konkurencji nikt nie ma się dowiedzieć, co – metaforycznie ujmując – jest „pod maską” w Amazonie, Google i innych67. Ostateczna wartość tego, co współdecyduje o tak rozumianej „kulturze algorytmicznej”, jest zatem definiowana przez zarządzanie organizacją.

Kontynuując myśl Striphasa, traktowanie algorytmu jako kultury pozwala „podnieść maskę”. Ułatwia także – zachowując sceptycyzm i świadomość ograniczeń dostępu do pola badań – okiełznanie determinizmu korporacyjnego, łatwego ekonomizmu i tyranii racjonalizmu.

Nie należy przy tym zapominać, że z perspektywy antropologicznej algorytm jest częścią architektury językowej, przez którą programiści czy inżynierowie oprogramowania rozumieją świat i swoją pracę. Etnograficzna odpowiedzialność sugeruje ponadto używanie takich samych terminów, jakie stosują osoby, które zajmują się algorytmami w swojej pracy zawodowej68. Programista platformy, który twierdzi, że na przykład jego algorytm rozpoznawania twarzy nie ma „wbudowanego” kontekstu kulturowego organizacji, w której powstaje, czyli choćby uprzedzeń, musi zmierzyć się z wnioskami płynącymi z takich badań. Poza tym „ludzie technologii” nie są jedynymi osobami zaangażowanymi w tworzenie galimatiasu „socjo-materiałów”, które nazywamy „algorytmami”. Zróżnicowane środowisko używające licznych technik i zrozumień, wytwarza algorytm „zanurzony w kulturze” w luźno skoordynowanym środowisku. Niedostrzeganie tej złożoności byłoby szczególnie trudne do obrony w wypadku algorytmów, na których skupia się opinia publiczna: algorytmów wielkich korporacji medialno-technologicznych, skomplikowanych, nieustannie korygowanych, probabilistycznych69.

Algorytm opresji

Pamiętając zatem, w jak różnych miejscach i okresach powstają algorytmy, stwierdzić należy, że nie tylko nie ma jednej, ogólnej, stabilnej i precyzyjnej definicji algorytmu, ale także nie możemy z góry znać definicji, które powstaną w przyszłości, i przyjmować, że będą one takie jak współczesne. Może się ponadto okazać, że nie da się znaleźć pojedynczego sensu algorytmu, ten bowiem może mieć niejasne „nietechniczne” znaczenie70.

W przyjętej dalej interpretacji algorytmy są zatem kulturowe dlatego, że składają się ze zbiorowych praktyk ludzkich i nie-ludzkich aktorów oraz są zróżnicowane – tak jak różna jest kultura, ponieważ same są kulturą. Nie istnieje również coś takiego, jak algorytmiczna decyzja – istnieją jedynie sposoby postrzegania decyzji jako algorytmiczne. Innymi słowy: algorytmy nie są autonomicznymi obiektami technicznymi, ale – jak wspomniano – złożonymi systemami socjotechnicznymi.

Codzienna praktyka największych korporacji platform dostarcza wielu informacji o niedoskonałości ich działania. Do znanych przykładów rasistowskiego wyniku funkcjonowania współczesnych systemów algorytmicznych należy – to nawiązanie do wspomnianej konieczności parowania zapytań i trafnych odpowiedzi – oznaczenie zdjęć czarnoskórych osób jako goryli. Ofiarą tej wysoce ambarasującej praktyki na Google Photos padł w 2015 roku afroamerykański programista Jacky Alcine. Po jego interwencji u menedżera Google bulwersująca etykieta zniknęła, ale problem nie został rozwiązany, ponieważ trzy lata później, gdy magazyn „Wired” przeprowadził test sztucznej inteligencji Google Photos, uznał, że serwis imponująco radzi sobie z odnalezieniem wielu stworzeń, w tym pand i pudli, ale nadal zgłaszał „brak wyników” dla wyszukiwania „goryla”, „szympansa” i „małpy”, co dobrze ilustruje problemy z rozwojem technologii rozpoznawania obrazów71.

Korzystanie z oprogramowania wymaga więc nie tylko dobrej woli, ale także większej kontroli tego, jakie wartości są w nim traktowane priorytetowo. Dyskryminacja przejawia się bowiem nie tylko w kodzie, lecz również w technologiach sztucznej inteligencji, która może wzmocnić wiele uprzedzeń występujących w społeczeństwie.

Jednym z ważnych wyzwań związanych z „algorytmicznym uciskiem” jest zrozumienie, że – co jeszcze raz warto wspomnieć – to ludzie formułują matematyczne metody automatycznych decyzji. Chociaż często myślimy o algorytmach albo dużych zbiorach danych (big data) jako neutralnych i obiektywnych, to ich działania nie są pozbawione uprzedzeń i wolne od stygmatyzacji oraz stereotypizacji72.

Nie przeszkadza to jednak instytucjom publicznym, jak organizacje rządowe i pozarządowe, edukacyjne i religijne czy na przykład uniwersytety, polegać na wiedzy algorytmicznej, tymczasem, jak sugeruje Safiya Noble, opresja algorytmiczna występuje tak często, że nie jest usterką w systemie, ale raczej regułą mającą bezpośredni wpływ na użytkowników internetu i na życie offline. Nie oznacza to, że stronniczość algorytmiczna jest z założenia celowa, rzecz w tym, że potencjał stronniczości wynika z tego, że algorytmiczne wyniki są lustrzanym odbiciem nierówności oraz dyskryminacji społecznych między ludźmi, a zatem wszyscy, którym brakuje „siły przebicia” społecznego i politycznego oraz ekonomicznego, wpadają w „ślepe zaułki” uprzedzeń73.

Stan ten prowokuje do refleksji, czym jest autonomia algorytmu. Winę za jej brak przypisuje się zwykle niezróżnicowaniu danych, na których algorytm został przeszkolony, i zbyt małemu zróżnicowaniu w programowaniu i testowaniu zespołów, które dały taki wynik. Jednak bez trudu można wskazać, że postawy i uprzedzenia ludzi pracujących w systemach algorytmicznych wpływają (przenoszą się) na te systemy, zatem różnorodność nie jest jedynie kwestią sprawiedliwej reprezentacji danych, ale konsekwencją przekonań twórców i administratorów systemu74.

Algorytm jest więc kulturą z dobrymi i ze złymi tej interpretacji konsekwencjami oraz nieco skrzywionym odbiciem zbioru ludzkich wyborów, praktyk i postaw75, dlatego należy go traktować jako niestabilny obiekt – reprezentację różnych ludzkich praktyk.

18 J. van Dijck, Seeing the forest for the trees: Visualizing platformization and its governance, „New Media & Society” 2020, 23(9), s. 1–19.

19 J. van Dijck, T. Poell, M. De Waal, The platform society: Public values in a connective world, Oxford University Press, Oxford 2018.

20 B. Czarniawska-Joerges, Culture is the Medium of Life, [w:] A. Sjögren, L. Janson (red.), Culture and Management in the Field of Ethnology and Business Administration, Invandrarministeriet, Stockholm 1992, s. 15–29.

21 J. van Dijck, T. Poell, M. De Waal, The platform…, s. 4.

22 T. Parsons, N.J. Smelser, Funkcjonalne zróżnicowanie społeczeństwa, [w:] A. Jasińska-Kania, L.M. Nijanowski, J. Szacki, M. Ziółkowski (red.), Współczesne teorie socjologiczne, Wydawnictwo Naukowe Scholar, Warszawa 2006.

23 S. Leukes, Power: A radical view, Macmillan International Higher Education, London 2004 s. 25.

24 Koncepcja „obiektywnego interesu” jest przedmiotem wielu analiz, także krytycznych.

25 Choć argumenty te nie należą do głównego wątku, to za Michelem Foucaultem można dodać, że nie sposób uwolnić się od władzy współczesnego człowieka. Można jej uniknąć, wchodząc w rolę tzw. konkretnego intelektualisty, działającego w konkretnych dziedzinach i miejscach, ponieważ tylko w konkretnych sytuacjach człowiek może być świadom zagrożeń i własnych interesów. Zob. M. Foucault, Nadzorować i karać. Narodziny więzienia, przeł. T. Komendant, Fundacja Aletheia, Warszawa 1993.

26 P. Bachrach, M. Baratz, Power and Powerty. Theory and Practice, Oxford University Press, Oxford 1970.

27 P. Bourdieu, Medytacje pascaliańskie, przeł. K. Wakar, Oficyna Naukowa, Warszawa 2006.

28 P. Bourdieu, J.L. Wacquant, Zaproszenie do socjologii refleksyjnej, przeł. A. Sawisz, Oficyna Naukowa, Warszawa 2001.

29 E. Brynjolfsson, A. McAfee, Drugi wiek maszyny. Praca, postęp i dobrobyt w czasach genialnych technologii, MT Biznes, Warszawa 2015.

30 Ibidem.

31 T. Gillespie, Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media, Yale University Press, New Haven 2018.

32 G. Elmer, G. Langlois, Networked campaigns: Traffic tags and cross platform analysis on the web, „Information Polity” 2013, 18(1), s. 43–56.

33 K. Abriszewski, Poznanie, zbiorowość, polityka. Analiza teorii aktora-sieci Bruno Latoura, Universitas, Kraków 2008.

34 K. Krzysztofek, W stronę maszyn społecznych. Jaka będzie socjologia, której nie znamy?, „Studia Socjologiczne” 2011, 2, s. 123–145.

35 A. Mager, Algorithmic Ideology: How Capitalist Society Shapes Search Engines, „Information, Communication & Society” 2012, 15(5), s. 769–787.

36 J. Cheney-Lippold, A New Algorithmic Identity: Soft Biopolitics and the Modulation of Control, „Theory, Culture & Society” 2011, 28(6), s. 164–181.

37 T. Gillespie, The relevance of algorithms, [w:] T. Gillespie, P.J. Boczkowski, K.A. Foot (red.), Media technologies: Essays on communication, materiality, and society, MIT Press, Cambridge 2014, s. 167–193.

38 T. Bucher, „Want to be on the top?”. Algorithmic power and the threat of invisibility on Facebook, „New Media and Society” 2012, 14(7), s. 1164–1180.

39 M. Mahnke, E. Uprichard, Algorithming the algorithm, [w:] R. König, M. Rasch (red.), Society of the query reader: Reflections on web search, Institute of Network Cultures, Amsterdam 2014, s. 256–270.

40 Szerzej między innymi w: R. Kitchin, Thinking critically about and researching algorithms, „Information, Communication & Society” 2017, 20(1), s. 14–29; M. Ziewitz, Governing algorithms: Myth, mess, and methods, „Science, Technology, & Human Values” 2016, 41(1), s. 3–16; J. Danaher, The threat of algocracy: Reality, resistance and accommodation, „Philosophy & Technology” 2016, 29(3), s. 245–268.

41 S. Kushner, The freelance translation machine: Algorithmic culture and the invisible industry, „New Media & Society” 2013, 15(8), s. 1241–1258.

42 C. Shirky, A speculative post on the idea of algorithmic authority, Shirky.com, 2009, pobrano z: http://www.shirky.com/weblog/2009/11/a-speculative-post-on-the-ideaof-algorithmic-authority.

43 Ibidem.

44 R.D. Lankes, Credibility on the Internet: Shifting from Authority to Reliability, „Journal of Documentation” 2008, 64(5), s. 667–686.

45 N. Diakopoulos, Algorithmic Accountability Reporting: On the Investigation of Black Boxes, „Digital Journalism” 2013, 3(3), s. 398–415.

46 T.C. Lin, The New Investor, „UCLA Law Review” 2012, 60, s. 678.

47 E. Goldman, Search Engine Bias and the Demise of Search Engine Utopianism, „Yale Journal of Law & Technology” 2005, 8, s. 121–133.

48 J. Kreft, Władza…

49 M. Ananny, Toward an ethics of algorithms: Convening, observation, probability, and timeliness, „Science, Technology, & Human Values” 2016, 41(1), s. 93–117.

50 C. Ingraham, Toward an algorithmic rhetoric, [w:] G. Verhulsdonck, M. Limbu (red.), Digital rhetoric and global literacies: Communication modes and digital practices in the networked world, Information Science Reference, Hershey 2015, s. 62–79.

51 Z. Bauman, Retrotopia…, s. 118.

52 Ch.W. Clifton, D.K. Mulligan, R. Ramakrishnan, Data Mining and Privacy: An Overview, [w:] K.J. Strandburg, D.S. Raicu, Privacy and Technologies of Identity: A Cross-Disciplinary Conversation, Springer, New York 2006.

53 O. Gandy, Engaging Rational Discrimination: Exploring Reasons for Placing Regulatory Constraints on Decision Support Systems, „Ethics and Information Technology” 2010, 12(1), s. 29–42.

54 S. Barocas, S. Hood, M. Ziewitz, Governing algorithms: A provocation piece, SSRN Electronic Journal, marzec 2013 roku.

55 N. Seaver, Algorithms as culture: Some tactics for the ethnography of algorithmic systems, „Big Data & Society” 2017, 4(2).

56 Ibidem.

57 P. Dourish, Algorithms and their others: Algorithmic culture in context, „Big Data & Society” 2016, 3(2), s. 3–5.

58 N. Seaver, Knowing Algorithms, „Media in Transition” 2013, 8, s. 2, pobrano z: http://nickseaver.net/papers/seaverMiT8.pdf.

59 T. Gillespie, Algorithm, [w:] B. Peters (red.), Digital Keywords: A Vocabulary of Information Society and Culture, Princeton University Press, Princeton 2016, s. 18–30.

60 N. Seaver, Knowing Algorithms…

61 A. Goffey, Algorithm, [w:] M. Fuller (red.), Software studies – A lexicon, MIT Press, Cambridge 2008, s. 15–20.

62 M. Hindman, Stickier News. What Newspapers Don’t Know about Web Traffic Has Hurt Them Badly – But There is a Better Way, Shorenstein Center on Media, Politics and Public Policy, Harvard Kennedy School, Cambridge 2015.

63 D. Neyland, On organizing algorithms, „Theory, Culture & Society” 2015, 32(1), s. 119–132.

64 N. Seaver, Knowing Algorithms…

65 T. Striphas, Algorithmic culture, „European Journal of Cultural Studies” 2015, 18(4–5), s. 395–412.

66 N. Seaver, Algorithms…

67 S. Levy, In the plex. How Google’s algorithm rules the web, Wired, 2010, pobrano z: http//www.wired.com/magazine/2010/02/ff_google_algorithm.

68 P. Dourish, Algorithms…

69 Ibidem.

70 N. Seaver, Knowing Algorithms…

71 T. Simonite, When It Comes to Gorillas, Google Photos Remains Blind, Wired, 1 listopada 2018 roku, pobrano z: https://www.wired.com/story/when-it-comes-to-gorillas-google-photos-remains-blind/.

72 S.U. Noble, Algorithms of oppression: How search engines reinforce racism, NYU Press, New York 2018.

73 Ibidem.

74 Ibidem.

75 N. Seaver, What should an anthropology of algorithms do?, „Cultural Anthropology” 2018, 33(3), s. 375–385.

Spis treści

Wstęp

Prolegomena

Akt I

Korporacje platform na ratunek

Prolegomena

Akt II

Jak platformy wdarły się do wnętrza Kapitolu

I. Potęga platform

1. Dlaczego Google, Facebook, Apple i Amazon oraz Microsoft są tak potężne?

Platforma jak kameleon

2. Platforma a stosunki władzy

Platforma jako „game changer” zarządzania

3. Algorytmy a platformy – iluzje racjonalności, neutralności i obiektywności

(Kult)ura algorytmiczna

Algorytm jako platforma

Ku etnografii algorytmu platform

Algorytm opresji

II. Osobliwość i ewolucja platform

1. Osobliwość platform

2. Platformizacja

Platforma a media

3. Znaczenie rynkowe, polityczne i społeczne platform

Rynek wymiany lateralnej

4. Kapitalizm platform – czyli biznes, a nie tylko wartości społeczne

Zwrot ku danym

5. Feudalizm platform – hołdy lenne i cyberniewola

6. Rewolucja (platform) 4.0 i 5.0

Nowe wartości, nowy kapitał

7. Bogactwo i zysk versus wartości społeczne

8. Ekspansja: pochód utowarowienia – od pracy po emocje

„Fikcyjne” towary, prawdziwe zyski

9. Marketing 4.0 w służbie utowarowienia

III. Platforma redefinicji znaczeń, mistyfikacji i sofizmatów

1. Redefinicja znaczeń – od manipulacji do hegemonii

Iluzja „społeczności” i „przyjaciół”

„Platforma” jako semantyczny kamuflaż

Retoryka demokratyzacji, czyli populizm platform

Nowy „tryumf pustki” na platformach

2. Platforma: „aparat uwodzenia” i „produkcji” zaufania

Boty receptą na kryzys zaufania

Fasada demokratyzacji platform i algorytmiczna produkcja zaufania

„Setki dłoni” platformy

3. Kontrolowane upodmiotowienie jako antynomia

4. Chmura metafor

Demistyfikacja chmur

Kwantowa chmura

IV. Korporacje platform: uniwersum Facebooka, Google i Palantira

1. Metamorfozy Facebooka

2. Facebook czy Earthbook?

3. (Nie)odpowiedzialna sztuczna inteligencja

Programowalność Facebooka: od serwisu społecznościowego do platformy biznesu

Facebooka opisanie świata

Facebook jako „trzecia przestrzeń”

4. Uniwersum Google – jak Ariadna i miliardy Tezeuszy

Cybertayloryzm, czyli Google – najwyższy Kościół w internecie

Uwodzący narcystyczną logiką flirt Google z akademią

5. Palantir – misjonarz światowego bezpieczeństwa

Światu na ratunek

Osobliwość modelu Palantira

V. Kult jednorożców i superplatform

1. Mityczna stajnia jednorożców

Bez modelu biznesowego

Monomit jednorożca

Wróżbiarski kapitalizm venture capital

Kult porażki

Zebry, a nie jednorożce

2. Przerośnięte jednorożce – superplatformy

Ku ekosystemowi superplatform

Symboliczna władza platform: stanowienie zasad

3. BIG NINE a GAFA(M)

Nexus decyzyjny i samotność obywatela

Chiński kolektywizm versus „jedna firma zmieni świat”

Soft power Doliny i Chin

VI. Wokół „stref zabijania” – jak superplatformy niszczą konkurencję

1. Mistrzowie zarządzania barierami konkurencji

Zwycięzca bierze wszystko – ku monopolom

Lobbing i inwestycje w media

2. W „strefie zabijania” – jak Google niszczył konkurencję

Potencjalni konkurenci – nowe ofiary Google

Cel: Pinterest

Wzorce „strefy zabijania”

3. Facebook: analizuj, zagroź, kopiuj, nękaj, kupuj, zniszcz

Onavo, czyli jak Facebook rozpoznawał zagrożenie

Cel: Instagram

Cel: WhatsApp

Zagrożenie kanibalizacją i groźby efektu sieciowego

4. Start-upy, czyli „strach”, „panika” i „zastraszanie”

Fagocytoza superplatform i jej skutki

Obawy venture capital

Nowe szczyty marzeń: sprzedać się

5. Ucieczki ze strefy

W poszukiwaniu niszy – DuckDuckGo

Spotify – najlepszy uczeń GAFAM

6. Kult szybkości i destabilizowania – „Move Fast and Break Things”

Destabilizacja w architekturze

7. Niewolnicy silosów platform – iluzje jednego kliknięcia

8. Dezorientacje rynkowe i etyczne

(Nie) płacąc podatków

(Nie)odpowiedzialność a kształtowanie doświadczeń

Prywatność jako anomalia

VII. Gdy algorytm naprawia świat. Determinizm i cybertotalizm

1. Determinizm technologiczny na nowo odkrywany

Imaginacje determinizmu i redukcjonizmu

Nowe utopie

Technologia a mity

2. Determinizm korporacyjny: zbyt wielcy, aby… być zrozumiani

Prorocy Trzeciej Ery – mit antycypacji

3. Empiryzm, algorytm i analiza danych lekami na społeczne problemy

W duchu Leibniza – aplikacja receptą na „całe zło”

VIII. Iluzje i mity korporacji platform

1. Mity założycielskie mediów – „efekt pociągu” i Wojna światów

2. Gdy utopijna fantazja stała się technologią

3. Wymyślona historia Doliny i innowacyjność jako „produkt okoliczności”

Mityczna symbioza biznesu i akademii

4. Tożsamość misjonarskich organizacji

Model i kopie Doliny Krzemowej

5. Arogancja, infantylizm i etyczna dezorientacja

6. Kontrkulturowe korzenie – komputernowym LSD

7. (Nie)młodzi herosi Doliny

8. Garaże herosów i biografie mediów

9. Mit przedsiębiorczości bez państwa

10. Za fasadą misjonarskiej filantropii – iluzje poświęcenia herosów

Superbohaterowie filantropii

Orgiastyczna dobroczynność

Zuckerberg San Francisco General Hospital and Trauma Center

IX. Straty uboczne i pokutnicy platform

1. Straty uboczne w cyber-inferno

Zucker-borg

„Zarządzanie przyzwoitością”

Wyścig manipulacji i jej wykrywania

Deepfake: broń podważania wiarygodności platform

Zdolni uczniowie Cambridge Analytica

2. Paradoks prywatności – „niewolnicy” platform

3. Przemysł żalu

4. Erozja mitu – zagrożenia

5. Iluzja autokorekty

X. Na nowych terytoriach. Platformy i chmury danych

1. Człowiek superprocesorem

Krok po kroku

Człowiek wobec big data

2. Platformy oceny/wyceny człowieka

3. Społeczeństwo „metryczne”: kult ewaluacji i opresja hierarchizacji

4. Mit big data

Fundamentalizm danych. Liczby nie „mówią same za siebie”

Mit big data a marketing

5. Big data – Święty Graal „końca” nauk

Ułomności wielkich danych: rich data i thick data

6. Platformy kolonializmu danych

Asymetria potencjałów – przesunięcie władzy z państwa na platformy

Filantropia danych

Kolonializm danych – Aadhaar

XI. Jak rozbroić GAFAM?

1. „Za szybkie, aby umrzeć”, czyli konkurencja ważniejsza niż zaspokojenie potrzeb użytkowników

2. Teatr antymonopolowy, pozwy i obrona korporacji platform

3. Obrona (platform) przez atak

4. Pod rosnącą presją

5. Immunitet platform, czyli problem „dobrego samarytanina”

6. Gdyby korporacja była człowiekiem

7. Jak „rozbroić” GAFAM? Interoperacyjność danych

Jako końcowe ostrzeżenie: hype wokół sztucznej inteligencji

Bibliografia

Indeks osób