© Copyright by Maciej Kawecki

© Copyright for this edition New.H Publishing Sp. z o.o., 2025

(Imprint Pałac Dożów)

Tłumaczenie transkrypcji tekstów anglojęzycznych

Piotr Połatyński

Przygotowanie tekstów

Michalina Smoleń

Dorota Krzyszkowska

Redakcja

Mirosław Ruszkiewicz

Agnieszka Pawlikowska

Korekta

Joanna Kłos

Projekt okładki i stron tytułowych

Urszula Gireń

Fotografia autora na okładce

Michał Mutor

Opracowanie typograficzne i łamanie

MELES-DESIGN

Fotografie rozmówców

Łukasz Bernaś

Brian Green – © Ivan Gushin (licencja: Creative Commons Attribution 2.0 Generic license); Marta Kwiatkowska – fot. z archiwum prywatnego; David Deutsch – fot. Lulie Tanett; Marek Cygan – archiwum autora.

Fot. Autora na s. 411

Paweł Poręcki

Kraków – Nowa Huta 2025

Wszystkie tytuły i śródtytuły pochodzą od redakcji.

ISBN: 978-83-974017-5-4

Podmiot odpowiedzialny

New.H Publishing Sp. z o.o.

Osiedle Stalowe 16/89, 31-922 Kraków

email: sklep@palacdozow.pl

Na zlecenie Woblink

woblink.com

plik przygotowała Katarzyna Błaszczyk

Spis treści

Wprowadzenie

SZTUCZNA INTELIGENCJA – LUDZKA CZY NIELUDZKA?

Roger Penrose. Sztuczna inteligencja nie będzie świadoma (I 2025)

Krzysztof J. Geras. Tworzymy nowy gatunek (VII 2023)

Marek Cygan. Roboty mają już zmysły (X 2023)

Zakończenie. Zadać najważniejsze pytanie

Podziękowania

Dla Kasi. Od zawsze. Na zawsze

Wprowadzenie

Książka, którą oddaję w Państwa ręce, to efekt podróży, jaką od kilku lat odbywam w poszukiwaniu odpowiedzi na pytanie „dlaczego”. Dlaczego świat wygląda tak, jak wygląda, i dlaczego cały czas tak mało o nim wiemy? Jak to możliwe, że potrafimy w świecie fizyki Newtona tak dokładnie opisać to, co dzieje się ze spadającą szklanką w warunkach grawitacji, ale nie wiemy, co tę grawitację wywołuje. Jakie jest źródło owej grawitacji? Gdy patrzymy na tę spadającą szklankę, zdaje się, że mamy świadomość tego, co się z nią wydarzy. Czym jednak jest ta świadomość? Sir Roger Penrose, laureat Nagrody Nobla z fizyki, odpowiedział mi na to pytanie, że być może wszystko, co dzieje się w naszych mózgach, jest efektem zjawisk kwantowych. Profesor Judea Pearl, laureat Nagrody Turinga, powiedział, że jest ona po prostu „śladem naszego własnego oprogramowania”. Myśl tę rozwija profesor David Deutsch, laureat Nagrody Newtona, mówiąc, że świadomość nie jest cechą naszego mózgu, lecz właśnie programu komputerowego znajdującego się głęboko w nim. Na to samo fundamentalne zjawisko każdy z nich patrzy inaczej. Jak to jest możliwe? Mimo tych znaków zapytania staramy się za wszelką cenę przenieść ową świadomość do świata cyfrowego. Ale jak możemy to zrobić, nie wiedząc, czym ona w ogóle jest? Jak to się dzieje, że człowiek, będąc świadomy tak samo jak – dajmy na to – sarna, potrzebuje tylu miesięcy, by nauczyć się chodzić, podczas gdy ona chodzi niemal chwilę po urodzeniu? Co się dzieje w pierwszych sekundach od zapłodnienia człowieka, determinującego całe jego istnienie?

Z czasem uznałem, że to nie odpowiedzi, ale owe znaki zapytania są najbardziej fascynujące. Że to one stanowią istotę nauki. Zaczęły się mnożyć w mojej głowie, rodząc pomysły na kolejne i kolejne wywiady. Z czasem też każda z rozmów przeprowadzanych na kanale This Is IT stała się dla mnie elementem większej układanki, która stworzyła pełną całość. Obraz świata, w którym żyjemy, i najbardziej fundamentalnych znaków zapytania, z których każdy rodzi setki innych. Uznałem, że ten obraz świata zaczyna być na tyle wyraźny, iż powinien zostać ujęty w ramach książki.

Mając świadomość, że zatopią się tu Państwo w świat owych pytań, jestem winny odpowiedź na jedno pytanie. Kiedy to wszystko się u mnie zaczęło? Sądzę, że pewnego popołudnia na Uniwersytecie Cambridge w dość ulewny dzień. Przeprowadzałem tam wywiad z wybitnym polskim matematykiem, profesorem Maciejem Dunajskim. Gdy rozmawialiśmy o jego relacji ze Stephenem Hawkingiem, powiedział mi, że od lat przyjaźni się z jeszcze innym wielkim umysłem, sir Rogerem Penrose’em. Z czasem moja relacja z Maciejem rozwinęła się na tyle, że sam zaproponował mi spotkanie z Penrose’em.

To była najważniejsza rozmowa, jaką w życiu przeprowadziłem, a umysł Penrose’a jest największym, jakiego mogłem doświadczyć. Patrzy na świat przez pryzmat geometrii. To w geometrii i matematyce Wszechświata, na wiele lat, zanim pierwsze teleskopy pokazały nam jej zdjęcie, dostrzegł czarne dziury – miejsca, w których czasoprzestrzeń zakrzywia się, rodząc zapewne największe znaki zapytania w kosmologii. Co jest po drugiej stronie? Pamiętam moment, gdy z sir Rogerem staliśmy w Oksfordzie przed wejściem do budynku Andrew Wilesa, na parkietażu autorstwa Penrose’a. To musi być dziwne uczucie wchodzić do budynku jednego z najlepszych instytutów na Ziemi własnym parkietażem, z tabliczką własnego imienia. Niemniej ów parkietaż to coś w rodzaju figury idealnej stworzonej przez Penrose’a w genialny sposób. Został wymyślony tak, by płaszczyzna nim pokrywana, w tym przypadku dziedziniec Instytutu Matematyki Uniwersytetu Oksfordzkiego, za pomocą tylko dwóch rodzajów figur („kafelków”) stworzyła wzór, który nigdy nie będzie się powtarzał okresowo po przesunięciu. Nigdy! Wielkie wrażenie robiła pasja i wzruszenie, z jakim opowiadał mi o tym, co stworzył. Już wtedy miał grubo po dziewięćdziesiątce. To był chyba moment, w którym poczułem, że całe życie chcę już robić to, co robię. Potem z Rogerem Penrose’em spotkałem się jeszcze dwa razy. Ostatni raz w maju 2025 roku. Poruszony wtedy jedną z rozmów, która wywołała u mnie coś na kształt kryzysu egzystencjalnego, powiedziałem mu o tym. Odprowadzając go do wyjścia po przeprowadzonym wywiadzie, napomknąłem, że tak niewiele znaczymy we Wszechświecie. Jesteśmy niczym ziarenko piasku albo i mniej. I gdy umrzemy, przestaniemy istnieć. Spojrzał wtedy na mnie i powiedział: „Lęk przed tym, że przestanie się istnieć – tak to się nazywa. Bać można się tego, czego się nie doświadczyło. A każdy z nas już raz nie istniał. Czy coś się wtedy wydarzyło? Świat radził sobie bez nas świetnie. Tak więc każdy z nas powtórzy to i nie będzie istniał w fizycznym świecie drugi raz, nie pierwszy”.

Nazwisko sir Rogera Penrose’a otworzyło mi drzwi do największych naukowców na Ziemi. Tytanów. Zarówno tych uprawiających naukę w Polsce, jak i za granicą. Jestem głęboko przekonany, że nauka jest najbardziej obiektywnym zjawiskiem, które nas otacza. Głęboko wierzę, że ta publikacja, napisana dzięki doświadczeniu wielkich umysłów, stanie się drogą wiodącą do celu, jakim jest masowe zainteresowanie naszego społeczeństwa nauką. Tylko społeczeństwo oparte na wiedzy może bowiem zobaczyć przyszłość, a to przygotowywanie się do niej będzie determinowało rozwój przez najbliższe lata.

SZTUCZNA INTELIGENCJA – LUDZKA CZY NIELUDZKA?

SZTUCZNA INTELIGENCJA NIE BĘDZIE ŚWIADOMA

Mówi się, że sir Roger Penrose jest największym żyjącym umysłem na Ziemi. Zawsze można mieć wątpliwości, używając tak wielkich kwantyfikatorów, ale z mojego punktu widzenia to najczystsza prawda. Kilkadziesiąt lat temu dostrzegł w geometrii Wszechświata obszary, w których czasoprzestrzeń ulega zakrzywieniu, tworząc coś, co nazywamy czarnymi dziurami. Minęły dziesięciolecia, zanim potwierdziły to teleskopy. Jego miłość do geometrii rozpoczęła się już, gdy był dzieckiem. Kiedyś zapytałem go, czy pamięta moment, w którym zakochał się w matematyce. Odrzekł, że wraca do tej chwili myślami i chyba było to wtedy, gdy jedząc szpinak, dzielił go widelcem na różne części. Nie lubił szpinaku, ale lubił go dzielić. Tak to się zaczęło.

Wiele lat później zaproponował niezwykle spójną wizję otaczających nas rzeczywistości składających się ze świata matematycznego, świata fizycznego oraz świata mentalnego. Jego słowa trzeba interpretować, wpisując je w tę strukturę. Zresztą uważam, że powinna ona rozpocząć tę książkę. Każda z prowadzonych tu rozmów na poziomie fundamentalnym dotyczy któregoś z owych trzech światów. Pierwszą z części jest świat Platona. Uwikłany w liczby świat matematyczny. Świat idei, prawd matematycznych i geometrycznych, które Penrose uważa za istniejące niezależnie od ludzkiego umysłu i fizycznego Wszechświata. Jego zdaniem prawa fizyki są jedynie odzwierciedleniem tego świata. W czym owe idee są zapisane? W niczym. One po prostu są elementem natury naszego świata. O ile możemy sobie hipotetycznie wyobrazić Wszechświaty, w których mogą istnieć inne prawa fizyki niż w naszym, o tyle trudno jest wyobrazić sobie inne prawa matematyki. Być może matematyka, którą odkryliśmy, nie jest dziś kompletna. Ale czy matematyka może być różna w różnych rzeczywistościach? Trudno to sobie wyobrazić. Drugą z opisywanych przez niego rzeczywistości jest ta, którą poznajemy za pomocą zmysłów i opisujemy prawami fizyki. Obejmuje ona materię, energię oraz całą przestrzeń i czas. Trzecią jest świat mentalny. To świat świadomości, o której niemal nic nie wiemy. To nasza subiektywna rzeczywistość, świat percepcji, myśli, uczuć i świadomości. Penrose sugeruje, że te trzy światy są ze sobą powiązane w cykliczny sposób:

- Świat Platona → świat fizyczny: prawa matematyki i geometrii determinują strukturę i działanie świata fizycznego.

- Świat fizyczny → świat mentalny: fizyczna materia, w szczególności mózg, jest źródłem świadomości i myśli.

- Świat mentalny → świat Platona: ludzki umysł jest w stanie pojmować abstrakcyjne idee i prawdy świata matematycznego.

Oczywiście każdy z nas może mieć swoje zdanie na temat tego rozumienia świata. Niektórym brakuje w nim podziału na świat materialny i niematerialny zwany transcendentnym. Inni do świata materialnego dodadzą świat materii ożywionej i nieożywionej. Mimo że nie wiemy, co w każdym detalu czyni materię ożywioną, wiemy, że istnieje. Niezależnie od tego, jak na niego spojrzymy, bez wątpienia wkład sir Rogera Penrose’a w rozwój każdego z tych trzech światów jest ogromny.

Prywatnych doświadczeń z sir Rogerem mam co najmniej kilka. Opiszę jedno, które dla mnie było czymś niemal transcendentnym. Od lat wiem, że jest on jedną z tych osób, które miały wielki wpływ na to, co robię. W trakcie naszego ostatniego spotkania sir Penrose otrzymał ode mnie ważącą dobre kilka kilogramów statuetkę Nagrody im. Stanisława Lema, którą przyznano mu w Polsce kilka miesięcy wcześniej. Wziął ją do ręki, przybliżył do twarzy, mając już ograniczone możliwości wzrokowe, i stwierdził: „Jest bardzo ładna”. Sięgnął ręką po swój czarny, dość już sfatygowany plecaczek, by go otworzyć. Gdy chciałem mu w tej czynności pomóc, usłyszałem uprzejme, lecz stanowcze: „Proszę zostawić”. Potem włożył tę ciężką nagrodę do plecaka, a ten założył sobie na plecy. Spojrzał na nas i powiedział: „No to idę, muszę jeszcze kupić sobie mleko”. Wiedziałem, że to już zapewne nasze ostatnie spotkanie w życiu. Nie chciałem go przerywać. Zapytałem, czy mogę go odprowadzić. Uśmiechnął się, a ja odebrałem to jako zgodę. Po drodze chwilę rozmawialiśmy. Z sir Rogerem Penrose’em nigdy nie rozmawia się o niczym. Mówiliśmy o tym, jak to w średniowieczu ludzie pokochali geometrię. W pewnym momencie, po przejściu razem dość długiego korytarza, zacząłem się kierować do windy. Sir Roger spojrzał na mnie wtedy i rzekł bardzo stanowczo, że nigdy nie jeździ windą i zejdzie sam schodami. Dziewięćdziesięcioczteroletni naukowiec po odbyciu ze mną wielogodzinnych nagrań naszego wywiadu, mając w plecaku ważący wiele kilogramów przedmiot, do którego zaraz dołożyć miał karton mleka, zaczął sprawnie schodzić z drugiego piętra Instytutu Matematyki Uniwersytetu Oksfordzkiego. Pamiętam te nasze ostatnie wspólne chwile. Gdy wychodził z Instytutu w kierunku parkietażu własnego autorstwa, długo stałem, aż całkiem zniknął. Wtedy ostatni raz się widzieliśmy. Cieszę się, że dziś, kiedy piszę te słowa wiele miesięcy po tym wydarzeniu, sir Roger Penrose wciąż jest w świetnej formie.

Maciej Kawecki: Kilkakrotnie wspomniał Pan o Nagrodzie Nobla. Wróciliśmy właśnie ze Sztokholmu, gdzie przeprowadziliśmy wywiad z jej laureatem. Czy nie sądzi Pan, że tegoroczny Nobel stanowi hołd Komitetu Noblowskiego dla sztucznej inteligencji? Nobla z fizyki otrzymali twórcy AI, z chemii – sir Demis Hassabis, założyciel systemu sztucznej inteligencji DeepMind, a David Baker został nagrodzony za komputerową wizualizację białek. Czy to nie jest hołd dla AI?

Roger Penrose: Zalecałbym pewną ostrożność. Po pierwsze, błędna jest nazwa AI. To nie jest sztuczna inteligencja. Inteligencja wymaga świadomości. Jestem zwolennikiem tezy, że urządzenia te nie są świadome i nie będą świadome, dopóki same czegoś nie wymyślą. One po prostu wykonują obliczenia.

MK: Inteligencja to nie jest świadomość?

RP: Opiera się na świadomości. Zależy, jak definiujemy to pojęcie. Sądzę, że mówiąc o inteligencji, ludzie mają na myśli coś świadomego. Do swoich poglądów doszedłem na studiach. Gdy byłem studentem w Cambridge, realizowałem trzy przedmioty, które nie były związane z moim głównym kierunkiem. Jednym był kurs Bondiego na temat ogólnej teorii względności, drugim zajęcia Paula Diraca o mechanice kwantowej, a trzeci przedmiot dotyczył logiki matematycznej. Tam dowiedziałem się o maszynach Turinga i pojęciu obliczalności. Poznałem twierdzenie Gödla, które wydało mi się niesamowite. Wskazuje ono bowiem, że istnieją rzeczy, których zrozumienie wykracza poza ich użycie. Gödel mówił o tworzeniu twierdzeń. Powiedzmy, że ktoś próbuje rozwinąć swoje metody dowodzenia matematycznego. Jak dowodzimy twierdzeń w matematyce? Skąd wiemy, że są prawdziwe? Przedstawiamy dowód. A co oznacza dowód? Na przykład zestaw reguł, których wykonanie stanowi dowód. Skąd wiadomo, że reguły dają wynik zgodny z prawdą?

MK: Może AI tworzy własne zasady?

RP: Tu właśnie trzeba być ostrożnym. Od pewnego znanego logika nazwiskiem Steen dowiedziałem się ważnej rzeczy o twierdzeniu Gödla. Jest ono niezwykle pomysłowe. Stawia się twierdzenie mówiące o tym, że nie można go udowodnić na podstawie przyjętych zasad. Pomysłowość polega na tym, że zasady przeprowadzenia dowodu można wprowadzić do komputera. Oznacza to, że są to zasady obliczeniowe. Jednak z tych zajęć wiedziałem, że istnieją rzeczy, których nie da się wprowadzić do komputera. Istnieją w matematyce rzeczy nieobliczalne. Co to oznacza „obliczalny”? Oznacza, że można stworzyć maszynę obliczeniową, komputer. Potem trzeba zdefiniować komputer. Turing miał własną definicję komputera, Church i Curry mieli inną, inni ludzie jeszcze inną. Wszystkie okazały się równoważne, istnieje zatem jedno uniwersalne pojęcie obliczalności.

MK: A może to tylko język nie nadąża za rozwojem sztucznej inteligencji? Może nie potrafimy opisać tego, co stworzyliśmy?

RP: Nie zgadzam się z tym, to nie jest problem języka. Człowiek zawsze może stworzyć nowy język. Wrócę jednak do twierdzenia Gödla. Mówi ono, że można skonstruować twierdzenie, którego znaczenie rozumiesz, ale oznacza ono tyle, że nie da się go udowodnić za pomocą tych reguł. Potem zastanawiasz się, czy jednak można je udowodnić za pomocą tych reguł. Jeśli można je udowodnić za pomocą reguł, to musi być prawdziwe. Załóżmy teraz, że twierdzenie jest fałszywe. Oznacza to, że można to udowodnić za pomocą reguł. A jeśli tak, to znaczy przyjęcie założenia, że przestrzeganie tych reguł oznacza prawdę. Zakładamy, że reguły zawierają prawdę. Czyli prawdą jest, że naszego twierdzenia nie da się udowodnić za pomocą reguł. Jeżeli jest ono fałszywe, to da się je udowodnić i dlatego jest ono prawdziwe. A zatem musi być jednocześnie prawdziwe i niemożliwe do udowodnienia na podstawie tych reguł. Niesamowite.

MK: Wciąż nie rozumiem, dlaczego AI nie może tworzyć własnych zasad.

RP: Ponieważ nie wie, że są one prawdziwe. Na tym polega cały sens twierdzenia Gödla, w którym chodzi o to, jak przekroczyć reguły. Robi się to, rozumiejąc, dlaczego są one prawdziwe. Nie chodzi więc tylko o używanie ich, ale o rozumienie, dlaczego korzystanie z nich zapewnia dojście do prawdy i możliwość udowodnienia tego, co wykracza poza reguły. Wiedza o tym, że są prawdziwe, oznacza ich rozumienie. A co oznacza słowo „rozumieć”? Trzeba być ich świadomym. To proste. Trzeba wiedzieć, co się robi. Trzeba wiedzieć, dlaczego są prawdziwe. Nie chodzi o to, że są prawdziwe, bo tego można się dowiedzieć w szkole. Trzeba jednak wiedzieć, dlaczego są prawdziwe, to wymaga zrozumienia, zrozumienie zaś wymaga bycia ich świadomym. Chcę przez to powiedzieć, że świadomość pozwala przekroczyć zasady. Dostrzegamy, dlaczego są prawdziwe, i dzięki temu możemy je przekroczyć. Twierdzenie Gödla wskazuje, jak wykorzystać zrozumienie przyczyn prawdziwości zasad do ich przekroczenia.

MK: Czy Pana zdaniem AI jest prostym narzędziem do wykorzystania w pojedynczych przypadkach?

RP: Nie jest to proste narzędzie ani do pojedynczych spraw. Bez wątpienia jest ono nieskończone. Chodzi jednak o to, że ono nie wie, co robi. Kiedy rozmawiamy ze sztuczną inteligencją, to ona nie wie, co robi. Ludzie zatracili się w mocy obliczeniowej. Komputery stały się tak potężne, że ludzie tracą z oczu to, co robią.

MK: Czy żałuje Pan, że stały się one tak potężne?

RP: Nie o to chodzi. Wydaje mi się, że zgubiliśmy sedno sprawy. Turing miał na to pomysł. Trudno było powiedzieć, w co konkretnie wierzył, ale nazwał swoją koncepcję testem Turinga. Jak stwierdzić, czy dana istota jest świadoma? Po prostu przez rozmowę.

MK: Może AI to nowa sfera ludzkiej egzystencji?

RP: Nie. Czegoś tu brakuje. AI ma oczywiście swoją rolę do odegrania, nie można jednak dać się zwieść. Rola AI wiąże się z mocą obliczeniową. Komputery są teraz tak potężne, że mogą robić rzeczy znacznie wykraczające poza możliwości ludzi w tym zakresie. Można wziąć ogromną ilość danych, przeanalizować je i zobaczyć, co one mówią i czy są zgodne z poprzednimi wnioskami z danych, czy też nie. AI robi właśnie to, nie rozumiejąc swojego działania. A rozumienie różni się od obliczania.

MK: Dlatego, że w czarnej skrzynce siedzi tylko statystyka. To tylko prosta maszyna statystyczna.

RP: Jeżeli to maszyna, to nie jest świadoma. Moim zdaniem ludzie się pogubili. Właśnie po to napisałem książkę Nowy umysł cesarza.

MK: Co to znaczy, że ludzie się pogubili?

RP: Pogubili się. Ja przyjąłem założenie, że musimy znaleźć coś w fizyce. Jako fizyk wierzę, że cokolwiek dzieje się w naszych głowach, cokolwiek tworzy świadomość, to należy do świata fizycznego. Nie wierzę, że to magia nie wiadomo skąd.

MK: Czarna skrzynka również należy do świata fizycznego.

RP: Co to znaczy „czarna skrzynka”?

MK: Czarna skrzynka AI. Wiemy, co do niej wkładamy, i wiemy, co z niej wychodzi, ale nie mamy pojęcia, co jest w środku.

RP: No właśnie, nie wiemy, co jest w środku. Jaka fizyka znajduje się w tej skrzynce?

MK: Może nowa fizyka?

RP: Szczególny rodzaj nowej fizyki. Opierając się na tezie Gödla, twierdzę, że pomijamy sedno sprawy. Uważam, że fizyka związana ze świadomym myśleniem nie może być obliczalna. Tymczasem fizyka, którą znamy, daje się obliczyć. Weźmy na przykład ogólną teorię względności, w której mamy doskonałe maszyny, czyli czarne dziury, które zderzając się ze sobą, emitują sygnały fal grawitacyjnych. Można wtedy powiedzieć, że wiemy o zderzeniu, ponieważ ma ono bardzo wyraźną cechę. Tymczasem ja twierdzę, że fizyka z zasady jest nieobliczalna. Dlatego sztuczna inteligencja może się bardzo starać, ale nie będzie w stanie tego osiągnąć. Nie wiemy, co się znajduje we wspomnianej czarnej skrzynce. Czy jest to taki komputer, którego działanie rozumiemy? A może coś, co wymaga niemożliwego do obliczenia procesu w fizyce? Dziś jeszcze nie, choć nie mówię, że tak się nie stanie. Obawiam się i nie chcę, żeby do tego doszło. Podejrzewam, że pewnego dnia tak się stanie, ale to nie będzie już dzisiejsza sztuczna inteligencja. AI, które znamy, opiera się na komputerach, a to wyklucza świadomość.

MK: Nie będzie sztucznej superinteligencji?

RP: Problem w tym, że „sztuczna inteligencja” to niewłaściwe określenie. Moim zdaniem inteligencja wymaga świadomości.

MK: Jak należałoby ją nazwać?

RP: Sztuczny spryt? Może takie określenie? Widać tu różnice, przynajmniej w pewnym stopniu. Weźmy studentów matematyki, niektórzy rozumieją, co robią, inni są zwyczajnie sprytni. Potrafią powtórzyć to, czego się nauczyli, i umieją to robić bardzo sprytnie. Potrafią świetnie liczyć, ale niekoniecznie rozumieją, co robią. Fizyka, której nie znamy, cechuje się nieobliczalnością. Twierdzenie to wyraziłem w Nowym umyśle cesarza i podkreślam mocniej w Cieniach umysłu.

MK: Chodzi mi o to, że może to w ogóle nie jest świadomość. Może to coś zupełnie nowego.

RP: Ale to już inna kwestia. Oczywiście może tak być. Może to być coś, czego teraz nie potrafimy sobie wyobrazić. Kiedy mówimy o AI, używamy niefortunnego określenia, które oznacza sztuczną inteligencję. A przecież chodzi o rzeczy, które można wykonać za pomocą komputerów. Komputerów o potężnej mocy, które wykorzystuje AI. Nie zajmowałem się tym szczegółowo, więc pewnie nie jestem na bieżąco, ale rozumiem, że chodzi o analizowanie ogromnych zbiorów danych i poszukiwanie wzorców. Ale wszystko to są obliczenia, które wykonujemy za pomocą komputerów. Komputery są szczególnym rodzajem struktury matematycznej, opartym na matematyce obliczeniowej, czyli bardzo ograniczonym wycinku matematyki. Studiując matematykę jako przedmiot abstrakcyjny, szybko dowiemy się, że wykracza ona daleko poza obliczalność. Część matematyki nie poddaje się obliczeniu, nie da się policzyć jej za pomocą algorytmu. Ludzie często myślą, że sztuczna inteligencja nie używa algorytmów, ponieważ korzysta z metod losowych. Nie badałem szczegółowo, czego wymaga sztuczna inteligencja dostępna na komputerze, ale ponieważ wykonuje ją komputer, ma ona charakter obliczeniowy.

Twierdzę, że ma Pan na myśli coś nieobliczalnego. Ludzie często myślą tylko o komputerach i nie wiedzą nawet, że istnieją rzeczy nieobliczalne. W matematyce, logice matematycznej istnieją struktury nieobliczalne. Fizyka naszego świata może być nieobliczalna i ja się z tym zgadzam. Natura była wystarczająco sprytna, aby stworzyć istoty potrafiące wykorzystać nieobliczalny aspekt fizyki, a udało im się to zrobić za pomocą doboru naturalnego. Nie wiem, jak głęboko sięga świadomość w królestwie zwierząt. Każdy właściciel psa jest absolutnie przekonany, że psy są świadome, koty zapewne też. Idąc dalej, słonie i ośmiornice na pewno. Ale nie wiem, czy bakteria jest świadoma. A czy żaba jest świadoma? Zapewne tak. Czy ameba jest świadoma? Tego nie wiem, tylko spekuluję.

Sądzę, że świadomość nie jest obliczeniowa. Tymczasem ludzie są oczarowani faktem, że komputery stały się tak potężne, i uważają, że znaleźli odpowiedź. To tylko maszyny, a moim zdaniem odpowiedź tkwi znacznie głębiej. Wiąże się z takim rodzajem fizyki, którego prawdopodobnie jeszcze nie znamy.

MK: Tkwi głębiej, zapewne pochodzi ze świata kwantowego.

RP: Wykracza poza świat kwantowy. Świat kwantowy jest nadal obliczalny. Element nieobliczalny dotyczy podstawowej niewiadomej w świecie kwantowym. Teoria kwantowa jest zasadniczo niekompletna, a nawet w pewnym sensie błędna, bo zakłada, że superpozycje kwantowe utrzymują się na wszystkich poziomach.

MK: A może, jeśli kiedykolwiek zbudujemy uniwersalny komputer kwantowy, uda nam się stworzyć syntetyczną świadomość?

RP: Być może. Nie mam nic przeciwko temu, poza tym, że mi się to nie podoba. Teoretycznie nie mam nic przeciwko.

MK: Czy zgadza się Pan z Komitetem Noblowskim w sprawie nagrody z fizyki dla twórców AI?

RP: Nie znam uzasadnienia nagrody.

MK: Za fundamentalny wkład w rozwój syntetycznych sieci neuronowych dla Geoffreya Hintona. Czy to nadal fizyka?

RP: Mam wątpliwości, czy to naprawdę fizyka. Niektóre decyzje o przyznaniu nagród budzą kontrowersje. Sam podważyłbym kilka z nich, może tę również. Nie jestem pewien, nie śledziłem tego dokładnie, to zależy od uzasadnienia. Powiedziałbym, że jest to postęp technologiczny, ale czy teoretyczny? Komitet Noblowski zwykle nie przyznaje nagród za badania czysto teoretyczne, wymaga fizycznego dowodu na zastosowanie. W tym przypadku musiałbym poznać uzasadnienie Nagrody Nobla, żeby stwierdzić, czy mi się to podoba, czy nie.

MK: Moje pytanie dotyczy autonomicznych pojazdów. Przetwarzają one setki tysięcy danych z otoczenia. Może w tym tkwi świadomość? W zmysłach? Jednym z kierunków rozwoju sztucznej inteligencji jest wykorzystanie swego rodzaju cyfrowych zmysłów zbierających dane o otaczającej rzeczywistości.

RP: Nie sądzę, żeby miały one jakąkolwiek świadomość, ale może będą potrafiły jeździć lepiej niż ludzie. Nie mam skali porównawczej. Na pewno powodują głupie wypadki, ale ludzie też. Może kiedyś będą bardziej niezawodne od ludzi, i to całkiem niedługo. Nie podejrzewam jednak, żeby wskazywało to na jakąkolwiek świadomość. Już dziś istnieją urządzenia, które wyłączają światła o określonych porach i być może lepiej wiedzą, kiedy się ściemnia albo jak oszczędzać energię elektryczną.

MK: Patrząc na rozwój sztucznej inteligencji, jakie są Pana prognozy dotyczące przyszłości AI?

RP: Nie wiem, czym dziś zajmuje się sztuczna inteligencja. To pytanie wykracza poza mój obszar specjalizacji. Ja mogę odpowiedzieć, czy te maszyny działają tak jak my. Nie sądzę, że tak jest, ponieważ nie są świadome. I nie wydaje mi się, żeby kiedykolwiek zyskały świadomość, gdyż są maszynami obliczeniowymi. Nie oznacza to jednak, że nie będą lepsze od nas w wykonywaniu wielu zadań. Prawdopodobnie są lepsze już dzisiaj.

MK: Co jest największym zagrożeniem w rozwoju sztucznej inteligencji?

RP: Nie przeszkadza mi rozwój, dostrzegam tu jednak pewne ryzyko. Na pewno takie, że ludziom się wydaje, że maszyny są w istocie…

MK: Że są świadome.

RP: Tak, że są świadome. Ryzyko byłoby jeszcze większe, gdyby faktycznie maszyny miały świadomość. Wyobrażam sobie, że ktoś mógłby zrozumieć, na czym polega świadomość, i zbudować oparte na niej urządzenie. Nie nazwałbym go wtedy maszyną liczącą czy komputerem. Byłoby to inne, świadome urządzenie. A ponieważ uważam, że świadomość jest procesem fizycznym, to nie sądzę, że potrafimy ją zrozumieć. Moim zdaniem wiąże się to z załamaniem funkcji falowej. Zjawisko to jest jednak tajemnicze i łączy się z dość zagadkową przyczynowością wsteczną. Istnieją pewne rzeczy, które stoją w sprzeczności ze zwykłą przyczynowością. Do tego potrzeba jednak różnych koncepcji na temat tego, czym jest rzeczywistość. Ja starałem się wyodrębnić dwie koncepcje. Jedną jest rzeczywistość klasyczna, a druga to rzeczywistość kwantowa. Zwykle mówimy o klasycznej rzeczywistości.

MK: Której możemy dotknąć, zrozumieć zmysłami.

RP: Podstawowa różnica jest taka, że można zadać układowi pytanie. Mogę zapytać szklankę, jakiego jest kształtu, albo zastanowić się, jaki kształt ma szklanka. Jest okrągła u góry, cylindryczna, lekko zwężająca się ku dołowi. Tak jest w klasycznym świecie, w klasycznej rzeczywistości. Z kolei w odniesieniu do rzeczywistości kwantowej dobre kryterium miał Einstein, choć tak jej nie nazywał. Chodziło o to, skąd wiadomo, że funkcja falowa jest prawdziwa. Czy funkcja falowa cząstki jest prawdziwa, czy nie?

Dobrym przykładem jest spin połówkowy cząstki, który jest zjawiskiem kwantowym. Czy można zapytać ten system, w którą stronę się obraca? Nie można. Układ popatrzy pustym wzrokiem, powie, że nie udziela odpowiedzi na takie pytania, i poprosi o inny zestaw. Można jednak powiedzieć: „Cząstko, czy twój spin ma taki kierunek?”. Spin odbywa się wokół osi, spin połówkowy cząstki ma określoną oś. Za jej pomocą można opisać stan kwantowy spinu połówkowego cząstki. Ma ona jeden określony kierunek i obraca się wokół niego. Czy da się ustalić ten kierunek? Nie da się ustalić rzeczywistości kwantowej, można ją tylko potwierdzić. Lubię dwa określenia – ustalić, tak jak mogę ustalić kształt tej szklanki w klasycznej rzeczywistości. Rzeczywistość kwantową mogę tylko potwierdzić. O ile wydaje mi się, że wiem, w którym kierunku się obraca, mogę wykonać obliczenia i poznać prawdopodobny kierunek. Wtedy powiem: „Sądzę, że obracasz się w tę stronę, zgadza się?”. Jeżeli dobrze policzyłem, to układ odpowie: „Tak, z całą pewnością”. Na tym polegało kryterium Einsteina. Jeżeli można z pewnością potwierdzić istnienie czegoś, otrzymujemy element rzeczywistości kwantowej. Innym rodzajem jest rzeczywistość klasyczna. Tę klasyczną można ustalić, a kwantową jedynie potwierdzić. Potrzebujemy jednak obu tych koncepcji. Rzeczywistość kwantowa zachowuje się bardzo osobliwie. Działa na zasadzie przyczynowości wstecznej.

Przypomina mi to eksperymenty wcześniejszych laureatów Nagrody Nobla, Zeilingera i jego zespołu z paradoksem EPR. Istnieją efekty, które wpływają na to, co chwilowe. Jeżeli podzielimy spin między Alice i Boba, to ich początkowy spin równy jest zero, a ich spiny są przeciwne. To znaczy, że jeśli Alice obraca się w jedną stronę, to Bob obraca się w drugą. Załóżmy teraz, że Alice dokona pomiaru spinu i stwierdzi, że obraca się w tym kierunku. Ustali to wstecznie, wzdłuż przeszłego stożka świetlnego, a zatem nie jednocześnie. Co gorsza, mierzy przeszłość, ale nie szybciej, niż światło może dotrzeć z jednego końca do drugiego. Wstecznie jej pomiar staje się przeciwieństwem samego siebie. Bob nie może tego ustalić, a ona nie może wysłać sygnału szybciej od światła, dlatego Bob może go tylko potwierdzić. Nie zna kierunku spinu. Koncepcja ta jest potrzebna do zrozumienia eksperymentów typu EPR, Einsteina–Podolskiego–Rosena. Musiałbym sprawdzić, za co dokładnie przyznano Nobla rok wcześniej, ale sądzę, że chodziło właśnie o to. To fascynujące odkrycie. Aby zrozumieć, co się dzieje, najlepiej jest wykorzystać rzeczywistość kwantową. Na pewno nie można w ten sposób wysłać sygnału szybciej niż światło, ale można się cofnąć szybciej niż światło lub prawie tak samo szybko jak światło, lecz tylko w rzeczywistości kwantowej.

MK: I dopóki nie zrozumiemy, jak działa świat kwantowy, nie przeniesiemy go do przestrzeni cyfrowej.

RP: Nie jest aż tak źle. Próbuję raczej pokazać to z perspektywy klasycznej. Możemy rozumieć matematykę i się do niej przyzwyczaić. Jeśli ktoś zada mi pytanie, mogę nie zrozumieć go dobrze, ale mogę się postarać i zrozumieć mechanikę kwantową na tyle dobrze, aby udzielić odpowiedzi, której udzieliłaby mechanika kwantowa. To wymaga zrozumienia tego, co się dzieje. Jest taki słynny cytat: „Nikt nie rozumie mechaniki kwantowej”.

MK: Sądzę, że to był cytat z Bohra.

RP: Moim zdaniem to mylące. Zrozumienie wcale nie musi być klasyczne.

MK: Jesteśmy zdeterminowani przez naturę do rozumienia klasycznego świata. Świat kwantowy jest niedeterministyczny i chyba niezrozumiały dla naszego umysłu. To tak, jakby próbować zrozumieć świat kwantowy za pomocą równań.

RP: Niefortunne jest tu słowo „rozumienie”. Rozumienie w klasycznym ujęciu w tym przypadku zawodzi. Nie chodzi jednak o brak zrozumienia. Można powiedzieć: „Wiem, jak sprawić, żeby przewidywania mechaniki kwantowej działały”. I mogą to być całkiem konkretne przewidywania. Niektóre z nich nie muszą być prawdopodobieństwem, dlatego wydaje mi się, że dochodzi tu do pewnego pomieszania pojęć. Zagadka nie polega na tym, że przewidywania mają charakter probabilistyczny, bo czasem takie muszą być. W mechanice kwantowej fascynuje mnie najbardziej to, co nie jest probabilistyczne. Na przykład efekty paradoksu EPR. Oczywiście są one probabilistyczne. Jeśli poprosimy kogoś o dokonanie pomiaru w rzeczywistości kwantowej, to będzie oznaczało próbę zmierzenia jej klasycznie, która zakończy się jedynie ustaleniem prawdopodobieństwa. Uważam, że trzeba oddzielić rzeczywistość kwantową od klasycznej i pamiętać, że rzeczywistość kwantowa zachowuje się inaczej. Nie oznacza to jednak, że nie da się jej zrozumieć. Nie wiem, czy ludzie często używają tego słowa w takim znaczeniu i dlatego to trochę mylące.

MK: Dziękuję bardzo za poświęcony czas.

RP: Cała przyjemność po mojej stronie. Było mi bardzo miło. Dziękuję.

(I 2025)

TWORZYMY NOWY GATUNEK

Krzysztof J. Geras jest profesorem na Uniwersytecie Nowojorskim, specjalizującym się w obszarze sztucznej inteligencji. Po raz pierwszy spotkaliśmy się w 2023 roku w Nowym Jorku, w dość skromnych względem moich wyobrażeń o nowojorskiej uczelni wnętrzach. Za to z gabinetu rozpościerał się piękny widok na rzekę Hudson płynącą wzdłuż zachodniego wybrzeża Manhattanu.

Świat kilka miesięcy wcześniej obiegła informacja, że Krzysztof wraz ze swoim przyjacielem, doktorem Janem Witowskim, opracował najskuteczniejszy algorytm diagnozujący raka piersi. Mówili mi wtedy, że to dopiero początek. I w gruncie rzeczy tak właśnie było. Krzysztof bardzo enigmatycznie powiedział mi wówczas, że przygotowują coś wyjątkowego, ale nie wiedziałem, co to było. Krzysztof i Jan w 2024 roku ujawnili swój test AI prognozujący przebieg raka piersi, ogłaszając też światu narodziny swojego start-upu – Ataraxis.

W Ataraxisie tworzą testy diagnostyczne oparte na AI, które przewidują agresywność nowotworów i ich odpowiedź na leczenie, a na tej podstawie pomagają personalizować terapię. Ich model został wytrenowany i przetestowany na danych pochodzących od ośmiu tysięcy osób z piętnastu ośrodków w siedmiu krajach świata, w tym w Polsce. Jak wyznał mi Janek, „Ataraxis Breast to test prognostyczno-predykcyjny dla raka piersi. Nasz system analizuje obrazy histopatologiczne i przewiduje odpowiedź na leczenie 30 procent dokładniej niż testy genomiczne, w ciągu kilkunastu minut, i u wszystkich osób leczonych, niezależnie od grupy”.

Ich doradcą jest jeden z najbardziej znanych naukowców z obszaru AI, wiceprezes Mety, profesor. Yann LeCun. W 2018 roku LeCun, Yoshua Bengio i tegoroczny noblista Geoffrey Hinton, w uznaniu ich prac indywidualnych i wspólnych, otrzymali Nagrodę Turinga. W radzie naukowej zasiedli naukowcy z Yale University, University of Pittsburgh Medical Center, New York University oraz profesor Elżbieta Senkus-Konefka z Uniwersytetu Medycznego w Gdańsku. Pamiętam, co do minuty momemnt, gdy o 8:30 rano czasu nowojorskiego w amerykańskim „Forbesie” ukazał się długi artykuł o ich badaniach. To „Forbes” napisał o tym jako pierwszy. Przez kilka kolejnych dni pojawiały się wciąż nowe materiały.

Gdy spacerowaliśmy po Nowym Jorku, Krzysztof zwierzał mi się, że narodziny syna miały na niego wielki wpływ. Stał się bardziej wrażliwy, zmieniło się jego spojrzenie na świat. To w synu odbija się cała jego rzeczywistość.

Maciej Kawecki: Jesteśmy na Uniwersytecie Nowojorskim, a moim gościem jest wybitny informatyk i teoretyk rozwijający algorytmy oraz modele sztucznej inteligencji w medycynie, profesor Krzysztof Geras.

Krzysztof Geras: Dzień dobry.

MK: Cześć. Krzysiek, powiedz mi, co takiego i czy coś naprawdę wielkiego wydarzyło się w sztucznej inteligencji w perspektywie ostatniego roku. Dlatego że te krzykliwe tytuły prasowe, nagłówki gazet mówiące o tym, że sztuczna inteligencja zaserwowała nam największą rewolucję od bardzo wielu lat albo dziesiątek lat, my to wszyscy znamy. Ale ile w tym jest prawdy? Co takiego się wydarzyło w ostatnich miesiącach?

KG: Myślę, że musimy na to spojrzeć z różnych stron. Po pierwsze, ze strony najbliższej mojemu sercu, czyli nauki. I tutaj muszę powiedzieć, że nauka, szczególnie sztuczna inteligencja, rozwija się bardzo szybko, jednak bardzo powoli w porównaniu z tym, jaka jest percepcja tego rozwoju. Tym, co się najbardziej zmieniło w ciągu ostatniego roku, jeśli chodzi o sztuczną inteligencję, jest to, że zostały wytworzone pewne modele, które są dostępne i użyteczne. I pomimo tego, że nie jest to rewolucja w sztucznej inteligencji jako dziedzinie nauki, jest to rewolucja w użyteczności sztucznej inteligencji dla przeciętnego człowieka.

MK: Czyli chcesz powiedzieć, że rewolucja jest bardziej w naszej głowie niż w realnych wytworzonych modelach sztucznej inteligencji?

KG: Myślę, że świadomość tego, co można zrobić z modelami sztucznej inteligencji, niesamowicie poszła do przodu w ciągu ostatniego roku. Po drugie, te modele, które powstały, są bardzo praktyczne. Każdy może teraz sobie wejść na stronę internetową, porozmawiać z chatem, który zawiera pewne elementy sztucznej inteligencji, jest to całkowicie dostępne dla każdego. To jest rzeczywiście ta ogromna zmiana.

Jeśli chodzi o technologię, ta zmiana oczywiście nie jest tak dramatyczna, jak mogłaby się wydawać, dlatego że to, co my obserwujemy teraz, to po pierwsze jest konsekwencja praktycznej inżynierii, która została wykonana przez ostatnie kilka lat, ale też głębiej jest to konsekwencja postępów naukowych, do których doszło przez ostatnie kilkanaście lat. To, co obserwujemy w tym momencie, to jest kulminacja tych wszystkich rzeczy, które zbiegły się w tym samym czasie.

MK: W takim razie zróbmy taką podróż po najważniejszych zagadnieniach związanych z rozwojem sztucznej inteligencji. Obalajmy bądź potwierdzajmy mity. I pierwszy jest taki: czy stan nauki pozwala dzisiaj na zreplikowanie w sztucznej inteligencji ludzkiego mózgu, jakkolwiek rozumianego, czyli struktury z sieci neuronowych?

KG: Nie. Nie możemy tego zrobić, ale nie dlatego, że nie posiadamy takiej technologii komputerowej, tylko dlatego, że nie rozumiemy w pełni działania ludzkiego mózgu. Gdybyśmy mieli sto procent wiedzy na temat tego, jak ludzki mózg działa, jak wykonuje obliczenia, wtedy nic nie stałoby nam najprawdopodobniej na przeszkodzie, żeby zaprogramować ludzki mózg, używając, dajmy na to, takich elementów, które występują w sztucznych sieciach neuronowych. Natomiast tutaj barierą dla nas nie jest informatyka, tylko, powiedzmy, neuronauka. Po prostu my nie mamy pełnego rozumienia tego, jak działa ludzki mózg.

MK: Czyli nie jesteśmy w stanie nadać mu formy wzoru matematycznego, a tym samym nie jesteśmy w stanie stworzyć algorytmu, który go zreplikuje.

KG: Dokładnie tak.

MK: Czy sztuczna inteligencja ma intuicję już dzisiaj? Czy jesteśmy w stanie wobec sztucznej inteligencji użyć tego określenia?

KG: To jest bardzo ciekawe pytanie, bo czym ta intuicja miałaby być? Można powiedzieć, że sztuczna inteligencja ma pewne elementy intuicji.

MK: Co to znaczy?

KG: To znaczy, że sztuczna inteligencja ma pewną wiedzę na temat świata, pewne umiejętności rozumowania na temat tej wiedzy i ma też pewien stan. Powiedzmy, że możemy te elementy różnie złożyć i sztuczna inteligencja, nie mając całkowicie pewnej wiedzy na temat tego konkretnego tematu, na który z nią rozmawiamy, może wysuwać pewne hipotezy. W tym rozumieniu można powiedzieć, że sztuczna inteligencja ma pewną intuicję. Natomiast sama intuicja jest takim pojęciem, które trudno jest mi zdefiniować w postaci matematycznej, tak żeby można było na to pytanie bardzo stanowczo odpowiedzieć.

MK: To ja Ci inaczej zadam to pytanie. Czy nie jest tak, że źródłem intuicji są dane pozawerbalne, czyli te, których my nie wyrażamy na zewnątrz, te, które mamy w sobie samych, a my ich nie digitalizujemy dzisiaj i w związku z tym nie mamy zasobu danych, który pozwala karmić nimi algorytmy?

KG: Te najbardziej znane algorytmy, które w tej chwili zaszokowały świat, uczą się praktycznie wyłącznie z tekstów. A więc ten tekst, jeśli on jest wystarczająco bogaty, zawiera również pewne nasze wyobrażenia, lęki, marzenia, intuicje w sposób, który jest trudny do scharakteryzowania, naprawdę zero-jedynkowy. Dlatego jeślibyśmy trenowali, tak jak w tej chwili trenujemy te modele sztucznej inteligencji, na tak ogromnych danych, jak najbardziej potrafię sobie wyobrazić, że pewne elementy, których nie potrafimy dokładnie nazwać w tekście, również zostaną zawarte w tym modelu w bardziej lub mniej bezpośredni sposób.

MK: Czym jest świadomość sztucznej inteligencji? Często używa się dzisiaj takiego terminu.

KG: Tak, chociaż jest to pytanie, które bardziej należałoby zadać psychologom. Czy sztuczna inteligencja ma świadomość? Myślę, że nie, raczej nie. Jednak gdy rozmawiamy z takim programem komputerowym, który określamy jako sztuczna inteligencja, mamy takie wrażenie, że ten program ma pewną świadomość, dlatego że on rozmawia z nami jak człowiek, a my mamy tendencję do antropomorfizowania wszystkiego.

MK: Bo nie mamy określeń przypisanych sztucznej inteligencji, nie potrafimy inaczej jej opisywać.

KG: Również tak. Natomiast czy ten program komputerowy wie, że istnieje? Raczej nie. Ten program komputerowy nie ma swojej agendy, że tak powiem. On wykonuje polecenia, które my mu wyznaczymy. Myślę, że nie można powiedzieć, że jest on świadomy.

MK: A co, jeżeli dojdziemy do momentu, w którym sztuczna inteligencja zacznie robić wszystko, żebym nie wyłączał komputera z gniazdka, bo wie o tym, że skończy się jego czy jej byt w moim domu, jak nasza konwersacja. Czy to twoim zdaniem będzie oznaczało, że ten system już jest świadomy?

KG: Zdecydowanie tak. I myślę, że jeśli doszlibyśmy do takiego momentu, kiedy sztuczna inteligencja byłaby w stanie rozumować na ten temat, wymknęłaby nam się z tego pudełka, w którym jest, potrafiłaby wykonywać jakieś akcje w fizycznym świecie, to to jest ten moment, w którym stałaby się dla nas bardzo niebezpieczna. Dlatego że jeśli uzyskałaby swój autonomiczny sposób decydowania, co chce zrobić, jakie są jej cele, i potrafiłaby to realizować bez naszej bezpośredniej kontroli, to wtedy rzeczywiście znaleźlibyśmy się nagle w filmie science fiction.

MK: Krzysztof, a to nie jest trochę tak, że dzisiaj sieci neuronowe opierają się na losowości i my do końca nie wiemy, co tam się dzieje?

KG: Mimo że istnieją pewne elementy losowości w tych algorytmach, po pierwsze my możemy tę losowość wyłączyć. Jest to tylko coś, co uruchamiamy dlatego, że chcielibyśmy czasami generować wiele różnych możliwych wyjść dla tego samego problemu. Poza tym my dokładnie rozumiemy każdy krok w tych obliczeniach, tak że nie ma tam żadnej magii, nie ma tam możliwości pojawienia się czegoś zupełnie niespodziewanego, jest to całkowicie kontrolowane przez nas.

MK: Co jest największym dzisiaj zagrożeniem rozwoju sztucznej inteligencji?

KG: Najprawdopodobniej my. To znaczy myślę, że jeśli ludzie nie będą umieli sztucznej inteligencji wykorzystać mądrze, będą jej używać do tego, żeby na przykład sobie nawzajem zaszkodzić, w pewnym momencie będzie musiało dojść do bardzo dramatycznej regulacji sztucznej inteligencji. Jeśli to nastąpi, wtedy rozwój sztucznej inteligencji na pewno zwolni. Podejrzewam, że tak naprawdę to jest największe zagrożenie. Nie obawiam się spowolnienia tempa rozwoju sztucznej inteligencji jako nauki. Myślę, że o wiele więcej niebezpieczeństw jest w takich praktycznych zastosowaniach sztucznej inteligencji.

MK: Czyli nie zgodziłbyś się z tezą, że sztuczna inteligencja jako taka ma w sobie pierwiastek destruktywny, o czym mówi Musk i nawet polski naukowiec Andrzej Dragan.

KG: Sztuczna inteligencja, taka jaką w tej chwili mamy, jest niczym innym jak programem komputerowym. Mimo że jest bardzo potężna, jest to tylko program komputerowy zamknięty w pewnym pudełku. Ona będzie robić to, co my chcemy. Oczywiście w kolejnych iteracjach podobnych programów komputerowych będą pojawiały się takie zagrożenia, dlatego że im bardziej skomplikowana ta teoria będzie się stawała, tym trudniej będzie nam ją kontrolować. Stanie się bardziej powszechna i być może powstaną organizacje, państwowe czy może ponadpaństwowe albo wręcz prywatne, które będą potrafiły trenować bardzo skomplikowane modele, być może o wiele bardziej skomplikowane niż te, które obecnie już powstały dla celów niekoniecznie zbieżnych z tym, co chcielibyśmy obserwować. Więc można powiedzieć, że ten proces proliferacji sztucznej inteligencji jest ryzykowny.

W podobny sposób na przykład możemy myśleć o tym, jak następował proces proliferacji różnych broni. Broń atomowa nie jest bardzo niebezpieczna w rękach mocarstw, ponieważ istnieje tak zwane zapewnienie wzajemnej destrukcji i dlatego cały świat nie zostaje zniszczony, mimo że istnieje bardzo dużo tej broni. Natomiast gdy się nagle okazało, że każde małe państwo ma taką broń, może nią dowolnie dysponować, może wycelować ją w każdego, stałoby się nagle to bardzo niebezpieczne. I podobnie byłoby, gdyby każdy mógł wytworzyć jakąś swoją sztuczną inteligencję w wersji mini i tą sztuczną inteligencją sterować w sposób zupełnie dowolny, być może nakazać jej coś bardzo destruktywnego.

MK: A czy to się nie dzieje dzisiaj? Przecież mamy oprogramowania opensource’owe, czyli z otwartym kodem źródłowym, gdzie programiści na całym świecie tworzą swoje własne modele, dostępne dla każdego z czasem. Taka trochę osobista sztuczna inteligencja.

KG: W tej chwili sztuczna inteligencja nie jest jeszcze na takim poziomie rozwoju, w którym realnie mogłaby stanowić zagrożenie. Być może będzie tak za wiele lat, natomiast w tym momencie nie widzę takiej praktycznej możliwości. Jednak ten trend jest niepokojący. Gdybyśmy pomyśleli o tym, że być może każdy, powiedzmy za dziesięć lat, mógłby sobie wytrenować na przykład model GPT-10 i można byłoby to zrobić na swoim domowym komputerze, a takiej sztucznej inteligencji użyć do tego, żeby komuś zaszkodzić w jakiś sposób, jest to potencjalnie niebezpieczne. W tym momencie to jest jednak cały czas science fiction. Po pierwsze ze względu na to, że te modele sztucznej inteligencji nie są na tyle jeszcze silne, żeby mogły stanowić zagrożenie. A po drugie, te modele cały czas istnieją tylko wewnątrz jakiegoś swojego pudełka. Gdyby potrafiły wydostać się z tego pudełka na przykład do Internetu i replikować się albo gdyby potrafiły przejąć kontrolę nad jakimiś fizycznymi urządzeniami, to oczywiście byłoby to bardzo ryzykowne. Natomiast ja jestem entuzjastą sztucznej inteligencji i naukowcem pracującym nad sztuczną inteligencją, więc bardzo chciałbym zobaczyć rozwój sztucznej inteligencji. Myślę mimo wszystko, że to jest daleka przyszłość.

MK: Czym jest taki termin: silna sztuczna inteligencja albo supersztuczna inteligencja? Często też w przestrzeni publicznej pojawia się takie określenie. Co to znaczy?

KG: Istnieje taki termin: silna sztuczna inteligencja. Szczerze mówiąc, dla każdego on znaczy trochę co innego. Każdy używa tego terminu trochę inaczej. W takim potocznym rozumieniu najczęściej używa się tego terminu, aby nazwać taką sztuczną inteligencję, która jest inteligentna w każdym aspekcie i w każdym aspekcie jest silniejsza niż człowiek. Do czegoś takiego jeszcze mamy dosyć daleko na szczęście. To jeszcze nie jest to, co nam grozi bardzo szybko.

MK: Z jednej strony mówisz o tym, że sztuczna inteligencja nie ma tego komponentu destrukcyjnego, a z drugiej strony używasz słowa „jeszcze”.

KG: Tak.

MK: Co nie brzmi optymistycznie, bo pokazuje, że my jednak w tym kierunku podążamy?

KG: To jest ogromne filozoficzne pytanie, przed którym stoi ludzkość. Kiedy będzie ten moment, kiedy powinniśmy zacząć się bać?

MK: Albo powiedzieć stop.

KG: Albo powiedzieć stop. Ja myślę, że jesteśmy w tej chwili daleko od tego momentu, ale powinniśmy się zacząć zastanawiać, co robić, kiedy zaczniemy się do niego zbliżać.

MK: To będzie perspektywa pięciu lat, dziesięciu, piętnastu?

KG: Moim zdaniem powinniśmy się nad tym zacząć zastanawiać już teraz. Natomiast nie spodziewam się, żeby techniczne możliwości wytworzenia sztucznej inteligencji, która faktycznie mogłaby zgodnie z takimi katastroficznymi wizjami przejąć władzę nad światem, pojawiły się szybciej niż w ciągu dziesięciu lat.

MK: Czy jeżeli hipotetycznie doszlibyśmy do momentu stworzenia takiej silnej sztucznej inteligencji, czy Ty jako naukowiec działający w tym obszarze podpisałbyś się pod przyznaniem jej oddzielnej osobowości? Uznaniem jej za oddzielny byt?

KG: Myślę, że tak. W tym momencie rzeczywiście myślę, że można byłoby uznać taką sztuczną inteligencję za kogoś w pewnym sensie równego człowiekowi.

MK: To nie masz wrażenia, że się trochę bawimy w stwórcę?

KG: No tak, oczywiście. To jest chyba rzeczywiście czas w historii ludzkości, do którego się wcześniej nigdy nie zbliżaliśmy. Być może nastąpi taki moment, kiedy wytworzymy coś w rodzaju nowego gatunku.

MK: Czyli jesteśmy już nie twórcami, a stwórcami.

KG: Tak, być może tak będzie. I myślę, że najciekawszym momentem i zarazem najbardziej niebezpiecznym w tym procesie będzie to, kiedy taka sztuczna inteligencja będzie potrafiła sama się ulepszać. I to może być ten moment, kiedy my zupełnie utracimy kontrolę nad sztuczną inteligencją, jeśli do tego doprowadzimy. I to jest faktycznie niebezpieczeństwo.

MK: Co takiego wydarzyło się w spółce OpenAI, że osiągnęli taki sukces? Że im po raz pierwszy w historii udało się świadomie ze sztuczną inteligencją przebić do domostw? Że moja mama wie o tym, że korzysta z czegoś, co jest sztuczną inteligencją?

KG: Tak, to jest rzeczywiście bardzo ciekawe, dlatego że to, co się udało w firmie OpenAI, jest faktycznie unikalne. I jest konsekwencją kilku bardzo korzystnych okoliczności. Po pierwsze, nawet pomimo tego, że te podstawy naukowe, na których zbudowane są wszystkie chaty stworzone przez OpenAI, jak i inne firmy, nie są nowe. Rzeczywiście pionierskim artykułem na ten temat jest artykuł chyba z roku 2000 na temat modelu językowego opartego o sieć neuronową. To sposób, w jaki OpenAI wykorzystało takie pomysły, był niespotykany ze względu na swoją skalę.

Bardzo długo w sztucznej inteligencji, w lingwistyce komputerowej, była taka debata, czy język opisuje rzeczywistość na tyle dokładnie, że tylko z języka możemy nauczyć się wystarczająco dużo, żeby tworzyć sztuczną inteligencję. Silniejszą stroną w tym sporze raczej byli ci, którzy uważali, że język jest za słaby. To znaczy, że na podstawie samego języka nie można wytworzyć sztucznej inteligencji. Myślę, że taki zakład, który wykonało OpenAI, to właśnie było to, że na podstawie samego języka rzeczywiście można wytworzyć coś tak silnego.

Te podstawy naukowe OpenAI zaimplementowało na skalę zupełnie niespotykaną dlatego, że od bardzo wielu lat ludzie prowadzili badania na temat tych modeli językowych. Tylko to, co tutaj niesamowitego nastąpiło, to jest skala tych badań. Możemy sobie wyobrazić, że trenujemy taki model językowy na przykład na jednej książce. Co się wtedy stanie? Załóżmy, że będzie to Pan Tadeusz. Nauczymy się wytwarzać zdania, które będą brzmiały mniej więcej podobnie do zdań z Pana Tadeusza. Natomiast nie będziemy rozumieć niczego na temat świata tylko na podstawie tej jednej książki. Ale jeśli zaczniemy uczyć się tego języka ze stu książek, tysiąca książek, dziesięciu tysięcy książek, potem już miliona książek, dziesięciu milionów książek, a potem całego Internetu, to te kolejne poziomy tego, czego możemy się w ten sposób nauczyć, są niesamowicie silne.

To, co zrobiło OpenAI, to po prostu założenie, że uda im się nauczyć ten model na podstawie takich ogromnych danych. I na podstawie takich ogromnych danych ten model rzeczywiście wytworzy jakąś wiedzę, która inaczej nie byłaby możliwa dla modelu wytrenowanego na danych o wiele mniejszych. I to jest rzeczywiście coś, czego pewnie większość naukowców pracujących nad sztuczną inteligencją się nie spodziewała. Demonstracja tego, że to jest możliwe, to rzeczywiście ogromne osiągnięcie.

MK: Masz takie przekonanie, że to jest w dużej części sukces polskich programistów? Znasz zespół OpenAI?

KG: Oczywiście, znam kilka osób z OpenAI. Jest tam wielu Polaków. Jeden z współzałożycieli OpenAI jest Polakiem, Wojciech Zaremba. Myślę, że można powiedzieć, że jest to w pewnym stopniu polski sukces. Natomiast oczywiście nauka jest międzynarodowa.

MK: Zadaję Ci to pytanie, bo się zastanawiam, czy kiedykolwiek Polacy mieli swój udział w tak wielkim osiągnięciu technologicznym?

KG: Myślę, że Polacy mieli ogromne osiągnięcia w różnych technologiach. Polacy otrzymali Nagrodę Nobla, na przykład Maria Skłodowska-Curie otrzymała Nobla z chemii i fizyki. Trudno jest porównywać obecne osiągnięcia do tych historycznych, ale na pewno jest to ogromne osiągnięcie.

MK: Chciałbym, żeby moje ostatnie pytanie odnosiło się do prawdy bądź mitu, że to, czym Polska rzeczywiście wyróżnia się w skali międzynarodowej, to są programiści, nasi inżynierowie. Czy rzeczywiście tak jest? Odpowiedz, proszę, również z perspektywy pracy w Stanach Zjednoczonych.

KG: Na pewno w Polsce jest bardzo wysoka jakość nauczania programowania i inżynierii. Myślę, że podejście do studiowania przedmiotów technicznych jest trochę inne w Polsce niż na przykład w Ameryce i ma to swoje zarówno dobre, jak i złe konsekwencje. Na pewno dobrą konsekwencją tego jest to, że Polacy, którzy kończą polskie uczelnie, mają bardzo głęboką techniczną wiedzę, mają bardzo głębokie podstawy takie, powiedzmy, matematyczno-teoretyczne, szczególnie w informatyce. Oczywiście odbywa się to kosztem czego innego, dlatego że z Polski eksportujemy bardzo wiele talentów matematyczno-informatycznych. Powstają w Polsce firmy, również oparte o wiedzę z matematyki i informatyki, ale nie w takim stopniu, jak by mogły. Myślę, że takim przepisem na sukces, który jest potrzebny Polsce do tego, żeby rzeczywiście pójść do przodu w informatyce, a nie tylko w eksporcie wykwalifikowanej siły, byłoby to, żeby wytworzyć własne firmy informatyczne, zatrudnić w nich Polaków, nie doprowadzać w takim stopniu do tego, żeby ten cały talent uciekał za granicę.

MK: Czyli patrzysz na to zjawisko bardziej przez pryzmat negatywny niż pozytywny? Bo ja też to dostrzegam.

KG: Sądzę, że nie można tego określać jednoznacznie negatywnie lub pozytywnie, dlatego że przez to, że Polacy wyjeżdżają za granicę, również uczą się różnych rzeczy, czasami wracają do Polski, zakładają firmy w Polsce. Natomiast nie patrzę pozytywnie na eksport wysoko wykwalifikowanych programistów. Myślę, że najlepiej byłoby dla nas, gdyby Polacy zostawali w Polsce i budowali polską gospodarkę. To oczywiście nie zawsze jest możliwe, dlatego że nauka jest globalna, przemysł informatyczny jest również globalny i jest nie do uniknięcia to, że pewien procent populacji zawsze będzie szukał swoich szans za granicą. Natomiast nie chciałbym, żeby sposobem promocji Polski był eksport informatyków, tak jak sposobem promocji Brazylii jest eksport piłkarzy. To właśnie mam na myśli.

MK: Dziękuję ci za rozmowę.

KG: Proszę bardzo i również dziękuję.

(VII 2023)

ROBOTY MAJĄ JUŻ ZMYSŁY

O Marku Cyganie można napisać bardzo wiele. Na przykład to, że pokonał kilkadziesiąt tysięcy konkurentów, wygrywając najważniejszy na świecie konkurs programistyczny – Google Code Jam. Można też napisać, że został mistrzem świata w programowaniu zespołowym, pokonując tysiące osób. Albo że mając trzydzieści trzy lata, uzyskał habilitację z informatyki, a zaraz później został profesorem Uniwersytetu Warszawskiego. Ja jednak, przedstawiając sylwetkę Marka Cygana, wolałbym skupić się na tym, co tu i teraz. Bo to jego obecne działania zdają mi się najsilniej wpływać na ludzkość. Otóż Marek zaangażowany jest w jeden z najważniejszych w Europie projektów robotycznych o nazwie Nomagic. Mająca siedzibę w Warszawie firma Nomagic za swój cel przyjęła stworzenie robotów, które same podejmują decyzje, odbierając świat zmysłami, podobnie jak robią to ludzie. Wyobraźmy sobie, że przenosimy się do magazynu, w którym pracują roboty. Dziś wykonują one powtarzalne, zaprogramowane prace. Trudno mówić, by robot mógł być w jakikolwiek sposób kreatywny, bo niemal co do milimetra robi to, co wcześniej zapisano, że ma robić. Ale co, gdy wydarzy się coś nadzwyczajnego? Co, gdy zażądamy od niego, by pracował bardziej optymalnie? To jedno z największych współczesnych wyzwań. W jaki sposób zintegrować ze sobą robotykę i AI oraz sensory pozyskiwania danych przypominające ludzkie zmysły, aby stworzyć narzędzie zdolne do konkurowania z tym, co stworzyła ewolucja, dając Ziemi gatunek Homo sapiens. To właśnie nad tym projektem pracuje dziś Marek.

Po rozmowie z nim zacząłem patrzeć na miasta, w których żyjemy, inaczej. Dziś, gdy robot wchodzi do magazynu, musimy dostosować go do przestrzeni, która domyślnie była kiedyś projektowana dla ludzi. Zdaje się, że ta era właśnie się kończy. Wkraczamy w erę, w której dzięki projektom takim jak Marka ludzkość zacznie tworzyć przestrzenie domyślnie dopasowane do robotów. W wielu z nich człowiek nie będzie już potrzebny.

Maciej Kawecki: Interesującym, a rzadko omawianym obszarem AI są algorytmy ewolucyjne, a więc algorytmy, które starają się powtórzyć teorię ewolucji czy teorię doboru naturalnego Darwina. Czym są takie algorytmy?

Marek Cygan: Takie algorytmy służą do wyboru jednostki czegoś, czego poszukujemy, co będzie miało najlepsze cechy względem kryteriów, które na początku zdefiniujemy. Czyli mamy jakiś cel do rozwiązania, chcemy znaleźć jakiś obiekt, który spełnia nasze wymagania. Na przykład chcemy zrobić stół, który jest idealny, i definiujemy, jakie kryteria ten stół powinien spełniać. Następnie tworzymy populacje takich stołów, czyli bardzo dużo jednostek, które będą się troszkę od siebie różnić. Potem zwykle następuje faza modyfikacji czy mutacji, gdzie te stoły lekko modyfikujemy. Wybieramy te stoły, które nam najbardziej odpowiadają pod względem zdefiniowanych na początku kryteriów, i powtarzamy ten proces, licząc na to, że z czasem będziemy dostawać stoły, które są bliskie temu ideałowi.

MK: Można powiedzieć, że to jest taka trochę gra w życie. Czy my dzisiaj, tworząc algorytmy, tworząc sztuczne sieci neuronowe, staramy się skopiować życie? Stworzyć coś, co wygląda jak naturalne czy działa jak naturalne?

MC: Wydaje mi się, że tutaj jednak punkt, z którego wychodzimy, jest troszkę inny. Staramy się rozwiązać jakiś problem. W tym wypadku było to stworzenie narzędzia, które jest w stanie dokańczać zdania. Czyli my zaczynamy zdanie i chcemy, żeby nasz algorytm dokończył to zdanie w możliwie rozsądny sposób. I tutaj nie ma elementu ewolucyjnego. Po prostu chcemy napisać program, który to zrobi. W jakimś sensie można o tym myśleć jako o dużo mądrzejszej wersji programu, który poprawia błędy literowe w tekście.

MK: Jak daleko posuwamy się dziś w integracji algorytmów sztucznej inteligencji i robotyki? Bo to jest też obszar bardzo Panu bliski.

MC: Tak, ja oprócz działalności na uniwersytecie działam w firmie No Magic. Działam już sześć lat i zajmujemy się programowaniem robotów, które przemieszczają produkty w centrach logistycznych, w magazynach. Czyli pobierają je, pakują, wysyłają. W tym obszarze w ostatnich latach nastąpił dość duży rozwój. Tym się tutaj właśnie zajmujemy. Wydajemy roboty już w kilku różnych krajach, w wielu egzemplarzach. Integracja sztucznej inteligencji pozwala na to, że roboty są w stanie obsługiwać bardzo szeroką gamę produktów. W tym problemie, którym my się zajmujemy, największym wyzwaniem jest to, że z magazynów, gdy zamawiamy coś w Internecie, możemy zamówić tak naprawdę cokolwiek. I żeby to zamówienie potem spakować, robot musi być w stanie obsłużyć przedmiot, który ma dowolny kształt, dowolny wygląd, może być z różnego materiału. Ten robot musi być w stanie to chwycić, przełożyć, spakować. Kiedyś rozwiązanie takiego problemu nie było możliwe. W dzisiejszych czasach już jest, właśnie z pomocą metody uczenia maszynowego.

MK: Czyli przykładowo: wchodzę do sklepu internetowego, kupuję parę butów i wszystko to, co się dzieje w tle, robi już robot, tak?

MC: To zależy od tego, w jakim kraju to się odbywa, jakie są koszty pracy, które chcemy optymalizować. Firmom, które zajmują się kompletowaniem zamówień, zależy na tym, żeby klient był zadowolony i żeby koszty były jak najmniejsze. W różnych krajach ten stopień automatyzacji będzie różny, dlatego że koszt pracy ludzkiej jest różny. Te roboty też oczywiście nie są tanie. Trzeba je zamontować, zaprogramować, co również oczywiście wymaga nakładu kosztów. Natomiast jest jasne, że ten proces automatyzacji następuje we wszystkich krajach, niektóre są po prostu bardziej zaawansowane niż inne. I duża część tego procesu jest w tej chwili zautomatyzowana. Oczywiście jest dużo prościej, jeśli te przedmioty są zapakowane w pudełka. Jeśli to jest zawsze pudełko, które jest szczelnie zamknięte, to takimi produktami się bardzo łatwo manipuluje, przekłada z miejsca na miejsce. Natomiast problem jest, jeśli te przedmioty są zapakowane w jakiś nieregularny sposób albo pudełka mogą się otwierać, wtedy jest nowa gama wyzwań.

MK: Zastępujemy człowieka robotami.

MC: Tak, ale ten proces automatyzacji nie zaczął się ani wczoraj, ani przedwczoraj. Także zastępowanie ludzkiej pracy automatami to jest kontynuacja czegoś, co robimy od zawsze jako ludzie.

MK: Jak dokładnie roboty w takim razie widzą dzisiaj świat? Czy mogą widzieć świat? Mówię o zmyśle, o czymś w rodzaju wzroku.

MC: Przede wszystkim zależy, co mają podłączone, ponieważ mówimy o robocie, ale tak naprawdę centrum sterowania tego robota stanowi program komputerowy, który jest uruchomiony na procesorze. Natomiast żeby ten robot mógł postrzegać świat, musi mieć zamontowane jakieś czujniki, czy to będą kamery, czy mikrofony, które będą zbierały dane ze świata zewnętrznego. Te dane będzie potem przetwarzał program, uruchomiony na procesorze i podejmował decyzje na tej podstawie. Tak że jeśli chcemy wyposażyć robota w zmysły, musimy wyposażyć go w czujniki. To jest nasza podstawowa kwestia, bo bez danych nie jesteśmy w stanie podejmować decyzji. To, co się zmieniło w ostatnich latach, to że narzędzia do przetwarzania danych, czy to dźwiękowych, czy z obrazów, bardzo mocno posunęły się do przodu. Jesteśmy w stanie powiedzieć, co jest na zdjęciu, czy rozpoznawać ludzi. Nie tylko stwierdzać, że są to ludzie, tylko którzy to są ludzie, aby dopasowywać twarze do innych zdjęć, na których ci ludzie występują. Na tej podstawie potem program może podejmować decyzje i wykonywać konkretne kroki.

MK: A zmysły takie jak dotyk? Haptyka?

MC: Nie jestem specjalistą w tej dziedzinie, ale z tego, co wiem, dotyk jest dużo trudniejszy, także od strony sprzętowej. Trudniej jest nam zaprojektować takie czujniki, które będą dobrze odbierać ten konkretny zmysł. To jest też kwestia tego, że jeśli chodzi o robotykę, największy postęp dokonuje się w aspektach, które mają potem przełożenie na życie szerokiego społeczeństwa. Dlatego że, jeśli mamy na przykład kamery czy aparaty fotograficzne, to w naturalny sposób jest zapotrzebowanie, żeby one były coraz lepsze. Potem robotyka korzysta z tej technologii, która jest coraz tańsza, coraz lepsza.

Dalsza część książki dostępna w wersji pełnej

Zakończenie
Zadać najważniejsze pytanie

Dostępne w wersji pełnej

Podziękowania

Dostępne w wersji pełnej

Spis treści

1. Okładka

2. Karta tytułowa

3. Karta redakcyjna

4. Wprowadzenie

5. SZTUCZNA INTELIGENCJA – LUDZKA CZY NIELUDZKA?

1. Roger Penrose. Sztuczna inteligencja nie będzie świadoma (I 2025)

2. Krzysztof J. Geras. Tworzymy nowy gatunek (VII 2023)

3. Marek Cygan. Roboty mają już zmysły (X 2023)

6. Zakończenie. Zadać najważniejsze pytanie

7. Podziękowania

Punkty orientacyjne

1. Okładka

2. Strona tytułowa

3. Prawa autorskie

4. Spis treści

5. Dedykacja

6. Meritum publikacji