WSTĘPTrudne i łatwe przewidywania
"OGRANICZANIE RYZYKA WYGINIĘCIA SPOWODOWANEGO PRZEZ AI POWINNO BYĆ globalnym priorytetem obok innych zagrożeń o skali społecznej, takich jak pandemie czy wojna nuklearna".
Na początku 2023 roku setki naukowców zajmujących się sztuczną inteligencją podpisały list otwarty składający się z tego jednego zdania. Wśród sygnatariuszy znaleźli się najbardziej utytułowani badacze tej dziedziny, w tym laureat Nagrody Nobla Geoffrey Hinton oraz Yoshua Bengio, który wraz z Hintonem otrzymał Nagrodę Turinga za stworzenie uczenia głębokiego (ang. deep learning). My - Eliezer Yudkowsky i Nate Soares - również podpisaliśmy ten list, choć uważaliśmy go za poważne niedopowiedzenie.
Nie martwiły nas systemy AI z 2023 roku ani te, które istnieją dziś, gdy piszemy te słowa na początku 2025 roku. Obecne AI wciąż wydają się powierzchowne - w pewnym głębokim sensie, który trudno opisać. Mają ograniczenia, takie jak brak zdolności do tworzenia nowych, długoterminowych wspomnień. Do teraz te niedostatki wystarczały, by powstrzymać AI przed prowadzeniem poważnych badań naukowych czy zastąpieniem dużej liczby ludzkich miejsc pracy.
Nasze obawy dotyczą tego, co nastąpi później: inteligencja maszynowa, która będzie naprawdę bystra - bystrzejsza niż jakikolwiek żyjący człowiek, inteligentniejsza niż cała ludzkość łącznie. Obawiamy się AI, która przewyższy ludzką zdolność myślenia, uogólniania doświadczeń, rozwiązywania zagadek naukowych, wynajdywania nowych technologii, planowania, strategii, intrygowania, a także refleksji nad sobą i własnego doskonalenia. Możemy nazwać taką AI "sztuczną superinteligencją" (ASI), gdy już przewyższy każdego człowieka w niemal każdym zadaniu umysłowym.
AI jeszcze tam nie dotarła. Ale jest dziś mądrzejsza niż w 2023 roku i znacznie mądrzejsza niż w 2019 roku. Badania nad sztuczną inteligencją przynosiły kolejne skoki w jej rozwoju w latach 2012[1], 2016[2], 2020[3], 2022[4] i 2024[5].
Nie wiemy, czy postęp wyhamuje ani ile takich skoków dzieli nas od poziomu zagrożenia egzystencjalnego. Historia jednak pokazuje, że badacze AI nieustannie opracowują nowe metody i pokonują stare bariery. Postęp bywa zaskakująco szybki.
W 2015 roku większość informatyków twierdziła, że konwersacyjna AI na poziomie ChatGPT pojawi się dopiero za trzydzieści lub pięćdziesiąt lat.
Nie wiemy, kiedy nadejdzie sztuczna superinteligencja. Uważamy jednak, że ta kwestia powinna być globalnym priorytetem. Sądzimy także, że list otwarty drastycznie umniejsza wagę problemu.
------------
Zostaliśmy zaproszeni do podpisania tego listu jako współliderzy Machine Intelligence Research Institute (MIRI), organizacji non profit zajmującej się kwestiami superinteligencji maszynowej od 2001 roku - czyli na długo przed tym, zanim temat ten zyskał rozgłos i finansowanie. Mówiąc najprościej: wśród tych niewielu organizacji, które śledzą sprawę od dziesięcioleci, MIRI jest uznawana za nestora. Jeden z nas - Yudkowsky - jest założycielem MIRI, drugi - czyli Soares - jest jej obecnym prezesem.
MIRI jako pierwsza zorganizowana grupa stwierdziła: "Superinteligentna AI zostanie kiedyś opracowana i to może mieć ogromne znaczenie. Może się okazać technicznie bardzo trudne, by superinteligencja pomagała ludzkości, zamiast jej szkodzić. Czy ktoś nie powinien zacząć nad tym pracować już teraz?".
Na początku nie zajmowaliśmy jednak takiego stanowiska. Yudkowsky początkowo próbował budować superinteligencję. W 2001 roku zrozumiał, że wcale nie musi się okazać przyjazna. W 2003 roku - że problem będzie niezwykle trudny.
Przez pierwsze dwie dekady MIRI była instytutem badawczym o charakterze technicznym, bez większego zaangażowania politycznego. Przede wszystkim organizował warsztaty naukowe i gościł kilku obiecujących badaczy. Próbowaliśmy opracować matematyczne podstawy rozumienia i kształtowania nadludzkiej inteligencji maszynowej oraz przewidywania, jak może się wymknąć spod kontroli.
MIRI niestety przyniosła także pewne skutki uboczne, co obecnie z żalem przyznajemy. Na naszej konferencji przedstawiliśmy Demisa Hassabisa i Shane'a Legga, współzałożycieli firmy, która z czasem stała się Google DeepMind, ich pierwszemu sponsorowi. Sam Altman, dyrektor generalny OpenAI, powiedział kiedyś, że Yudkowsky "zainteresował wielu z nas AGI (sztuczną inteligencją ogólną, ang. Artificial General Intelligence)"[6] oraz że "jego opinie były krytycznym punktem decyzji o założeniu OpenAI"[7].
Historia MIRI jest skomplikowana, ale nasze związki z tą dziedziną można opisać w ten sposób: długo przed powstaniem którejkolwiek z obecnych firm zajmujących się AI uznawano, że ostrzeżenia MIRI trzeba ignorować, jeśli chce się budować naprawdę mądrą sztuczną inteligencję, bez względu na ryzyko unicestwienia ludzkości. Ostatnio, gdy AI stały się popularniejsze, obserwujemy jednak z niepokojem, że ludzie zakładający start-upy AI zaczęli mówić o superinteligencji jako o źródle ogromnych, wspaniałych mocy - które, jak zakładają, będą w stanie kontrolować. Według wielu z nich największym niebezpieczeństwem jest to, że ASI trafi w niepowołane ręce. Mówią o konieczności wygrania "wyścigu zbrojeń AI". Rzadko jednak rozważa się możliwość, że to nie ludzie będą "posiadać" ASI, lecz że ASI będzie posiadała samą siebie - i że jedynym zwycięzcą tego wyścigu może być ona sama.
Widzieliśmy szybki wzrost możliwości AI.
Widzieliśmy, że pole badań, w które my sami jesteśmy zaangażowani, nad zrozumieniem istoty AI i jej bezpieczeństwem, rozwija się znacznie, znacznie wolniej.
Bezmyślny wyścig różnych firm do stworzenia nadludzkiej AI, zanim ktokolwiek z konkurentów to zrobi, zaczął wyglądać jak wyścig ku przepaści. Cała gałąź zaczęła pędzić ku katastrofie: i to takiej, która później mogłaby trafić do podręczników jako przykład, jak nie postępować - szkoda tylko, że nie będzie żył już nikt, kto mógłby przeprowadzić stosowną analizę.
Doszliśmy do wniosku, że nie ma realnych szans, by ludzkość zdążyła technicznie rozwiązać ten problem na czas. Wstrzymaliśmy większość badań MIRI i skupiliśmy się na jednym przekazie, który stanowi rdzeń tej książki: jeśli jakakolwiek firma lub grupa na świecie zbuduje sztuczną superinteligencję na podstawie teraźniejszych technik i obecnego rozumienia AI, to wszyscy, wszędzie na Ziemi, umrą.
Powyższe zdanie nie jest hiperbolą. Nie przesadzamy dla efektu. Uważamy to za najbardziej bezpośrednią konsekwencję obecnej wiedzy i praktyk instytucjonalnych wokół AI.
W tej książce prezentujemy argumentację w nadziei, że dotrze ona do dość wielu decydentów i zwykłych ludzi, aby uznali kwestię AI za bardzo poważną. Domyślny scenariusz jest śmiercionośny, ale sytuacja nie jest beznadziejna. Superinteligencja jeszcze nie istnieje i jej powstanie można powstrzymać.
---------
Jak można być pewnym, co się stanie z AI? "Prognozowanie jest bardzo trudne, zwłaszcza gdy dotyczy przyszłości"[8]. Większość aspektów przyszłości jest nie do przewidzenia. Na przykład nie możemy wywnioskować zwycięskich numerów w lotto. Każdy zestaw liczb wydaje się równie prawdopodobny jak inny.
Jednak niektóre fakty dotyczące przyszłości można prognozować. Jeśli kupicie jutro kupon lotto, nie wiemy, jakich skomplikowanych systemy gry użyjecie ani na jakie ulubione numery postawicie, nie wiemy też, które liczby będą zwycięskie, lecz mimo tej całej niepewności możemy z dużym prawdopodobieństwem stwierdzić, że raczej nie wygracie. Podobnie jeśli wrzuci się kostkę lodu do gorącej wody, niemożliwe jest przewidzenie, gdzie znajdzie się każda z jej molekuł po dziesięciu minutach, ale niemal na pewno lód się roztopi. Mniej więcej połowa fizyki tak wygląda: nie da się wyliczyć, którą dokładnie drogą coś się potoczy, ale wiadomo, dokąd niemal wszystkie doprowadzą.
Niektóre aspekty przyszłości da się przewidzieć, jeśli ma się odpowiednią wiedzę i samozaparcie; innych absolutnie nie. Kompetentna futurologia polega na rozpoznaniu, które się da, a które nie.
Historia pokazuje, że pewien rodzaj relatywnie łatwych przewidywań przyszłości polega na uzmysłowieniu sobie, czy coś jest możliwe zgodnie z prawami fizyki, i zrozumieniu, że w takim razie prędzej czy później ktoś to zrobi. Loty czegoś cięższego od powietrza, broń jądrowa, loty załogowe na Księżyc - wszystkie te rzeczy przewidziano, i to prawidłowo, mimo oporów sceptyków, którzy przezornie zauważali, że takie rzeczy nie miały nigdy miejsca, więc prawdopodobnie nigdy się nie wydarzą. Ludzie mocujący skrzydła do ramion i skaczący z urwiska wydawali się głupcami, byli wyśmiewani przez im współczesnych, rzeczywiście ulegali wypadkom i ponosili porażki - lecz to i tak nie powstrzymało braci Wright przed odkryciem, jak latać.
Oczywiście przewidzenie, kiedy dokładnie nastąpi przełom technologiczny, jest znacznie trudniejsze. Ludzie twierdzą, że jakaś technologia pojawi się za dwa lata, gdy w rzeczywistości powstała już 50 lat temu, albo że będzie dostępna dopiero za pół wieku, a faktycznie powstanie już za dwa lata i to właśnie oni ją stworzą. "Człowiek nie będzie latał nawet za tysiąc lat" - powiedział Wilbur Wright do swego brata Orville'a w 1901 roku, zniechęcony wielokrotnymi testami lotni bez napędu. Dwa lata później, w 1903 roku, bracia Wright wzbili się w powietrze.
Skutecznie prognozowanie nie wiąże się z posiadaniem mądrości wystarczającej do antycypowania szczegółów, które są z zasady nieprzewidywalne. Nie chodzi o wymyślenie skończonej historii, która magicznym sposobem się spełni, raczej o wynajdywanie aspektów przyszłości, które są łatwe do przewidzenia, jeśli postrzega się je z odpowiedniej perspektywy.
Nie wiemy, kiedy skończy się świat, jeśli ludzie i rządy nie zmienią nic w podejściu do sztucznej inteligencji. Nie wiemy, jak będą brzmiały nagłówki artykułów o AI za dwa lata albo dekadę ani nawet czy mamy jeszcze dziesięć lat w zapasie. Nie twierdzimy, że jesteśmy tacy mądrzy, że umiemy prognozować rzeczy trudne do przewidzenia. Uważamy raczej, że jeden szczególny aspekt przyszłości: "Co się stanie ze wszystkimi i wszystkim, jeśli superinteligencja powstanie w najbliższej przyszłości?" można - przy odpowiedniej wiedzy i ostrożnym rozumowaniu - łatwo przewidzieć.
Zagłada ludzkości na skutek superinteligencji AI na pierwszy rzut oka może nie wydawać się oczywista, ale właśnie o tym jest reszta tej książki. Tak samo jak arytmetyka jest niezbędna do wyliczenia szans na wygraną w lotto, a niektóre zasady termodynamiki, żeby przewidzieć, dlaczego kostka lodu prawdopodobnie się rozpuści, tak samo konieczna jest pewna podstawowa wiedza, by zrozumieć, dlaczego sztuczna inteligencja stanowi immanentne ryzyko dla ludzkości. Gdy te podstawy zostaną ujawnione, przewidywanie finału naszej obecnej trajektorii staje się ponuro, przerażająco jasne.
-----------
Nawet w obliczu nadludzkiej inteligencji maszynowej może kusić wyobrażenie sobie, że świat będzie wyglądał tak samo, jak podczas kilku dekad naszej relatywnie krótkiej egzystencji. To prawda, ale trudno pamiętać, że była kiedyś epoka, tak realny jak obecna, zaledwie kilka stuleci wstecz, kiedy cywilizacja wyglądała zupełnie inaczej. Normalność zawsze się kończy. Tysiące lat temu w ogóle nie było cywilizacji. Milion lat temu wielokomórkowe kolonie nie miały nawet wyspecjalizowanych komórek.
Przyjęcie perspektywy historycznej może ułatwić uzmysłowienie sobie czegoś, co tak trudno dostrzec z perspektywy naszego krótkiego życia: że natura dopuszcza zakłócenia. Dopuszcza klęski. Dopuszcza, że świat już nigdy nie będzie taki sam.
Dawno, dawno temu - około 2,5 miliarda lat temu - wydarzyło się coś, co biolodzy nazywają katastrofą tlenową. Nowa forma życia "nauczyła się" wykorzystywać energię słoneczną do pobierania cennego węgla z powietrza. Wydalała przy tym niebezpiecznie toksyczny i reaktywny odpad chemiczny, zatruwając niemal całe istniejące wówczas życie: był to tlen. Tak zaczęła powstawać atmosfera. Większość organizmów żywych - w tym większość bakterii wydalających tlen - nie podołała jego reaktywności i zginęła. Kilka rodzajów komórek mających szczęście zaadaptowało się i w końcu ewoluowało w organizmy, które wykorzystują tlen jako paliwo. Ale już nigdy "stara normalność" nie wróciła. Świat już nigdy nie był taki sam.
Dawno temu kontynenty były nagą skałą. Potem, w mgnieniu ewolucyjnego oka, pokryły się roślinnością. Niedługo później pojawiły się kipiące życiem lasy - i świat znowu nigdy nie był taki sam.
Dawno temu ludzie udomowili żyto i jęczmień. W ułamku mgnienia ewolucyjnego oka zaczęli tworzyć cywilizacje. Świat po raz kolejny już nie był taki sam.
Dawno temu - w latach trzydziestych XX wieku - pojawiły się sygnały ostrzegawcze, że pewne rodziny już nie są bezpieczne w Niemczech. Niewielki ich odsetek szybko opuścił kraj; większość została. Wtedy nazistowskie władze odebrały im obywatelstwo i paszporty, przez co ucieczka stała się bardzo trudna. Po kilku latach niemieccy Żydzi i Romowie oraz kilka innych nacji zostali ujęci i wysłani do obozów śmierci. Według świadków tamtych wydarzeń wiele rodzin zostało nie dlatego, że nie zauważyło nadchodzącego niebezpieczeństwa, lecz dlatego, że żyło nadzieją, iż życie wróci do normalności[1], zanim sprawy posuną się za daleko.
Dawno, dawno temu ludzkości była u progu stworzenia sztucznej superinteligencji...
Normalność zawsze się kończy. Nie oznacza to, że nieuchronnie zastępowana jest przez coś gorszego; czasami tak faktycznie jest, czasami nie, a czasami zależy to od naszej reakcji. Ale kurczowe trzymanie się nadziei, że prawdziwe zło się nie wydarzy, zwykle nie jest najlepszym wyborem.
Ludzie dzięki inteligencji mają umiejętność kształtowania przyszłości. Ta umiejętność działa jednak tylko wtedy, gdy jej używamy - kiedy robimy rzeczy, które trzeba zrobić, gdy ich potrzebujemy. Inaczej inteligencja nie ma żadnej mocy. Albo działa, gdy zmieniamy działania, albo nie działa wcale.
-----------
Nadchodzące miesiące i lata będą testem życia lub śmierci dla całej ludzkości. Mamy nadzieję, że nasza książka zainspiruje jednostki i całe rządy do stanięcia na wysokości zadania.
W kolejnych rozdziałach przedstawiamy naukowe podstawy naszych obaw, analizujemy bodźce ekonomiczne dzisiejszej branży AI oraz wyjaśniamy, dlaczego sytuacja jest znacznie bardziej niebezpieczna, niż się wydaje. Prosto i przystępnie analizujemy krytycznie nowoczesne metody uczenia maszynowego oraz wyjaśniamy, dlaczego obecne metody są całkowicie niewystarczające, by tworzyć AI, która poprawi świat, zamiast go wykończyć.
W części I wyjaśniamy problem: czym jest inteligencja, jak powstają współczesne AI i dlaczego tak trudno je zrozumieć? Czy AI mogą "chcieć" (mieć pragnienia) i czego mogą chcieć i czemu chciałyby nas zabić? W jaki sposób? Przewidujemy, że AI nas nie znienawidzą, lecz będą miały dziwaczne, obce nam preferencje, które będą realizować, aż cała ludzkość wyginie.
W części II podsumowujemy te wszystkie argumenty i przedstawiamy opowieść o AI, która kończy świat podobny do naszego. Nie jest to dokładna prognoza, ponieważ szczegółowe ścieżki przyszłości są trudne do zdefiniowania. Jedyną częścią tej opowieści, która jest prognozą, jest zakończenie - i to tylko wtedy, gdy ludzie pozwolą, by podobna historia naprawdę się wydarzyła.
W części III analizujemy trudność wyzwania stojącego przed ludzkością i prezentujemy przegląd obecnych reakcji. Jak dobrze firmy AI rozwiązują ten problem? Czemu świat nie zajmuje się tym z większym zaangażowaniem? Co społeczeństwa mogą zrobić inaczej, jeśli większość z nas zdecyduje się nie umrzeć? Co musiałoby się stać, aby Ziemia nie zbudowała superinteligencji maszynowej?
Suplement online do książki dostępny jest na stronie IfAnyoneBuildsIt.com. Na końcu każdego rozdziału znajduje się adres URL i kod QR prowadzący do materiałów uzupełniających.
IfAnyoneBuidsIt.com/intro
Ludzie mają bardzo różne, często sprzeczne odczucia odnośnie do sztucznej inteligencji. Przez lata słyszeliśmy różnorodne pytania i zastrzeżenia wypowiadane z powodu rozmaitych założeń i punktów widzenia. W materiałach uzupełniających omawiamy więcej zastrzeżeń, niuansów i najczęściej zadawanych pytań, a także przedstawiamy niektóre z teoretycznych podstaw oraz rozwiniętych argumentów; ich publikacja sprawiłaby, że ta książka byłaby kilkakrotnie dłuższa i znacznie mniej przystępna. Jeśli po zakończeniu któregoś rozdziału pojawią się w waszych głowach obiekcje, zachęcamy do dalszej lektury online.
Wiele rozdziałów otwieramy przypowieściami - historiami, które, mamy nadzieję, pomogą przekazać pewne kwestie prościej, niż byłoby to możliwe w inny sposób. Być może dodadzą też odrobinę lekkości tematowi, który sam w sobie jest trudny. Jest to zgodne z najstarszą tradycją - być może starszą niż ludzki gatunek w jego obecnej formie - by śmiać się w obliczu śmierci.
-----------
Przyznajemy: ta książka nie niesie dobrych wiadomości. Nie piszemy jej jednak tylko po to, by obwieścić, że jesteście skazani na zagładę. Sztuczna superinteligencja jeszcze nie istnieje. Ludzkość wciąż może zdecydować, by jej nie budować.
W latach pięćdziesiątych XX wieku wiele osób spodziewało się wojny nuklearnej między światowymi mocarstwami. Biorąc pod uwagę wcześniejszą historię ludzkich konfliktów, istniały powody do pesymizmu. A jednak do dziś wojna nuklearna nie wybuchła. Nie dlatego, że bomby atomowe okazały się czystą fantastyką naukową, która nigdy nie mogłaby zaistnieć w rzeczywistości. Stało się tak dlatego, że ludzie ciężko pracowali nad stworzeniem odpornych systemów mających zapobiec rozpoczęciu takiej wojny. Zrobili to, ponieważ przywódcy państw wiedzieli, że wybuch wojny nuklearnej zarówno dla nich, jak i dla obywateli ich krajów oznaczałby bardzo zły dzień.
Mieliby również bardzo zły dzień, gdyby ktokolwiek gdziekolwiek na Ziemi stworzył maszynową superinteligencję. W niczyim interesie nie leży umrzeć wraz ze swoją rodziną i przyjaciółmi, swoim krajem i jego obywatelami.
Zatrzymanie trwającej eskalacji technologii AI, objęcie kontrolą sprzętu wykorzystywanego do tworzenia coraz potężniejszych modeli w dzisiejszym świecie nie jest łatwe. Wymagałoby jednak znacznie mniej wysiłku niż, dajmy na to, prowadzenie II wojny światowej. Wystarczy, by niektóre państwa, przywódcy i wyborcy uświadomili sobie, że stoją w trudnej do oszacowania - ale być może bardzo małej - odległości od krawędzi śmierci.
To zadanie nie będzie łatwe, ale jeszcze nie umarliśmy. Ludzka godność - i godność całej ludzkości - wymaga, byśmy podjęli walkę.
Póki życia, póty nadziei.
ROZDZIAŁ 1Szczególna moc ludzkości
WYOBRAŹCIE SOBIE - choć oczywiście nic takiego nigdy się nie wydarzyło, bo to tylko przypowieść - że biologiczne życie na Ziemi było wynikiem gry między bogami. Że istniał bóg tygrysów, który stworzył tygrysy, i bóg sekwoi, który stworzył sekwoje. Wyobraźcie sobie bogów poszczególnych gatunków ryb i bakterii. Wyobraźcie sobie, że ci gracze rywalizowali o dominację dla rodziny gatunków, której byli stworzycielami, w miarę jak kolejne formy życia przemierzały planetę.
Wyobraźcie sobie, że jakieś dwa miliony lat przed naszymi czasami mało znany bóg człekokształtnych spojrzał na planszę gry wielkości planety.
- Potrzebuję jeszcze kilku ruchów - powiedział bóg hominidów - ale sądzę, że wygraną mam w kieszeni.
Zapadła kłopotliwa cisza, gdy inni bogowie przyglądali się planszy, próbując dostrzec, co przeoczyli.
- Jak to? - zapytał bóg skorpionów. - Twoje hominidy nie mają pancerzy, pazurów ani jadu.
- Mają mózgi - odparł bóg hominidów.
- Pozarażam ich i wymrą - zagroził bóg ospy prawdziwej.
- Chwilowo - odpowiedział bóg hominidów. - Twój koniec nadejdzie szybko, Ospo[2], gdy ich mózgi nauczą się z tobą walczyć.
- Ale oni nawet nie mają największych mózgów! - zauważył bóg wielorybów.
- Nie chodzi tylko o rozmiar - odrzekł bóg hominidów. - Liczy się także konstrukcja. Daj im dwa miliony lat, a staną na księżycu swojej planety.
- Jakoś nie bardzo rozumiem, gdzie w metabolizmie tych stworzeń powstaje paliwo rakietowe - powiedział bóg sekwoi. - Nie można po prostu wymyślić sobie sposobu na dotarcie na orbitę. W pewnym momencie gatunek musi wyewoluować metabolizm oczyszczający paliwo rakietowe i stać się odpowiednio duży, najlepiej wysoki i smukły, z twardą powłoką, żeby nie rozdął się i nie zginął w próżni kosmicznej. Bez względu na to, jak bardzo mocno twoje małpy będą myśleć, utkną na Ziemi.
- Niektórzy z nas grają w tę grę od miliardów lat - powiedział bóg bakterii, rzucając bogu hominidów spojrzenie z ukosa. - Mózgi nie były dotąd wielką przewagą.
- A jednak - odpowiedział bóg hominidów.
----------
OTO JAK W RZECZYWISTOŚCI WYGLĄDA HISTORIA NASZEGO GATUNKU.
Ludzie wykształcili niezwykle duże mózgi jak na zwierzęta tych rozmiarów. Ujarzmili ogień, zbudowali farmy, wytapiali żelazo. W zdumiewająco krótkim czasie - w skali ewolucji biologicznej - wylądowali na Księżycu, mimo że nasz metabolizm nie rafinuje paliwa rakietowego, a nasza skóra nie wytrzymuje próżni.
Inne gatunki rodzą się ze specjalistycznymi umiejętnościami: pszczoły budują ule, bobry konstruują tamy. Człowiek patrzy na tamę bobra i rozumie, jak została zrobiona; nauczyliśmy się budować tamy bez wiedzy zapisanej w genach. Dziś grodzimy rzeki jak bobry, budujemy sobie domy jak pszczoły, tkamy sieci jak pająki. Budujemy elektrownie i rakiety kosmiczne, czego żaden inny gatunek nie potrafi.
Ludzie umieją robić rzeczy, których nie robili nasi przodkowie i których nie potrafią inne zwierzęta, dzięki właściwości zwanej "inteligencją". Geny nie zaprogramowały w nas większości umiejętności; zamiast tego obserwowaliśmy, próbowaliśmy, zapamiętywaliśmy, uogólnialiśmy - i osiągaliśmy cele.
Zdolność uczenia się nie jest charakterystyczna tylko dla ludzi. Mózg myszy może nauczyć się poruszania w labiryncie. Nasz mózg potrafi zrobić lepszą wersję tego wszystkiego, co potrafi mózg myszy. Uczymy się przedzierać przez zawiłe ścieżki chemii, by wynaleźć tańsze nawozy. Przeprowadzamy złożone eksperymenty, odkrywamy prawa fizyki, wynajdujemy satelity. Możemy nawet umieszczać myszy w labiryntach i badać, jak się uczą.
Ludzki mózg potrafi się poruszać po znacznie szerszym przekroju rzeczywistości niż mózg jakiegokolwiek innego zwierzęcia. Właśnie to jest naszą szczególną mocą.
Jak działa ta moc? Co robi i jaki sposób?
----------
W naszej opinii[9] inteligencja polega na dwóch podstawowych rodzajach działania: przewidywaniu świata i kierowaniu nim.
Przewidywanie to zgadywanie, co się zobaczy (usłyszy, poczuje), zanim to nastąpi. Jeśli jedziecie na lotnisko, wasz mózg skutecznie przewiduje, gdy antycypujecie, kiedy światło zmieni się na żółte albo kierowca przed wami zahamuje.
Kierowanie polega na znajdowaniu działań prowadzących do wybranego rezultatu. Gdy jedziecie na lotnisko, mózg skutecznie kieruje, odnajdując odpowiedni wzorzec prawidłowych skrętów, by dotrzeć do celu, albo wysyła właściwe sygnały nerwowe do mięśni, dzięki którym możecie skręcić kierownicą.
Większość możliwych wzorców impulsów nerwowych, jakie mózg mógłby wysłać do palców, nie spowodowałoby prawidłowego skrętu kierownicą. Wywołałyby chaotyczne drgania, co wyglądałoby jak atak padaczki. A jednak codziennie mózg jest w stanie odnaleźć impulsy odpowiedzialne za prowadzenie samochodu czy utrzymanie pionowej postawy ciała i wybiera te właściwe spośród milionów błędnych możliwości. Gdy jedziecie na lotnisko, mózg nie tylko przetwarza wąską sekwencję skrętów prowadzących do celu; wybiera jeden z zyliona wzorców impulsów nerwowych powodujących skurcze odpowiednich mięśni, aby skręcić kierownicą.
Przewidywanie i kierowanie są powiązane. Dojechanie samochodem na lotnisko wymaga przewidywania, która ulica tam doprowadzi. To z kolei może wymagać pokierowania palcami do mapy na telefonie lub GPS-ie.
Istnieje jednak fundamentalna różnica między przewidywaniem a kierowaniem.
