WSTĘP
UMYSŁ POPRZEDZA DANE
Każda nauka - o ile się rozwijała -
rozwijała się dzięki symbolom.
Augustus De Morgan (1864)
Książka ta opowiada historię nauki, która dokonała zmiany w tym, jak oddzielamy fakty od fikcji, ale o której istnieniu szeroka publiczność prawie nic nie wie. Nowa nauka już teraz wywiera wpływ na najważniejsze aspekty naszego życia i w przyszłości wpływ ten może być jeszcze większy - od opracowania nowych lekarstw po nową politykę ekonomiczną, od edukacji i robotyki po kontrolę handlu bronią i globalne ocieplenie. Co ciekawe, pomimo różnorodności i pozornej nieporównywalności obszarów problemowych nowa nauka obejmuje je wszystkie jednolitym podejściem teoretycznym, które jeszcze dwie dekady temu praktycznie nie istniało.
Nowa nauka nie posiada skomplikowanej nazwy: jak wielu moich kolegów nazywam ją po prostu "wnioskowaniem przyczynowym". Nie jest również szczególnie zaawansowana technicznie. Idealna technika, którą stara się imitować wnioskowanie przyczynowe, żyje w naszych umysłach. Kilkadziesiąt tysięcy lat temu ludzie zaczęli sobie uświadamiać, że jedne rzeczy powodują inne i że manipulowanie tymi pierwszymi może zmieniać drugie. Żaden inny gatunek zwierząt nie rozumie tego, a przynajmniej nie w takim samym zakresie. Dzięki temu odkryciu narodziły się zorganizowane społeczeństwa, później miasta i metropolie, a wreszcie cywilizacja oparta na nauce i technice, z której dobrodziejstw korzystamy. Wszystko to ponieważ zadaliśmy proste pytanie: dlaczego?
We wnioskowaniu przyczynowym chodzi o to, aby brać to pytanie poważnie. Wnioskowanie przyczynowe przyjmuje, że mózg ludzki jest najbardziej zaawansowanym narzędziem, jakie wynaleziono do radzenia sobie z przyczynami i skutkami. Nasze mózgi przechowują niewiarygodne ilości wiedzy przyczynowej, którą po uzupełnieniu danymi doświadczalnymi możemy wykorzystać, aby odpowiedzieć na palące pytania naszych czasów. Idąc jeszcze dalej, kiedy w końcu zrozumiemy logikę myślenia przyczynowego, będziemy mogli symulować ją na nowoczesnych komputerach i powołać do życia "sztucznego naukowca". Taki inteligentny robot będzie odkrywał nowe zjawiska, poszukiwał wyjaśnień nierozstrzygniętych dylematów, projektował nowe eksperymenty i nieustannie wydobywał nową wiedzę przyczynową z otoczenia.
Zanim jednak przejdziemy do spekulacji o takich futurystycznych możliwościach, powinniśmy rozumieć osiągnięcia, które wnioskowanie przyczynowe już teraz ma na swoim koncie. Przyjrzymy się temu, jak przeobraziło ono myślenie naukowców w prawie każdej dyscyplinie, w której liczą się dane, i jak już niebawem odmieni nasze życie.
Nowa nauka próbuje odpowiedzieć na pozornie proste pytania:
- Jak skuteczne jest dane postępowanie w zapobieganiu pewnej chorobie?
- Czy za wzrost sprzedaży odpowiada nowe prawo podatkowe, czy też jest on skutkiem nowej kampanii reklamowej?
- Jakie koszty dla systemu opieki zdrowotnej pociąga za sobą epidemia otyłości?
- Czy historia zatrudnienia może wykazać, że pracodawca jest winny dyskryminacji płciowej?
- Zamierzam rzucić pracę. Czy postępuję słusznie?
Wspólne tym wszystkim pytaniom jest zainteresowanie związkami przyczynowo-skutkowymi, uwidaczniające się w słowach takich jak "zapobieganie", "odpowiada", "pociąga za sobą", "winny" lub "słusznie". Słowa te powszechnie występują w codziennym języku i społeczeństwo stale domaga się odpowiedzi na takie pytania. Ale jeszcze do niedawna nauka nie dawała żadnych środków, dzięki którym można byłoby choćby wyartykułować te pytania, a cóż dopiero na nie odpowiedzieć.
Bez wątpienia największą zasługą wnioskowania przyczynowego było naprawienie tego naukowego zaniedbania. Nowa nauka stworzyła prosty język matematyczny pozwalający wyartykułować związki przyczynowe, jakie znamy, jak również takie, które dopiero chcielibyśmy poznać. Umiejętność wyrażania tej informacji w matematycznej formie dała nam dostęp do mnóstwa potężnych i systematycznych metod pozwalających na łączenie wiedzy z danymi i udzielanie odpowiedzi na takie pytania przyczynowe jak powyższa piątka.
Miałem szczęście uczestniczyć w ciągu ostatniego ćwierćwiecza w tym postępie naukowym. Obserwowałem, jak nowe pomysły nabierają kształtu w studenckich boksach i laboratoriach, a także słuchałem, jak przełomowe odkrycia wybrzmiewają na konferencjach naukowych z dala od medialnego zgiełku. Na progu ery silnej sztucznej inteligencji (silnej AI), gdy wielu sławi nieograniczone możliwości analizy danych i głębokiego uczenia, sądzę, że najwyższa pora, aby przedstawić czytelnikom najbardziej ekscytujące drogi, po których kroczy nowa nauka, to, jak nowa nauka oddziałuje na analizę danych, oraz niezliczone sposoby, w jakie zmieni nasze życie w XXI wieku.
Czytelnik może być sceptyczny, gdy określam te osiągnięcia jako "nową naukę". Może zapytać: Dlaczego nie dokonano tego wcześniej, powiedzmy, gdy Wergiliusz oznajmił: "Szczęśliwy, kto rozumie przyczyny zdarzeń" (29 r. p.n.e.), albo gdy założyciele nowoczesnej statystyki, Francis Galton i Karl Pearson, odkryli, że dane o populacji mogą rzucić światło na zagadnienia naukowe? Wiele dałoby się powiedzieć o tym, dlaczego wówczas nie udało się zrozumieć przyczynowości, i tym zajmiemy się w historycznej części książki. Już teraz jednak zdradzimy, że najważniejszą przeszkodą była głęboka przepaść między językiem, w którym formułuje się pytania dotyczące przyczynowości, a tradycyjnym słownikiem, w którym wypowiada się teorie naukowe.
Aby ocenić głębię tej przepaści, wyobraźmy sobie trudności, przed którymi staje naukowiec, próbując wyrazić pewne oczywiste związki przyczynowe - na przykład to, że odczyt barometru B informuje o ciśnieniu atmosferycznym P. Bez trudu zapisujemy ten związek w postaci równania takiego jak B = kP, gdzie k jest stałym współczynnikiem. Reguły algebry pozwalają teraz dalej zapisać to równanie na wiele sposobów, na przykład P = B/k, k = B/P lub B - kP = 0. Wszystkie oznaczają to samo - że jeśli znamy dwie spośród trzech wielkości, to trzecia będzie przez nie wyznaczona. Żaden z symboli k, B lub P nie jest jakkolwiek matematycznie wyróżniony. Jak zatem wyrazić nasze przekonanie, że zmianę stanu barometru wywołuje ciśnienie, a nie odwrotnie? A skoro nawet tego nie umiemy wyrazić, jak możemy spodziewać się wyrażenia wielu innych przekonań przyczynowych, które nie mają wzorów matematycznych, jak tego, że pianie koguta nie wywołuje wschodu słońca?
Moi profesorzy na uniwersytecie nie umieli tego robić i raczej nie narzekali. Przypuszczam, że wasi nauczyciele robili podobnie. Obecnie rozumiemy dlaczego: nie poznali matematycznego języka przyczyn i skutków i nie docenili jego zalet. Można nawet winić naukę o to, że przez tyle generacji nie opracowała takiego języka. Wszyscy wiemy, że użycie wyłącznika powoduje zapalenie lub zgaszenie światła oraz że upalny dzień latem powoduje zwiększenie sprzedaży w lokalnej lodziarni. Dlaczego więc naukowcom nie udało się ująć tych faktów we wzory matematyczne, tak jak zrobili w przypadku praw optyki, mechaniki lub geometrii? Dlaczego pozwolili, by fakty te pozostały w sferze mglistej intuicji, pozbawione narzędzi matematycznych, które innym dziedzinom wiedzy umożliwiły bujny rozkwit i osiągnięcie dojrzałości.
Po części wynika to z tego, że narzędzia naukowe rozwijają się w odpowiedzi na potrzeby naukowe. Ponieważ tak dobrze radzimy sobie z zagadnieniami dotyczącymi wyłączników, lodów i barometrów, nasze zapotrzebowanie na specjalną maszynerię matematyczną nie było oczywiste. W miarę jednak jak wzrastała nasza ciekawość i zaczęliśmy stawiać pytania przyczynowe dotyczące zawiłych sytuacji prawnych, biznesowych, medycznych i administracyjnych, zdaliśmy sobie sprawę z tego, że brakuje nam narzędzi i zasad, które dojrzała nauka powinna posiadać.
Takie spóźnione uświadomienie nie jest w nauce czymś niezwykłym. Na przykład zaledwie czterysta lat temu ludzie byli w pełni zadowoleni z naturalnej zdolności radzenia sobie z niepewnością życia codziennego, od przechodzenia przez ulicę po wdanie się w bijatykę. Dopiero gdy miłośnicy hazardu wymyślili skomplikowane gry losowe, niekiedy starannie zaprojektowane, aby podstępnie skłaniać nas do złych wyborów, matematycy tacy jak Blaise Pascal (1654), Pierre de Fermat (1654) i Christiaan Huygens (1657) poczuli się zmuszeni do dania początku temu, co dzisiaj nazywamy teorią prawdopodobieństwa. Podobnie dopiero gdy firmy ubezpieczeniowe uznały, że są im potrzebne dokładne wyliczenia aktuarialne, matematycy tacy jak Edmond Halley (1693) i Abraham de Moivre (1725) zaczęli analizować dane na temat śmiertelności w celu otrzymania oczekiwanej długości życia. Z kolei zapotrzebowanie ze strony astronomów na precyzyjne przewidywanie ruchu ciał niebieskich skłoniło Jakoba Bernoullego, Pierre'a-Simona Laplace'a i Carla Friedricha Gaussa do opracowania teorii błędów, która miała oddzielić sygnał od szumu. Wszystkie powyższe metody były prekursorami współczesnej statystyki.
Jak na ironię, zapotrzebowanie na teorię przyczynowości zaczęto odczuwać w tym samym czasie, gdy pojawiła się statystyka. Nowoczesna statystyka zrodziła się z pytań przyczynowych zadawanych przez Galtona i Pearsona w związku z zagadnieniami dziedziczenia oraz z ich pomysłowych prób udzielenia na te pytania odpowiedzi przy użyciu danych sięgających wielu pokoleń. Niestety w tym przedsięwzięciu naukowcy doznali porażki, ale zamiast zastanowić się nad przyczynami, tego rodzaju pytania uznali za niedopuszczalne i zajęli się rozwijaniem statystyki wolnej od przyczynowości.
Był to decydujący moment w historii nauki. Szansa na wyposażenie pytań przyczynowych w odpowiedni dla nich język była na wyciągnięcie ręki, lecz została zaprzepaszczona. W późniejszych latach pytania takie uznano za nienaukowe i zepchnięto je do podziemia. Mimo heroicznych wysiłków genetyka Sewalla Wrighta (1889-1988) słownik przyczynowy praktycznie został wyklęty na ponad pół wieku. A gdy zakazana jest mowa, zakazana jest też myśl, dławione są zasady, metody i narzędzia.
Nie trzeba być naukowcem, by zetknąć się z tym zakazem. Każdy studiujący wstęp do statystyki słyszał frazes: "Korelacja i przyczynowość są dwiema różnymi rzeczami". I jak najsłuszniej! Pianie koguta jest skorelowane ze wschodem słońca, ale go nie powoduje.
Niestety, z tego zdroworozsądkowego spostrzeżenia statystyka zrobiła fetysz. Mówi, że korelacja i przyczynowość nie są tym samym, lecz nie tłumaczy, na czym polega przyczynowość. Daremnie szukać hasła "przyczyna" w spisie terminów podręczników statystyki. Studentom zakazuje się mówić, że X jest przyczyną Y - ale jedynie, że X i Y są "powiązane" lub "skojarzone"[1].
Z winy tego zakazu matematyczne narzędzia służące rozważaniu pytań przyczynowych zaczęły uchodzić za niepotrzebne, a statystyka skupiła się na podsumowywaniu danych, pomijając ich interpretację. Chlubnym wyjątkiem była analiza ścieżek wymyślona w latach dwudziestych XX wieku przez genetyka Sewalla Wrighta i będąca bezpośrednim poprzednikiem metod, o których mówi ta książka. Przez dziesięciolecia analiza ścieżek była niedoceniana w statystyce oraz dyscyplinach pokrewnych i trwała w stanie embrionalnym. To, co powinno było stać się pierwszym krokiem ku wnioskowaniu przyczynowemu, aż do lat osiemdziesiątych było jedynym krokiem. Reszta statystyki i dziedziny do niej się odwołujące tkwiły w epoce prohibicji, błędnie sądząc, że odpowiedzi na wszelkie pytania naukowe znajdują się w danych, o ile tylko podda się je pomysłowej eksploracji.
Ta historia ześrodkowana na danych odcisnęła głębokie piętno. Żyjemy w epoce wierzącej, że Big Data stanowi odpowiedź na wszystkie problemy. Na uczelniach mnożą się kursy "analizy danych", a firmy należące do "gospodarki opartej na danych" oferują popłatne stanowiska dla "data scientists". Mam jednak nadzieję, że ta książka przekona czytelnika, iż dane są bezdennie głupie. Dane powiedzą nam, że pacjenci, którzy zażywali lek, powrócili do zdrowia szybciej niż ci, którzy go nie zażywali, lecz nie wyjaśnią, dlaczego tak się stało. Być może pacjenci przyjmujący lek mogli sobie pozwolić na jego zakup, a równie szybko wyzdrowieliby bez niego.
Ciągle w nauce i biznesie mamy do czynienia z sytuacjami, w których same dane okazują się niewystarczające. Większość entuzjastów Big Data - choć do pewnego stopnia zdaje sobie sprawę z tych ograniczeń - wciąż goni za inteligencją opartą na danych, jakbyśmy nadal żyli w epoce prohibicji.
Jak wspomniałem, sytuacja zmieniła się diametralnie w ostatnich trzech dekadach. Obecnie, dzięki starannie obmyślanym modelom przyczynowym, naukowcy mogą podejmować problemy, które kiedyś byłyby uznane za nierozwiązywalne i wręcz pozostające poza zakresem badań naukowych. Na przykład jeszcze sto lat temu pytanie, czy palenie papierosów powoduje ryzyko dla zdrowia, było uznawane za nienaukowe. Sama wzmianka o "przyczynach" i "skutkach" wywołałaby burzę w renomowanych czasopismach naukowych poświęconych statystyce.
Jeszcze dwadzieścia lat temu zadanie statystykowi pytania: "Czy ból głowy ustąpił za sprawą aspiryny?" byłoby tym samym co zapytanie o to, czy wierzy w wudu. Mówiąc słowami mego wybitnego kolegi, byłby to raczej "temat pogawędki na koktajl party, a nie przedmiot dociekań naukowych". Dziś jednak epidemiolodzy, socjolodzy, informatycy i przynajmniej co bardziej oświeceni ekonomiści i statystycy codziennie zadają takie pytania i odpowiadają z matematyczną precyzją. Dla mnie zmiana ta stanowi prawdziwą rewolucję. Mam odwagę nazywać ją Rewolucją Przyczynową, gdyż jest przewrotem w myśleniu naukowym, który docenia naszą wrodzoną zdolność rozumienia przyczyn i skutków, zamiast jej zaprzeczać.
Rewolucja Przyczynowa nie działa się w próżni: stoi za nią sekret matematyczny, który można by nazwać rachunkiem przyczynowości i który pozwala rozwiązać najtrudniejsze problemy dotyczące związków przyczynowo-skutkowych. Ogromnie się cieszę, że mogę ujawnić ten rachunek - nie dlatego jedynie, że burzliwa historia jego rozwoju sama w sobie jest pasjonująca, ale w większej jeszcze mierze dlatego, że - jak się spodziewam - jego pełny potencjał zostanie rozwinięty ponad to, co mogę sobie wyobrazić... być może nawet przez samego czytelnika.
Na rachunek przyczynowości składają się dwa języki: diagramy przyczynowe służące do wyrażania tego, co wiemy, oraz język symboliczny - przypominający algebrę - służący do wyrażania tego, co chcemy wiedzieć. Diagramy przyczynowe to po prostu wykresy sporządzone za pomocą punktów oraz strzałek i podsumowujące naszą ustaloną wiedzę naukową. Punkty reprezentują interesujące nas wielkości, zwane "zmiennymi", a strzałki reprezentują znane lub domniemane związki przyczynowe istniejące między tymi zmiennymi - to, która zmienna "słucha" których innych zmiennych. Diagramy przyczynowe są łatwe do rysowania, zrozumienia i stosowania i czytelnik zobaczy ich dziesiątki na stronicach tej książki. Każdy, kto potrafi czytać mapę ulic jednokierunkowych, jest w stanie zrozumieć diagramy przyczynowe i rozwiązywać problemy takie jak te z początku niniejszego wstępu.
Choć diagramy przyczynowe są moim ulubionym narzędziem w tej książce, jak zresztą w ciągu ostatnich trzydziestu pięciu lat mojej pracy badawczej, nie są jedynym możliwym modelem przyczynowym. Pewni naukowcy (na przykład ekonometrycy) lubią pracować z matematycznymi równaniami, podczas gdy inni (na przykład statystycy) wolą listę założeń, które stanowią podsumowanie struktury diagramu. Niezależnie jednak od języka model powinien przedstawiać, choćby tylko jakościowo, proces, który doprowadził do wygenerowania danych - innymi słowy, siły przyczynowo-skutkowe działające w środowisku i kształtujące generowane dane.
Obok diagramowego "języka wiedzy" mamy jeszcze symboliczny "język zapytań", wyrażający pytania, na które chcielibyśmy znać odpowiedź. Jeśli na przykład interesuje nas wpływ lekarstwa L na długość życia D, to zapytanie można symbolicznie zapisać następująco: P(D | wykonaj(L)). Innymi słowy: jakie jest prawdopodobieństwo P, że pacjent przeżyje D lat, gdy będzie przyjmował lekarstwo L? Pytanie to opisuje to, co epidemiolodzy nazwaliby interwencją lub postępowaniem, i odpowiada temu, co mierzy się w badaniach klinicznych. Niejednokrotnie moglibyśmy także pragnąć porównać P(D | wykonaj(L)) z P(D | wykonaj(nie-L)). Ten ostatni zapis dotyczy pacjentów niepoddanych postępowaniu, nazywanych także pacjentami "kontrolnymi". Operator wykonaj oznacza, że mamy do czynienia z interwencją, a nie po prostu z pasywną obserwacją. Klasyczna statystyka nie posiada nic, co choćby zbliżałoby się do tego operatora.
Musimy posłużyć się operatorem interwencji wykonaj(L), aby zapewnić, że obserwowana zmiana długości życia D wynika z przyjmowania lekarstwa, a nie z innych czynników skracających lub wydłużających życie. Gdybyśmy zamiast stosować interwencję pozwolili pacjentom wybierać, czy chcą zażyć lekarstwo, te inne czynniki mogłyby wpłynąć na ich wybór i wtedy różnice w długości życia wynikające z przyjmowania lub nieprzyjmowania lekarstwa nie będą zależały jedynie od lekarstwa. Przypuśćmy na przykład, że lekarstwo przyjmowali jedynie pacjenci z chorobą terminalną. Osoby takie z pewnością różnią się od tych, które nie przyjmowały lekarstwa, i porównanie tych grup odzwierciedli różnice stopnia zaawansowania choroby, a nie działania lekarstwa. Natomiast zmuszenie pacjentów do przyjmowania lub nieprzyjmowania lekarstwa bez względu na wcześniejsze choroby unieważni występujące uprzednio różnice i zagwarantuje rzetelne porównanie.
Obserwowaną częstość występowania długości życia D wśród pacjentów, którzy dobrowolnie przyjmują lekarstwo, matematycznie zapisujemy jako P(D | L), co wyraża prawdopodobieństwo warunkowe standardowo wykorzystywane w podręcznikach statystyki. Oznacza ono prawdopodobieństwo P długości życia D pod warunkiem zaobserwowania, że pacjent przyjmuje lekarstwo L. Zauważmy, że P(D | L) może mieć zupełnie inną wartość niż P(D | wykonaj(L)). Ta różnica między obserwowaniem i wykonywaniem ma podstawowe znaczenie i wyjaśnia, dlaczego zmniejszania się odczytów barometru nie uważamy za przyczynę nadchodzącej burzy. Obserwacja zmniejszania się odczytów barometru zwiększa prawdopodobieństwo wystąpienia burzy, ale manipulowanie barometrem tak, aby pokazywał niższe wartości, nie będzie miało wpływu na to prawdopodobieństwo.
Niedostrzeganie różnicy między obserwowaniem i wykonywaniem zrodziło różne paradoksy, z których wiele omówimy w tej książce. Świat pozbawiony P(D | wykonaj(L)), a rządzony wyłącznie przez P(D | L) byłby naprawdę dziwnym miejscem. Na przykład pacjenci nie chodziliby do lekarza, by zmniejszyć prawdopodobieństwo zachorowania; miasta likwidowałyby straż pożarną, by zmniejszyć częstość pożarów; lekarze przepisywaliby lekarstwa pacjentom płci męskiej lub żeńskiej, ale nie pacjentom o nieznanej płci. Trudno uwierzyć, że trzy dekady temu nauka musiała funkcjonować w takim świecie: nie istniał operator wykonaj.
Jednym z głównych osiągnięć Rewolucji Przyczynowej było wyjaśnienie, jak można przewidywać skutki interwencji bez jej przeprowadzania. Byłoby to niemożliwe, gdybyśmy nie zdefiniowali operatora wykonaj, który pozwala na zadanie właściwego pytania, a ponadto gdybyśmy nie odkryli sposobu jego symulacji za pomocą nieinwazyjnych środków.
Gdy pytanie naukowe wymaga myślenia retrospektywnego, posługujemy się innego rodzaju środkiem właściwym rozumowaniu przyczynowemu: tak zwanym wyrażeniem kontrfaktycznym. Przypuśćmy na przykład, że Joe przyjął lekarstwo L i że miesiąc później zmarł. Pytanie dotyczy tego, czy to lekarstwo mogło spowodować śmierć Joego. By na nie odpowiedzieć, musimy sobie wyobrazić scenariusz, w którym zamierza on przyjąć lekarstwo, lecz się rozmyśla. Czy wtedy Joe by przeżył?
Klasyczna statystyka tylko podsumowuje dane, nie dostarcza więc nawet języka pozwalającego na zadanie tego pytania. Wnioskowanie przyczynowe taki język dostarcza, ale przede wszystkim daje rozwiązanie. Podobnie jak przy przewidywaniu skutku interwencji (o czym pisaliśmy wyżej), w wielu sytuacjach możemy symulować ludzkie myślenie retrospektywne za pomocą algorytmu opartego na tym, co wiemy o obserwowanym świecie, i dochodzącego do odpowiedzi odnoszącej się do świata kontrfaktycznego. Ta "algorytmizacja wyrażeń kontrfaktycznych" to jeszcze jeden skarb odkryty przez Rewolucję Przyczynową.
Rozumowanie kontrfaktyczne, dotyczące "gdybania", na pierwszy rzut oka może wydawać się nienaukowe. Przecież obserwacja empiryczna nigdy nie może ani potwierdzić, ani podważyć odpowiedzi na takie pytania. A jednak nasze umysły stale wydają bardzo solidne i powtarzalne sądy o tym, co mogłoby lub mogło było istnieć. Wszyscy na przykład rozumiemy, że gdyby dzisiaj rano kogut nie zapiał, słońce i tak by wzeszło. Zgoda ta wynika z tego, że wyrażenia kontrfaktyczne nie są kaprysem, lecz odzwierciedlają strukturę naszego modelu świata. Dwie osoby, które mają ten sam model przyczynowy, będą dzielić także wszystkie sądy kontrfaktyczne.
Wyrażenia kontrfaktyczne w takim samym stopniu jak myśli naukowe są cegiełkami moralnego postępowania. Zdolność do rozważania przeszłych działań i do wyobrażania sobie alternatywnych scenariuszy stanowi fundament wolnej woli i społecznej odpowiedzialności. Algorytmizacja rozumowań kontrfaktycznych pozwoli myślącym maszynom wykorzystywać tę zdolność i uczestniczyć w tym zastrzeżonym (jak dotąd) wyłącznie dla ludzi sposobie myślenia o świecie.
Wspomnienie o myślących maszynach w poprzednim akapicie było zamierzone. Wnioskowaniem przyczynowym zainteresowałem się jako informatyk zajmujący się sztuczną inteligencją, co oznacza, że pod dwoma względami różnię się od moich kolegów pracujących w tej dziedzinie. Po pierwsze, w świecie AI żadnego zagadnienia naprawdę nie rozumiemy, dopóki nie nauczymy go jakiegoś mechanicznego robota. Dlatego tak często podkreślam rolę należytej notacji, języka, słownika i gramatyki. Na przykład przywiązuję wielką wagę do tego, czy umiem dany sąd wyrazić w pewnym języku lub czy dany sąd wynika z innych sądów. Jest zdumiewające, ile można się nauczyć jedynie dzięki analizie gramatyki wypowiedzi naukowych. Nacisk na język pochodzi u mnie także z głębokiego przeświadczenia, że język kształtuje nasze myśli. Nie da się odpowiedzieć na pytanie, którego nie umie się zadać, a nie można zadać pytania, do którego sformułowania brakuje nam słów. Jako osobę wyszkoloną w filozofii i informatyce pociągało mnie we wnioskowaniu przyczynowym zwłaszcza to, że mogłem obserwować, jak osierocony język naukowy pomyślnie rozwija się od niemowlęctwa po dorosłość.
Znajomość zagadnień uczenia maszynowego dała mi jeszcze inny bodziec do badania przyczynowości. Pod koniec lat osiemdziesiątych uświadomiłem sobie, że niezdolność maszyn do rozumienia związków przyczynowych prawdopodobnie jest największą przeszkodą stojącą na drodze wyposażenia ich w inteligencję dorównującą ludzkiej. W końcowym rozdziale tej książki powrócę do moich korzeni i zbadam następstwa Rewolucji Przyczynowej dla sztucznej inteligencji. Uważam, że silna AI jest celem osiągalnym i że nie musimy jej się obawiać, ponieważ przyczynowość będzie jej niezbywalną częścią. Moduł rozumowania przyczynowego da maszynom zdolność namysłu nad popełnionymi błędami, wyłapywania wad oprogramowania, postępowania jako moralne podmioty oraz dialogowania w naturalny sposób z ludźmi o zamierzeniach i rozstrzygnięciach.
SCHEMAT RZECZYWISTOŚCI
W naszych czasach czytelnicy nie mogli nie spotkać terminów takich jak "wiedza", "informacja", "inteligencja" lub "dane", ale być może niektórzy z nich nie rozumieją, jak mają się one do siebie i co je odróżnia. Teraz zaproponuję dodanie do tego zbioru nowego terminu: "model przyczynowy" i czytelnik słusznie zacznie się zastanawiać, czy nie pogłębi on zamieszania.
Nie pogłębi! W istocie zakotwiczy nieuchwytne pojęcia "nauki", "wiedzy" i "danych" w konkretnym i zrozumiałym kontekście, co pozwoli nam uświadomić sobie, jak cała ta trójka współdziała w wytwarzaniu odpowiedzi na trudne pytania naukowe. Ilustracja I.1 przedstawia schemat "silnika wnioskowania przyczynowego", w który powinna zostać wyposażona przyszła sztuczna inteligencja. Należy jednak zdawać sobie sprawę, że nie jest to tylko projekt na przyszłość, lecz wyjaśnienie, jak modele przyczynowe funkcjonują we współczesnych badaniach naukowych i jak wchodzą w interakcje z danymi.
Silnik wnioskowania to urządzenie przyjmujące na wejściu trzy typy elementów - założenia, zapytania i dane - i oddające na wyjściu inne trzy typy elementów. Pierwszym typem elementów na wyjściu jest rozstrzygnięcie co do tego, czy teoretycznie możliwa jest odpowiedź na postawione zapytanie w ramach modelu przyczynowego i przy założeniu dostępu do doskonałych i nieograniczonych danych. Gdy odpowiedź jest twierdząca, silnik wnioskowania wytwarza tak zwany szacownik. Jest to wzór matematyczny, rodzaj przepisu pozwalającego generować odpowiedzi na podstawie wszelkich dostępnych hipotetycznych danych. Wreszcie po wprowadzeniu danych silnik wnioskowania stosuje przepis do wygenerowania rzeczywistego oszacowania odpowiedzi wraz ze statystyczną oceną niepewności zawartej w oszacowaniu. Niepewność ta odzwierciedla zbyt mały rozmiar zbioru danych, jak również możliwe błędy pomiarowe lub pewne brakujące dane.
Ilustracja I.1. Jak "silnik wnioskowania" dokonuje połączenia danych z wiedzą przyczynową w celu wygenerowania odpowiedzi na zapytanie. Ramka narysowana linią przerywaną nie należy do silnika, jest jednak niezbędna do jego zbudowania. Można by dodać strzałki od ramek 4 i 9 do ramki 1, ale wolałem nie przeładowywać diagramu.
Aby pozwolić na dokładniejsze zrozumienie diagramu, oznaczyłem ramki cyframi od 1 do 9, które skomentuję teraz w kontekście zapytania: "Jaki wpływ ma lekarstwo L na długość życia D?".
1. "Wiedza" oznacza wszelkie ślady pozostawione po uprzednich doświadczeniach podmiotu wnioskującego, w tym minione spostrzeżenia i działania, wykształcenie, zwyczaje społeczne, mające znaczenie dla postawionego zapytania. Narysowanie ramki linią przerywaną ma wskazywać na to, że "wiedza" istnieje w umyśle podmiotu i nie została wyeksplikowana w modelu.
2. Badania naukowe opierają się na założeniach upraszczających, to znaczy stwierdzeniach, które zdaniem badacza zasługują na wyraźne wypowiedzenie na gruncie dostępnej wiedzy. Podczas gdy większa część wiedzy badacza istnieje w jego umyśle, tylko założenia zostają wydobyte na światło dzienne i włączone do modelu. Mogą być wówczas łatwo odczytane z modelu, co niektórych logików skłoniło do wyciągnięcia wniosku, że model to nic więcej jak lista takich założeń. Informatycy nie zgadzają się z tym twierdzeniem i zwracają uwagę, że to, jak są reprezentowane założenia, może mieć wielki wpływ na naszą zdolność poprawnego ich określenia, wyciągania z nich wniosków, a nawet poszerzenia lub dostosowania w świetle faktów.
3. Istnieje wiele sposobów przedstawiania modeli przyczynowych: za pomocą diagramów przyczynowych, równań strukturalnych, twierdzeń logicznych i tak dalej. Osobiście niemal we wszystkich zastosowaniach wybieram diagramy przyczynowe, głównie ze względu na ich przejrzystość, ale też dlatego, że dają wyraźne odpowiedzi na wiele pytań, które mielibyśmy ochotę zadać. Aby skonstruować diagram, wystarczy oprzeć się na prostej, choć trochę metaforycznej definicji przyczynowości: zmienna X jest przyczyną zmiennej Y, jeśli Y "słucha" X i swoją wartość dostosowuje do tego, co słyszy. Jeśli na przykład przypuszczamy, że długość życia D pacjenta "słucha" tego, czy pacjent przyjmuje lekarstwo L, to L nazywamy przyczyną D i w diagramie przyczynowym rysujemy strzałkę od L do D. Oczywiście odpowiedź na pytanie o L i D może zależeć od innych zmiennych, które zatem powinny być także ukazane na diagramie wraz ze swoimi przyczynami i skutkami (będziemy łącznie oznaczać je przez Z).
4. Schemat słuchania opisany przez ścieżki modelu przyczynowego zwykle odzwierciedla obserwowalne zależności w danych. Zależności te nazywamy "wnioskami testowalnymi", gdyż mogą być wykorzystane do testowania modelu. Są to stwierdzenia takie jak: "Między L i D nie występuje ścieżka", co przekłada się na stwierdzenie statystyczne: "L i D są niezależne", czyli L nie zmienia prawdopodobieństwa D. Jeżeli dane okazują się sprzeczne z wnioskiem, jesteśmy zmuszeni zrewidować nasz model. Rewizje takie wymagają użycia innego silnika, który na wejściu przyjmuje treść ramek 4 i 7 oraz oblicza "stopnień dopasowania", czyli w jakim stopniu dane zgadzają się z założeniami modelu. Dla prostoty nie uwzględniłem tego drugiego silnika na ilustracji I.1.
5. Zapytania skierowane do silnika wnioskowania są pytaniami naukowymi, na które chcielibyśmy znać odpowiedź. Muszą zostać sformułowane w języku przyczynowym. Na przykład: Ile równa się P(D | wykonaj(L))? Jednym z najważniejszych osiągnięć Rewolucji Przyczynowej było nadanie temu językowi przejrzystości naukowej i matematycznego rygoru.
6. Szacownik to wielkość statystyczna, której konkretna wartość jest wyznaczona na podstawie danych i która wówczas prawomocnie reprezentuje odpowiedź na zapytanie. Zapisany w postaci wzoru rachunku prawdopodobieństwa - na przykład P(D | L, Z) × P(Z) - szacownik jest w istocie przepisem, według którego powstaje odpowiedź na zapytanie przyczynowe odpowiednio do typu dostępnych danych.
Należy sobie zdawać sprawę z tego, że inaczej niż w tradycyjnym szacowaniu statystycznym niektóre zapytania mogą nie posiadać odpowiedzi w ramach aktualnego modelu przyczynowego, niezależnie od ilości zgromadzonych danych. Na przykład jeżeli w naszym modelu zarówno L, jak i D zależą od pewnej trzeciej zmiennej Z (powiedzmy, zaawansowania choroby) i jeżeli nie umiemy mierzyć Z, to nie jesteśmy w stanie udzielić odpowiedzi na zapytanie P(D | wykonaj(L)). W takim przypadku gromadzenie większej ilości danych byłoby stratą czasu. Zamiast tego powinniśmy nasz model udoskonalić: przez dodanie nowej wiedzy naukowej, która pozwoli na oszacowanie Z, albo przez przyjęcie upraszczającego założenia (narażającego nas na błędy) - na przykład, że wpływ Z na L jest zaniedbywalny.
7. Dane są składnikiem przepisu, którym jest szacownik. Bardzo ważne jest zrozumienie, że dane nie mówią nic o zależnościach przyczynowych, a jedynie o wielkościach takich jak P(D | L) lub P(D | L, Z). Zadaniem szacownika jest przekształcenie tych wielkości statystycznych w jedno wyrażenie, które - zgodnie z założeniami modelu - będzie równoważne logicznie zapytaniu przyczynowemu - powiedzmy, wyrażenie P(D | wykonaj(L)).
Zauważmy, że koncepcja szacownika, a właściwie cała górna część ilustracji I.1, w tradycyjnych metodach analizy statystycznej nie występuje. Szacownik i zapytanie są w nich tym samym. Jeżeli na przykład interesuje nas, jaka część osób o długości życia D przyjmowała lekarstwo L, nasze zapytanie zapisujemy po prostu jako P(L | D). Wielkość ta byłaby naszym szacownikiem. To od razu wskazuje, jakie zależności w danych mają zostać oszacowane, i nie wymaga wiedzy przyczynowej. Dlatego do dzisiaj wielu statystyków ma ogromny kłopot ze zrozumieniem, dlaczego pewna wiedza leży poza dziedziną statystyki i dlaczego same dane nie mogą zapełnić luki wynikającej z niedostatku wiedzy empirycznej.
8. Na końcu dostajemy oszacowanie. Jest ono jednak jedynie przybliżone, co pochodzi z jeszcze innej właściwości autentycznych danych: są skończoną próbką pobraną z teoretycznie nieskończonej populacji. W naszym przykładzie próbkę tworzą pacjenci poddani badaniu. Nawet jeśli dobierzemy ich w sposób losowy, zawsze pozostaje możliwość, że proporcje zmierzone w próbce nie odpowiadają proporcjom w całej populacji. Na szczęście statystyka, wsparta zaawansowanymi technikami uczenia maszynowego, oferuje wiele sposobów radzenia sobie z taką niepewnością - estymatory największego prawdopodobieństwa, propensity scores, przedziały ufności, testy istotności i tak dalej.
9. Ostatecznie - jeśli nasz model jest poprawny, a dane wystarczające - otrzymujemy odpowiedź na zapytanie przyczynowe, na przykład: "Lekarstwo L zwiększa długość życia D pacjentów cierpiących na chorobę cukrzycową Z o 30 procent, plus minus 20 procent". Hurra! Odpowiedź ta przyczyni się do poszerzenia naszej wiedzy empirycznej (ramka 1), a także - w przypadku, gdyby nie wszystko poszło tak, jak zamierzyliśmy - mogłaby podsunąć pewne ulepszenia modelu przyczynowego (ramka 3).
Powyższy schemat z początku może wydać się skomplikowany, rodząc nawet wątpliwości, czy jest niezbędny. W naszym codziennym życiu jakoś nam się udaje wydawać sądy przyczynowe bez świadomego przechodzenia tego złożonego cyklu i na pewno matematyki prawdopodobieństwa czy stosunków ilościowych. Nasza przyczynowa intuicja na ogół wystarcza, abyśmy radzili sobie z niepewnością spotykaną podczas zajęć domowych, a nawet w życiu zawodowym. Jeśli jednak pragniemy bezmyślnego robota nauczyć rozumowania przyczynowego albo jeśli chcemy dokonywać nowych odkryć naukowych, w czym na samej intuicji nie możemy polegać, starannie opracowana procedura taka jak powyżej będzie nieunikniona.
Chciałbym podkreślić, jaką rolę odgrywają dane w tym procesie. Po pierwsze zauważmy, że gromadzimy dane dopiero po opracowaniu modelu przyczynowego, sformułowaniu zapytania naukowego, na które chcemy znać odpowiedź, oraz po wyprowadzeniu szacownika. To kontrastuje z tradycyjnym podejściem w statystyce, w którym nawet nie ma modelu przyczynowego.
Współczesny świat naukowy rzuca jednak nową przeszkodę na drodze zdrowego myślenia o przyczynach i skutkach. Podczas gdy w wielu dziedzinach nauki narasta w szybkim tempie świadomość niezbędnej potrzeby modeli przyczynowych, gros badaczy z zakresu AI pragnęłoby pominąć trudny krok polegający na konstrukcji lub adaptacji modelu przyczynowego i we wszystkich zadaniach poznawczych oprzeć się wyłącznie na danych. Mają nadzieję - obecnie z reguły niewypowiadaną na głos - że dane same ich doprowadzą do poprawnych odpowiedzi na pytania przyczynowe.
Jestem stanowczym przeciwnikiem tej tendencji, mam bowiem świadomość, jak naprawdę głupie są dane, gdy chodzi o przyczyny i skutki. Surowe dane na przykład nie zawierają żadnych informacji o skutkach działań, czyli interwencji, chyba że opieramy się na kontrolowanej manipulacji eksperymentalnej. Jeżeli zaś mamy do dyspozycji model przyczynowy, możemy często przewidywać rezultat interwencji na podstawie czysto obserwacyjnych, wolnych od interwencji danych.
Zalety modeli przyczynowych wydają się jeszcze bardziej oczywiste, gdy chcemy znaleźć odpowiedzi na zapytania kontrfaktyczne, takie jak: "Co by było, gdybyśmy postąpili inaczej?". Będziemy omawiać szczegółowo wyrażenia kontrfaktyczne, gdyż wyrażają one najtrudniejsze dla sztucznej inteligencji zapytania. Legły one także u podstaw postępu poznawczego, który uczynił nas ludźmi, i zdolności umysłowych, które pozwoliły na powstanie nauki. W książce tej wyjaśnimy, że każde zapytanie odnoszące się do procesu wywoływania skutków przez pewne przyczyny - fundamentalne pytanie "dlaczego?" - jest pytaniem kontrfaktycznym w przebraniu. Jeśli zatem chcemy, by kiedyś roboty odpowiadały na pytanie "dlaczego?" lub choćby rozumiały jego sens, musimy je wyposażyć w model przyczynowy i nauczyć je odpowiadania na pytania kontrfaktyczne, jak na ilustracji I.1.
Inną przewagę modeli przyczynowych nad eksploracją danych i uczeniem maszynowym stanowi elastyczność. Przypomnijmy, że według ilustracji I.1 szacownik jest obliczany na podstawie modelu przyczynowego, zanim zostanie dokonana analiza cech konkretnego zestawu danych. Silnikowi wnioskowania przyczynowego daje to wielką elastyczność, ponieważ otrzymany szacownik nadaje się dla wszystkich danych zgodnych z modelem jakościowym, bez względu na zależności liczbowe między zmiennymi.
W celu zrozumienia, dlaczego elastyczność ta ma znaczenie, porównajmy nasz silnik z podmiotem uczącym się wyłącznie na podstawie danych - niech będzie to człowiek, ale mógłby to być także algorytm głębokiego uczenia. Obserwując wynik D dla wielu pacjentów, którym podano lekarstwo L, podmiot ten będzie umiał przewidzieć prawdopodobieństwo, że pacjent o właściwościach Z przeżyje D lat. A teraz przenosimy go do innego szpitala, w innej części miasta, gdzie właściwości populacji (dieta, higiena, nawyki w pracy) są inne. Nawet jeśli nowe właściwości wymagają jedynie modyfikacji zależności liczbowych między zmiennymi, podmiot będzie musiał zacząć naukę od nowa i zbudować nową funkcję umożliwiającą przewidywanie. Program głębokiego uczenia tylko tyle potrafi: dopasowuje funkcję do danych. Natomiast gdyby podmiot posiadał model działania lekarstwa i struktura przyczynowa w nowym miejscu pozostała taka sama, wtedy otrzymany poprzednio szacownik byłby nadal aktualny. Można go zastosować do nowych danych w celu wygenerowania nowej, dostosowanej do populacji funkcji umożliwiającej przewidywanie.
Wiele pytań naukowych wygląda inaczej, kiedy patrzymy na nie przez "soczewkę przyczynową", i przez minione dwadzieścia pięć lat z wielką uciechą bawiłem się tą soczewką, w miarę jak uzyskiwała coraz większą moc na skutek nowych odkryć i narzędzi. Wierzę, że czytelnicy przejmą część tej radości. Dlatego ten wstęp pragnę zakończyć przeglądem czekających na nich atrakcji.
W rozdziale 1 łączę kroki obserwacji, interwencji i wyrażeń kontrfaktycznych w tak zwaną Drabinę Przyczynowości, która jest centralną metaforą tej książki. Czytelnik zapozna się też z podstawami rozumowań za pomocą diagramów przyczynowych - naszego głównego instrumentu modelowania - co będzie pierwszym, ale sporym krokiem do tego, aby stać się sprawnym myślicielem przyczynowym. W istocie czytelnik ma szansę wyprzedzić pokolenia analityków danych, którzy próbowali interpretować dane bez modelu, nie znając rozróżnień zawartych w Drabinie Przyczynowości.
W rozdziale 2 opowiadam osobliwą historię tego, jak statystyka sama przyprawiła się o przyczynową ślepotę, co pociągnęło daleko idące skutki dla wszystkich dyscyplin zależnych od danych. Opowiadam również o jednym z bohaterów tej książki, genetyku Sewallu Wrighcie, który już w latach dwudziestych rysował diagramy przyczynowe i przez wiele dziesięcioleci był jednym z niewielu naukowców mających odwagę brać przyczynowość na poważnie.
Rozdział 3 przedstawia równie szczególną historię tego, jak zostałem wyznawcą przyczynowości dzięki pracy nad sztuczną inteligencją, a dokładniej nad sieciami bayesowskimi. Były to pierwsze narzędzia pozwalające komputerom myśleć w "odcieniach szarości" - i przez pewien czas wierzyłem, że stanowią klucz do sztucznej inteligencji. Pod koniec lat osiemdziesiątych doszedłem jednak do wniosku, że się myliłem, i w tym rozdziale opiszę moją ewolucję od proroka do apostaty. Niemniej sieci bayesowskie są nadal bardzo ważnym narzędziem AI i obejmują znaczną część matematycznego fundamentu diagramów przyczynowych. Oprócz przystępnego, uwzględniającego przyczynowość, wprowadzenia do reguły Bayesa i bayesowskich metod rozumowania, w rozdziale 3 czytelnik znajdzie interesujące przykłady praktycznych zastosowań sieci bayesowskich.
W rozdziale 4 opowiadam o najważniejszym wkładzie statystyki do wnioskowania przyczynowego: tak zwanym randomizowanym badaniu kontrolowanym (RBK). Z przyczynowego punktu widzenia RBK jest stworzonym przez ludzi narzędziem do szukania odpowiedzi na zapytanie P(D | wykonaj(L)), które stanowi właściwość przyrody. Głównym celem tego narzędzia jest oddzielenie interesujących nas zmiennych (powiedzmy, L i D) od pewnych innych zmiennych (Z), które inaczej mogłyby wpływać na te pierwsze. Usunięcie zniekształceń lub "zakłóceń" powodowanych przez ukryte zmienne zawsze było poważnym wyzwaniem. Czytelnik pozna zaskakująco proste rozwiązanie ogólnego problemu zakłóceń, które będzie wymagało zaledwie dziesięciu minut wykreślania ścieżek na diagramie.
Rozdział 5 zdaje sprawę z przełomu w historii przyczynowości, a właściwie historii całej nauki, jakim były zmagania statystyków z pytaniem, czy palenie papierosów jest przyczyną raka płuc. Nie mogąc skorzystać ze swego ulubionego narzędzia - randomizowanego badania kontrolowanego - nie umieli dojść do zgody co do jednoznacznej odpowiedzi, a nawet co do tego, jak należy dokładnie rozumieć samo pytanie. Spór wokół palenia papierosów uświadamia doniosłość zagadnienia przyczynowości. Miliony ludzi musiały umrzeć, gdyż naukowcy nie posiadali właściwego języka lub metodologii, które pozwalałyby odpowiadać na pytania przyczynowe.
Rozdział 6 będzie - mam nadzieję - przyjemnym wytchnieniem dla czytelnika po poważnych zagadnieniach rozdziału 5. Poświęcony jest on następującym paradoksom: Monty'ego Halla, Simpsona, Berksona i paru innym. Klasyczne paradoksy można uważać za łamigłówki, ale mają także poważną stronę, zwłaszcza kiedy patrzymy na nie z przyczynowego punktu widzenia. Prawie każdy opiera się na pewnym konflikcie z naszą przyczynową intuicją i w ten sposób ujawnia anatomię intuicji. Stanowiły one pierwszą oznakę, która powinna była zwrócić uwagę naukowców na to, że intuicja ludzka jest zakorzeniona w logice przyczynowej, a nie statystycznej. Sądzę, że czytelnikowi spodoba się ta nowa odsłona ulubionych paradoksów.
Rozdziały 7, 8 i 9 zabierają czytelnika na wspinaczkę ku szczytowi Drabiny Przyczynowości. Zaczynam w rozdziale 7 od zagadnień związanych z interwencją i opisuję dwudziestoletnie zmagania moje i moich uczniów z automatyzacją odpowiedzi na pytania zawierające operator wykonaj. Nasze wysiłki zostały uwieńczone sukcesem i w rozdziale tym wyjaśnię działanie "silnika wnioskowania przyczynowego", który prowadzi do odpowiedzi TAK/NIE oraz szacownika z ilustracji I.1. Zrozumienie silnika przyczynowego pozwoli czytelnikowi dostrzegać prawidłowości w diagramie przyczynowym, które umożliwiają dawanie natychmiastowych odpowiedzi na zapytania przyczynowe. Prawidłowości te noszą nazwy: dostosowania przez wejście od zaplecza, dostosowania przez wejście frontowe oraz zmiennych instrumentalnych - są to woły robocze wnioskowania przyczynowego w zastosowaniach praktycznych.
W rozdziale 8 wchodzimy na sam szczyt drabiny, omawiając wyrażenia kontrfaktyczne. Są uważane za istotną część przyczynowości co najmniej do 1748 roku, gdy szkocki filozof David Hume sformułował następującą, nieco zagmatwaną definicję przyczynowości: "Możemy zdefiniować przyczynę jako przedmiot, po którym następuje inny, tak że po wszystkich przedmiotach podobnych do tego pierwszego następują przedmioty podobne do tego drugiego. Lub innymi słowy: tak że gdyby pierwszego przedmiotu nie było, drugi nigdy by nie zaistniał"[2]. Zmarły w 2001 roku filozof z Princeton University, David Lewis, zwrócił uwagę, że Hume dał nie jedną definicję, lecz dwie: pierwsza to definicja regularności (po przyczynie stale następuje skutek), a druga to definicja wyrażenia kontrfaktycznego ("gdyby pierwszego przedmiotu nie było..."). O ile filozofowie i naukowcy najbardziej interesują się definicją regularności, zdaniem Lewisa definicja wyrażenia kontrfaktycznego leży bliżej ludzkiej intuicji: "Przyczyna jest dla nas czymś, co stanowi różnicę, a ta w tym przypadku musi odnosić się do tego, co by się działo, gdyby przyczyna się nie pojawiła".
Czytelnicy przyjmą zapewne z radością wiadomość, że umiemy obecnie wyjść poza akademickie dysputy i obliczyć rzeczywistą wartość (czyli prawdopodobieństwo) każdego zapytania kontrfaktycznego niezależnie od stopnia skomplikowania. Szczególnie interesujące pytania dotyczą przyczyn koniecznych i przyczyn dostatecznych obserwowanych zdarzeń. Na przykład jakie jest prawdopodobieństwo, że działania pozwanego były konieczną przyczyną obrażeń doznanych przez powoda? Jakie jest prawdopodobieństwo, że wywołana przez człowieka zmiana klimatu jest dostateczną przyczyną fali upałów?
Wreszcie w rozdziale 9 zajmujemy się mediacją, czyli zapośredniczeniem. Kiedy mówiliśmy o rysowaniu strzałek na diagramach przyczynowych, czytelnik mógł się zastanawiać, czy należałoby narysować strzałkę od lekarstwa L do długości życia D, gdyby lekarstwo wpływało na długość życia za pośrednictwem wpływu na ciśnienie krwi Z (ciśnienie krwi byłoby pośrednikiem[3]). Innymi słowy, czy oddziaływanie L na D zachodzi bezpośrednio czy pośrednio? A jeżeli zachodzi i tak, i tak, to jak możemy oceniać ich względną wagę? Pytania takie nie tylko mają wielkie znaczenie naukowe, ale także pociągają następstwa praktyczne. Jeśli zrozumiemy sposób działania lekarstwa, będziemy mogli opracować nowe leki o takim samym działaniu, ale tańsze lub mające mniej skutków ubocznych. Czytelnik dowie się, jak odwieczne dążenie do zrozumienia zapośredniczonego działania można było sprowadzić do zadania z algebry oraz jak naukowcy używają tego nowego narzędzia przyczynowego do rozwiązywania problemów.
W rozdziale 10, kończącym książkę, powracamy do problemu, poprzez który doszedłem do zagadnienia przyczynowości: automatyzacji wysokiej inteligencji (którą czasami nazywa się "silną sztuczną inteligencją"). Sądzę, że rozumowanie przyczynowe jest niezbędne do tego, by maszyny komunikowały się z nami w naszym własnym języku na takie tematy jak polityka, doświadczenia, wyjaśnienia, teorie, poczucie żalu, odpowiedzialność, wolna wola i powinności - a ostatecznie, aby nauczyły się dokonywać swoich moralnych wyborów.
Gdyby można było podsumować przesłanie tej książki jednym krótkim zdaniem, brzmiałoby ono: jesteśmy mądrzejsi niż nasze dane. Dane nie pojmują przyczyn i skutków - umysł ludzki tak. Ufam, że nowa nauka wnioskowania przyczynowego pozwoli na uchwycenie, jak on tego dokonuje, nie ma bowiem lepszego sposobu na zrozumienie umysłu niż poprzez jego symulację. W erze komputerów nowe zrozumienie da nam również szansę na powiększenie naszych wrodzonych możliwości tak, że będziemy w danych widzieć więcej, bez względu na to, czy będzie ich dużo, czy mało.
