1
Jak zhakować system operacyjny człowieka
Aby zrozumieć, w jaki sposób szarlatani zmieniają ludzi w ich własnych najgorszych wrogów, musimy nieco zboczyć z drogi na krótką wycieczkę do fascynującego, szybko zmieniającego się świata psychologii kognitywnej, nauki o tym, jak ludzie myślą. Z jej odkryć wynika, że pomimo ogromnych zmian technologicznych, jakie zaszły między czasami Mamugni a naszymi, słabe punkty, które wykorzystują współcześni szarlatani, są takie same jak te, które on brał na cel wiele wieków temu. A te słabe punkty są nieodzownym elementem działania naszego mózgu: jesteśmy na nie w zasadzie skazani.
Podobnie jak nowy komputer człowiek zostaje dostarczony na ten świat z "preinstalowanym" w umyśle swego rodzaju kognitywnym systemem operacyjnym, który tworzą schematy myślowe głęboko zakorzenione w samej architekturze mózgu. Nazwaliśmy go w skrócie HumanOS [od ang. Human Operating System]. Jako system operacyjny HumanOS nie przesądza o tym, co myślimy, ale determinuje sposób, w jaki myślimy.
W większości przypadków HumanOS okazuje się świetnym oprogramowaniem: pozwala ludziom dokonywać niewiarygodnych rzeczy, od przeczytania tego zdania, poprzez projektowanie statków kosmicznych, aż po komponowanie symfonii.
Jednakże jak każde oprogramowanie HumanOS ma swoje usterki i słabości - obszary, na których zawodzi tak, że może ci przysporzyć kłopotów. I podobnie jak usterki w kodzie komputerowym mogą zostać zidentyfikowane przez hakera, który następnie zmusza komputer do wykonania czynności nieleżących w interesie jego właściciela, tak samo błędy w HumanOS narażają nas na ataki ze strony osób, które chcą zmienić nasze umysły w broń skierowaną przeciwko nam samym.
W kontekście rozmowy o szarlatanach szczególnie istotne są dwa słabe punkty w HumanOS. Są one wbudowane w architekturę naszego myślenia, więc wszyscy je mamy. Pierwsza z nich to efekt potwierdzenia: nasza skłonność do potwierdzania swoich domysłów zamiast ich falsyfikowania. Jest to uniwersalna cecha ludzkiego myślenia, która ujawnia się najsilniej, gdy zagrożone są nasze najważniejsze przekonania. W takich przypadkach ludzie wykazują mocną tendencję do angażowania się w rozumowanie motywowane: zaczynają od wniosku, na którym im zależy, i wychodząc od niego, szukają powodów, dla których go wyznają.
Drugi zestaw słabych punktów to kwestia mentalności stadnej: naszego instynktownego przekonania, że jeśli wiele osób nam podobnych w coś wierzy, my również powinniśmy. Psychologowie społeczni i spece od marketingu znają to pod nazwą dowodu społecznego: jest to nasza skłonność do zastępowania własnego osądu cudzym. To zaś, jak później zobaczymy, często łączy się z technikami mającymi nas skłonić do niewielkiego zaangażowania w działalność szarlatana, które następnie będzie stopniowo, krok po kroku zwiększane. Takie "drabiny lojalności" niezawodnie sprawiają, że ludzie pozostają oddani szarlatanowi, stając się coraz bardziej entuzjastycznymi uczestnikami własnego wyzysku.
Oczywiście Mamugna nigdy o żadnej z tych kwestii nie słyszał; te terminy zostały ukute setki lat po jego śmierci. To jednak bez znaczenia, ponieważ miał intuicyjne wyczucie ponadczasowych cech ludzkich, które te słowa próbują opisać. Co ważniejsze, miał talent do wykorzystywania słabości przez te cechy wywoływanych. Współcześni szarlatani robią dokładnie to samo, korzystając jednak z nowych, potężnych technologii, które pozwalają im zwiększyć zarówno zasięg działania, jak i szkody, jakie wyrządzają.
Podobnie jak w przypadku szarlatanów wszystkich epok rzemiosło Mamugni, jego sztuka, polegały na przekonywaniu ludzi do rzeczy, w które nie mieli obiektywnego interesu wierzyć. Wiedział, że aby to osiągnąć, musi zdobyć ich zaufanie. Gdy już tego dokonał, nie musiał nikogo zmuszać, żeby dał mu to, czego chciał. Pieniądze, seks, władza... Czcigodni senatorowie Wenecji ustawiali się w kolejce, by mu to wszystko dobrowolnie ofiarować.
Niezależnie od tego, czy działają w sferze religii, polityki, biznesu, zdrowia, dobrego samopoczucia czy czegokolwiek innego, szarlatani budują swoje narracje na podstawie tego samego schematu, swego rodzaju uniwersalnej gramatyki szarlatanerii. Nawiązują głęboką więź ze swoimi ofiarami w oparciu o ich najgłębsze przekonania, o coś, czego prawdziwość jest dla ich ofiar najważniejsza: o ich marzenia.
Ludzie mocno trzymają się swoich marzeń. Szarlatani wiedzą o tym, dlatego wchodzą między ofiary a ich marzenia, przekonując, że tylko oni mogą je spełnić. W ten sposób dokonują rzeczy niezwykłej: zamieniają najgłębsze pragnienia ludzi w broń przeciwko nim.
Aby dokładnie zrozumieć, w jaki sposób to robią, warto przyjrzeć się sposobowi działania naszego umysłu, który wyłania się z wyników badań z zakresu psychologii poznawczej. Pomoże nam to dostrzec, że szarlatani w istocie rzeczy wykorzystują niektóre z najlepiej znanych błędów w sposobie przetwarzania informacji.
USTERKI W HUMANOS
HumanOS to niezwykle potężne oprogramowanie. Pozwala nam na uruchamianie ogromnej liczby "aplikacji" umysłowych, z których każda zaspokaja inne rodzaje ludzkich potrzeb. Większość z nich działa w tle, poza naszą świadomością: HumanOS pozwala nam oddychać, utrzymywać równowagę, a także zapewnia prawidłowe trawienie bez konieczności jakichkolwiek działań z naszej strony. Świadomość pojawia się tylko wtedy, gdy HumanOS uruchamia programy wyższego poziomu, takie jak te, dzięki którym żywimy się i ubieramy, te, które podtrzymują więzi z naszymi rodzinami i społecznościami, oraz te, które nadają sens otaczającemu nas światu.
Ale nawet w tym przypadku większość szczegółów działania systemu operacyjnego jest ukryta przed użytkownikiem: wykonujemy wiele czynności bez świadomości tego, co robimy. I tak jak każdy system operacyjny, HumanOS ma swoje wady. Niektóre rzeczy robi dobrze, a inne źle. Niektóre z tych, które robi źle, wzmagają podatność na ataki złośliwych intruzów: hakerów zdeterminowanych, by użyć twoich zasobów przeciwko tobie.
Skłonności, o których mówimy, nie są chorobą. Nie są niedoskonałością moralną. I nie są czymś wyjątkowym. Są one źródłem systemowych błędów w ludzkim myśleniu, które psychologowie badają od pokoleń. Noszą one nazwę błędów poznawczych, i wszyscy je popełniamy.
Tak, ty też.
Głównym reprezentantem tych skłonności jest tzw. efekt potwierdzenia: nasza tendencja do przetwarzania nowych informacji w sposób zgodny z tym, w co już wierzymy, niezależnie od tego, czy są ku temu dobre powody.
Efekt potwierdzenia to podstawowa cecha ludzkiego myślenia i jedna z najlepiej udokumentowanych skłonności HumanOS. W ciągu ostatnich pięćdziesięciu lat przeprowadzono tysiące badań mających na celu dokładne zrozumienie tego zjawiska. Literatura na ten temat jest obszerna, a wnioski z niej zniuansowane. Podstawowa obserwacja została potwierdzona w wielu różnych okolicznościach: badanie po badaniu wykazywało, że efekt potwierdzenia jest powszechny, a jego wpływ potężny. Efekt potwierdzenia działa nieświadomie czy też raczej przedświadomie, zanim jeszcze zdążymy zastanowić się nad własnymi myślami.
Innymi słowy, odbywa się to na poziomie intuicji.
Jak na spostrzeżenie, które tak wiele wyjaśnia na temat ludzkiego myślenia, efekt potwierdzenia ma dość niezgrabną nazwę. Winne są temu okoliczności jej pierwszego użycia. W 1960 roku brytyjski psycholog kognitywny Peter Wason z University College w Londynie badał wąskie zagadnienie formalne dotyczące strategii stosowanych przez ludzi w celu znalezienia informacji potwierdzających lub obalających daną hipotezę. Przyjrzyjmy się tej pierwszej pracy, obecnie już klasycznej, o niezbyt zachęcającym tytule On the Failure to Eliminate Hypotheses in a Conceptual Task ["O niepowodzeniu w eliminowaniu hipotez w zadaniu koncepcyjnym"]1.
Wason zaprosił do laboratorium grupę studentów, pokazał im prostą sekwencję trzech liczb: 2-4-6 i wyjaśnił, że wywiedziona została z konkretnej reguły. Ich zadaniem było odgadnąć, co to za reguła.
Badani mieli proponować własne sekwencje, a wtedy badacz mówił im, czy są one zgodne z regułą, którą miał na myśli. Uczestnicy mogli zaproponować dowolną liczbę takich trójek, aby zweryfikować swoje domysły. Gdy byli już pewni, że poznali regułę, wypowiadali ją na głos, aby się dowiedzieć, czy mają rację.
Spróbujcie sami! Jaką sekwencję trzech liczb zaproponujecie jako pierwszą, aby sprawdzić, czy jest zgodna z tą samą regułą, co 2-4-6? Prawie wszystkim intuicja podpowiada, że zasada zapewne brzmi: "Dodaj do poprzedniej liczby 2". To całkowicie naturalne.
Później jednak robi się ciekawie. Za każdym razem uczestnicy najpierw próbują sprawdzić swoje domysły, proponując sekwencje takie jak 4-6-8 lub 10-12-14 - czyli również zgodne z regułą, o której myślą. Najwyraźniej ich celem jest uzyskanie od eksperymentatora odpowiedzi twierdzącej. A kiedy ją otrzymają, interpretują ją jako potwierdzenie swojej hipotezy.
W rzeczywistości reguła, którą miał na myśli Wason, to "dowolna sekwencja liczb w porządku rosnącym".
Zatem trójka 4-6-8 jest zgodna z zasadą. Ale to samo dotyczy 4-6-7. I 0-1-894. Jednak mało kto sprawdzał takie sekwencje. Kilku uczestników eksperymentu Wasona wpadło na pomysł, że reguła może brzmieć: "wielokrotność liczby podstawowej". Potem jednak proponowali sekwencje zgodne z tym, co podsunęła im intuicja, takie jak 3-6-9 lub 4-8-12. Oni również najpierw szukali dowodów potwierdzających słuszność swoich domysłów, wykorzystując, jak nazwał to Wason, "indukcję enumeracyjną" - czyli po prostu testując coraz to nowe sekwencje zgodne z pierwszą zasadą, której się domyślali.
Dlaczego jest to problem? Dla logika indukcja enumeracyjna jest bardzo kiepską strategią sprawdzania słuszności swoich domysłów. Rozsądny sposób na weryfikację hipotezy "+2" to na przykład taka sekwencja jak 2-4-5. Jeśli zaproponujesz 2-4-5 i dowiesz się, że również jest zgodna z nieznaną regułą, możesz jednoznacznie odrzucić hipotezę, którą wcześniej intuicyjnie przyjąłeś.
Jak wykazał filozof Karl Popper, szukanie kolejnych potwierdzeń nigdy nie doprowadzi do udowodnienia słuszności hipotezy2. Rozumowanie naukowe polega na falsyfikowaniu tez błędnych, a nie potwierdzaniu słusznych. Sekwencja 2-4-5 jednoznacznie falsyfikuje hipotezę "+2", podczas gdy 4-6-8 - nie. Naukowiec testuje hipotezy, próbując je podważyć. Wason uświadomił sobie, że w prawdziwym świecie praktycznie nikt nie weryfikuje swoich domysłów w sposób, w jaki według Poppera powinno się to robić.
HumanOS nie radzi sobie z rozumowaniem naukowym. Kiedy ludzie próbują udowodnić hipotezę, instynkt podpowiada im, aby spróbować ją potwierdzić, nie podważyć. Ten problem może się wydawać abstrakcyjny, ale wcale taki nie jest, ponieważ nasze błędne intuicje odnośnie do sposobu testowania hipotez dają opłakane skutki: ludzie, którzy są przekonani, że myślą logicznie, nagminnie pogłębiają tylko swoją wiarę we wnioski, które są po prostu błędne.
Przez siedemdziesiąt lat, które minęły od badań Wasona, psychologowie przeprowadzili tysiące eksperymentów, aby dogłębnie zrozumieć ten mechanizm. Podłączali badanych do zaawansowanej aparatury do obrazowania mózgu, żeby sprawdzić, które obszary się aktywują, gdy ci próbują oceniać materiał dowodowy. Szczegóły zadania modyfikowano na wiele różnych sposobów. Jeden z badaczy, który przeanalizował duży zbiór badań zainspirowanych pierwotnym pomysłem Wasona, podsumował swoje ustalenia tak: "Mnogość dowodów empirycznych poświadcza tezę, że efekt potwierdzenia to zjawisko powszechne i silne oraz że przejawia się na wiele sposobów. Oparcie w dowodach ma również pogląd, że kiedy raz zajmiemy stanowisko w danej sprawie, naszym głównym celem staje się jego obrona lub uzasadnienie. Oznacza to, że nawet wówczas, gdy przed zajęciem stanowiska ktoś oceniał materiał dowodowy w sposób bezstronny, po jego zajęciu może stać się bardzo stronniczy"3.
Kiedy ludzie po raz pierwszy słyszą o efekcie potwierdzenia, zazwyczaj postrzegają go jako zwykłą pomyłkę popełnianą podczas oceny dowodów. Jest to niewłaściwa perspektywa. Błąd poznawczy to nie pomyłka. Z pomyłką mamy do czynienia wówczas, gdy podjąwszy wysiłek rozwiązania problemu, dochodzimy do niewłaściwej odpowiedzi. Stronniczość nie wymaga żadnego wysiłku. Tym, co sprawia, że usterki w systemie HumanOS są tak przydatne dla wrogich intruzów, jest ich nieświadomy charakter: są bowiem osadzone w procesach działających w tle. Innymi słowy, robimy coś, ale nie jesteśmy świadomi, że to robimy.
W 2002 roku Daniel Kahneman otrzymał Nagrodę Banku Szwecji im. Alfreda Nobla w dziedzinie ekonomii za swoje spostrzeżenia dotyczące niektórych implikacji efektu potwierdzenia. Chcąc wyjaśnić światu swoje odkrycia, powiedział, że istnieje pewna regularność w źródłach wielu takich błędów: są one wynikiem "szybkiego myślenia"4.
Kiedy pokazaliśmy ci sekwencję 2-4-6 i poprosiliśmy o wymyślenie reguły, z której mogłaby ona zostać wywiedziona, najprawdopodobniej od razu przyszła ci do głowy reguła "+2".
Pojawiła się w mgnieniu oka.
Nie doszedłeś do tego wniosku poprzez skrupulatne rozważenie dowodów; twój domysł w ogóle nie był wynikiem świadomego rozumowania. To właśnie mamy na myśli, mówiąc o "intuicji" - idee, które pojawiają się w naszych głowach, zdawać by się mogło, same z siebie. Zanim zdążymy się nad nimi świadomie zastanowić.
Oczywiście intuicja tylko wydaje się błyskawiczna. W rzeczywistości musi upłynąć nieco czasu, zanim będziesz w stanie ją sformułować. Dzięki badaniom w laboratorium naukowcy zaczynają rozumieć, co dokładnie dzieje się w tym ułamku sekundy, który jest nam potrzebny do sformułowania domysłu. Konkretna kolejność zdarzeń zachodzących w ludzkim umyśle w ciągu czterech dziesiątych sekundy po wystawieniu na działanie nowego bodźca jest przedmiotem intensywnych badań naukowych5. Wzorzec ten - od rozpoznania bodźca do poszukiwania bliskich skojarzeń emocjonalnych - przebiega szybciej niż nasz najszybszy proces myślowy. Odczucia wywołane przez bodziec są dostępne dla naszej świadomości, jeszcze zanim pojawi się pierwsza myśl na jego temat.
Wyniki uzyskane w badaniach są zaskakujące. Pierwszy etap tego procesu trwa zaledwie dwieście milisekund - jedną piątą sekundy. W tym czasie porównujemy nowy bodziec z naszymi emocjonalnie ważkimi skojarzeniami. Rezultatem tego porównania nie jest jednak myśl, lecz intuicyjne odczucie.
Wszystko to trwa znacznie krócej niż czas potrzebny do sformułowania świadomej myśli. Choć może się to wydawać niezwykłe, badania pokazują, że wiemy, jakie odczucia budzi w nas nowa idea, zanim dowiemy się, co na jej temat myślimy.
Mając do dyspozycji jeszcze sekundę lub dwie, znajdujemy też argumenty, które wspierają nasze odczucia. Jednak argumenty te pojawiają się dopiero po odczuciu. Ich rolą jest uzasadnienie i obrona wniosku, do którego doszliśmy, zanim jeszcze zaczęliśmy myśleć. Nasze rozumowanie ma charakter racjonalizacji znacznie częściej, niż jesteśmy gotowi sami przed sobą przyznać.
Znajomość konsekwencji tej usterki jest pierwszym kluczem do zrozumienia, w jaki sposób szarlatani zdobywają zaufanie swoich ofiar.
Szarlatani wiedzą, że ludzie zawsze są skłonni akceptować dowody potwierdzające ich przekonania - ba, nie są w stanie się temu oprzeć. Dlatego nigdy nie próbują oni zmieniać przekonań swoich ofiar. Perswazja nie wchodzi w grę.
Zamiast tego szarlatani wykorzystują to, w co już wierzą ich ofiary, i wielokrotnie potwierdzają ich przekonania. Postępując w ten sposób, zdobywają ich zaufanie.
A wszystko to dzieje się, zanim jeszcze zdążymy pomyśleć.
ROZUMOWANIE MOTYWOWANE
Efekt potwierdzenia to nie tyle pojedyncza podatność systemu HumanOS, ile cała ich grupa - chociaż psychologowie wyodrębnili dziesiątki błędów poznawczych, niektórzy badacze twierdzą, że wszystkie one dadzą się sprowadzić do "połączenia fundamentalnego, powziętego a priori przekonania i ludzkiej skłonności do przetwarzania informacji w sposób zgodny ze swymi przekonaniami" - inaczej mówiąc, że każdy błąd poznawczy okazuje się pewną odmianą efektu potwierdzenia6.
Setki badań pokazują, że nawet tam, gdzie nikt nie przywiązuje większej wagi do prawdziwej odpowiedzi, ludzie mają silną skłonność do przetwarzania nowych informacji w sposób zgodny z wcześniejszymi przekonaniami. A kiedy wyjdziemy ze sfery abstrakcji i zapytamy ludzi o sprawy, na których osobiście im zależy, ta tendencja staje się znacznie bardziej wyraźna.
Efekt potwierdzenia zdaje się wręcz zoptymalizowany do działania w kontekście spraw, na których naprawdę nam zależy. Eksperymenty laboratoryjne pokazują, że silne uczucia "pojawiają się automatycznie w ciągu kilku milisekund od ekspozycji na znany obiekt lub wydarzenie o charakterze społeczno-politycznym"7.
Te niemal natychmiastowe, intuicyjne uczucia są tym silniejsze, im silniejszy będzie wydźwięk emocjonalny danego obiektu, a nabierają szczególnej mocy, gdy chodzi o te przekonania, które są nam najdroższe. Efekt potwierdzenia ulega potężnemu wzmocnieniu, kiedy mamy do czynienia z naszymi marzeniami.
Szarlatani o tym wiedzą i bezlitośnie to wykorzystują.
Kiedy w grę wchodzi zaangażowanie emocjonalne, ludzie mają silną motywację do przetwarzania nowych informacji w sposób, który pozwoli im zachować swoje wcześniejsze przekonania. Dlatego psychologowie mówią o rozumowaniu motywowanym - takim, które niejako działa wstecz; zaczynamy od pożądanego wniosku i on dopiero motywuje nas do poszukiwania powodów, dla których rzekomo do niego doszliśmy.
W tej interpretacji HumanOS nasz rozum nie wypada zbyt rozumnie, ale badania jednoznacznie pokazują, co się dzieje, gdy próbujemy myśleć na tematy motywowane emocjonalnie lub politycznie. Zamiast przewodzić, rozum staje się "potakiwaczem" dla intuicji. Według Jonathana Haidta działa on wówczas jak "rzecznik prasowy naszych domysłów"; i podobnie jak każdy dobry rzecznik ma za zadanie wyszukiwać dowody, w których świetle szef wypada najlepiej. Ster dzierży intuicja, rozum zaś wkracza później, żeby wyjaśnić, dlaczego od początku miała ona rację8.
Z łatwością - wręcz bez wysiłku - umiemy wymyślić powody, dla których nasze domysły muszą być słuszne, bolesne i trudne jest natomiast wzięcie pod uwagę możliwości, że możemy się mylić. Zakwestionowanie podszeptów intuicji wymaga tego, co Daniel Kahneman nazywa "wolnym myśleniem": celowego działania mającego kwestionować naszą intuicję, zamiast jej ulegać. Wolne myślenie wymaga wysiłku. To ciężka praca. Jeśli zaś chodzi o celowe poszukiwanie dowodów na podważenie własnych przekonań, ludzie odbierają to jako coś wręcz bolesnego.
Szybkie myślenie nigdy nie sprawia dyskomfortu. Jest intuicyjne, automatyczne, nie wymaga wysiłku i - co najważniejsze - pozostaje poza naszą świadomą kontrolą. Ta właśnie automatyczność zdaje się źródłem jego niebywałej mocy prowadzenia nas na manowce i sprawiania, że tam utykamy.
Jak się okazuje, aby wykorzystać moc szybkiego myślenia do swoich celów, szarlatan musi jedynie opowiedzieć się po stronie naszych marzeń. Odważnie i z pasją powiedzieć nam, że mogą się one spełnić i że się spełnią. Ze względu na skłonność do potwierdzania własnych przekonań obdarzamy zaufaniem ludzi, którzy to robią, zanim jeszcze do końca zrozumiemy dlaczego, zatem odzwierciedlanie marzeń ofiary to pierwszy krok w repertuarze każdego szarlatana.
Rozumowanie motywowane to "centralna koncepcja teoretyczna w dyskursie akademickim w dziedzinie psychologii, nauk politycznych i komunikacji masowej"9. Kiedy pojawiają się drażliwe tematy, niezawodnie wpadamy w sidła rozumowania motywowanego na wiele sposobów: "Badania psychologiczne konsekwentnie pokazują, że [ludziom] łatwiej jest wyszukiwać dowody potwierdzające to, co chcą uznać za prawdę, niż takie, które potwierdzają coś, co chcą uznać za fałsz"10. Ludzie interpretują również przedstawione im dowody w sposób stronniczy, aby potwierdzić preferowany przez siebie wniosek. W obliczu tezy, z którą chcą się zgodzić, mają skłonność do pytania: "Czy mogę w to uwierzyć?". Oczywiście, jak zauważają Nicholas Epley i Thomas Gilovich: "Ten standard dowodowy jest raczej łatwy do spełnienia; bądź co bądź nawet na bardzo wątpliwe tezy zazwyczaj można znaleźć jakieś dowody"11.
Z kolei w obliczu tezy, którą woleliby uznać za fałszywą, ludzie zadają sobie pytanie: ""Czy muszę w to uwierzyć?". Ten standard dowodowy jest trudniejszy; w końcu dla prawie każdej tezy można znaleźć jakieś dowody, które jej przeczą"12.
To, co okazuje się prawdziwe w odniesieniu do idei społecznych i moralnych, działa jeszcze mocniej, gdy zapytamy ludzi o ich najgłębsze przekonania, o ich marzenia. Tu efekt potwierdzenia tak nas przytłacza, że stajemy się ślepi na nieścisłości, które biją w oczy każdego, kto nie podziela tych konkretnych marzeń.
Staje się zatem zrozumiałe, dlaczego, wbrew pozorom, efekt potwierdzenia i rozumowanie motywowane to nie drobne usterki techniczne w systemie operacyjnym człowieka, lecz najistotniejsze słabe punkty, które mogą wykorzystać szarlatani. Te błędy poznawcze sprawiają, że jesteśmy podatni na błędy systemowe - bynajmniej nie błahostki, lecz poważne, rujnujące życie pomyłki, do których szarlatani nas przekonują raz za razem.
Literatura na temat rozumowania motywowanego jest prawie tak obszerna jak ta dotycząca efektu potwierdzenia - i równie przygnębiająca. Błędy spowodowane rozumowaniem motywowanym są nie tylko powszechne, lecz także bardzo poważne. Można je wywoływać, nastawiając ludzi na to, by myśleli w określony sposób. Im mocniej podkreślasz zakorzenienie danej idei w tożsamości danej osoby, tym silniejszy zdaje się ten efekt.
W przełomowym badaniu z 1979 roku naukowcy zapytali studentów Stanford University, czy są zwolennikami kary śmierci, czy też jej przeciwnikami13. Następnie pokazywali badanym jeden z dwóch artykułów - oba były sfałszowane - z których pierwszy zdawał się przedstawiać dowody potwierdzające skuteczność kary śmierci, drugi zaś sugerował, że nie ma ona większego wpływu na przestępczość. Studenci niezmiennie uznawali artykuł potwierdzający ich przekonania za przekonujący, mocny i trafny. Z kolei w badaniu, które było sprzeczne z ich przekonaniami, doszukiwali się najrozmaitszych błędów. Badacze doszli do wniosku, że badani "są skłonni akceptować bez zastanowienia dowody potwierdzające ich przekonania, natomiast poddają krytycznej ocenie dowody je podważające, w wyniku czego wywodzą nieuzasadnione poparcie dla swego pierwotnego stanowiska z wyników badań empirycznych, które są nierozstrzygające lub przypadkowe".
Co gorsza, pod koniec eksperymentu studenci, którym pokazano wyniki badań sprzeczne z ich wcześniejszymi przekonaniami, twierdzili, że są bardziej pewni swoich pierwotnych przekonań niż na początku... Tak jakby zetknięcie się z dowodami zaprzeczającymi ich opiniom jeszcze bardziej ich w nich utwierdziło. Odkrycie to stało się znane jako backfire effect i zapoczątkowało własną literaturę przedmiotu14.
Im bardziej ludzie myślą w kategoriach politycznych, tym ten efekt staje się silniejszy. Na przykład jeśli najpierw poprosi się amerykańskich republikanów, żeby pomyśleli o swojej tożsamości partyjnej, ich późniejsza ocena ustawy o przystępnej cenowo opiece zdrowotnej (lepiej znanej jako Obamacare) będzie znacznie bardziej negatywna niż wtedy, gdy najpierw poprosi się ich o zastanowienie się nad kwestiami zdrowotnymi15.
Sami politycy też są podatni na ten efekt: badanie przeprowadzone w Danii wykazało, że trzymają się oni swoich dotychczasowych przekonań równie mocno jak ludzie, którzy ich wybierają. Co gorsza, im więcej informacji otrzymują, tym mocniej są przekonani o prawdziwości tego, w co wierzyli dotąd16.
Nie potrzeba jednak stosu artykułów naukowych, żeby się o tym przekonać. Wystarczy nieco introspekcji. Cierpimy, widząc, że prawdy, na których zbudowaliśmy swoją tożsamość, są profanowane. Odczuwamy to jako osobisty atak, krzywdę. To boli. A nasza instynktowna reakcja to walka.
Dotyczy to zwłaszcza sytuacji, gdy nasze poczucie tożsamości wynika z poczucia przynależności do społeczności ludzi, którzy podzielają dane przekonanie - jest to jeden z powodów, dla których wielu szarlatanów opisanych w tej książce balansuje na granicy sekciarstwa. Ludzie cenią sobie poczucie przynależności do zżytej grupy o podobnych poglądach.
Rozumowanie motywowane jest zakorzenione w naszej tożsamości. Im silniej tożsamość danej osoby jest powiązana z danym twierdzeniem, tym silniejszy jest wpływ rozumowania motywowanego i tym większą szansę stwarza to dla szarlatana.
Ludzie uwielbiają, gdy ktoś broni ich marzeń, ponieważ lubią być świadkami afirmacji własnej tożsamości. Nic nie brzmi tak przekonująco jak słowa kogoś, kto mówi nam, że prawdy leżące u jej podstaw są istotne i słuszne. To właśnie dlatego firmy zajmujące się mediami społecznościowymi, które mają silną motywację finansową, aby skupiać nasze spojrzenia na swoich profilach, wiedzą, że muszą afirmować nasze marzenia i dostarczać nam treści, które potwierdzają nasze najcenniejsze przekonania.
Łatwo dajemy się na to nabrać.
A oni to zauważyli.
Efekt potwierdzenia i rozumowanie motywowane to słabe punkty systemu operacyjnego człowieka, które mają tragiczne konsekwencje w prawdziwym świecie. Jak mogą one być poważne, stanie się jasne po przeczytaniu o przypadkach, które omówimy na kolejnych stronach. Zjawiska te są tak istotne, że wkrótce nauczysz się postrzegać je jako coś więcej niż tylko usterki kognitywne, błędy w systemie HumanOS. Lepiej traktować je jako mechanizm obronny, który stosujemy, by chronić nasze poczucie tożsamości: najgłębszą, fundamentalną wizję tego, kim sami jesteśmy i jak działa otaczający nas świat.
zapraszamy do zakupu pełnej wersji.