29.99 zł
Reflow text when sidebars are open.
Dostajesz wiadomość od znajomego. "Widziałeś to?". Otwierasz film. Znany polityk mówi coś kompletnie absurdalnego. Albo aktor reklamuje inwestycję, dzięki której podobno każdy może zarabiać kilka tysięcy tygodniowo, wystarczy wpłacić skromne 999 złotych i najwyraźniej nie zadawać żadnych pytań. Głos brzmi prawidłowo. Twarz wygląda prawidłowo. Usta poruszają się we właściwym rytmie. Nawet charakterystyczne zmarszczki robią mniej więcej to, co powinny.
Patrzysz jeszcze raz.
No przecież mówi.
Pięć lat temu prawdopodobnie uznałbyś, że skoro istnieje nagranie, to sprawa jest jasna. Obraz był dowodem. Film był jeszcze lepszym dowodem. Nagranie głosu? Proszę bardzo, zamykamy śledztwo, dziękujemy wszystkim za udział. Dzisiaj sytuacja wygląda trochę inaczej. Masz film, dźwięk, zdjęcie i nadal możesz znajdować się dokładnie w tym samym miejscu co człowiek, któremu ktoś powiedział: "Mój kuzyn pracuje w urzędzie i mówił, że od przyszłego tygodnia zamykają internet".
Czyli właściwie nigdzie.
Problem nie polega na tym, że internet nagle zaczął kłamać. Internet kłamał, odkąd pierwszy człowiek odkrył, że może napisać "lekarze go nienawidzą" nad zdjęciem dziwnego owocu i nikt nie przyjdzie do niego do domu z komisją kontrolną. Zmieniła się jakość podróbki. Kiedyś fałszywe zdjęcie mogło wyglądać jak efekt piętnastu minut pracy człowieka, który właśnie odkrył Photoshopa i zamierza wykorzystać wszystkie dostępne filtry jednocześnie. Dzisiaj wygenerowany obraz potrafi być piękny, realistyczny, szczegółowy i przekonujący.
Czyli dokładnie taki, jaki nie powinien być, jeśli liczyłeś na łatwe życie.
Sztuczna inteligencja potrafi tworzyć twarze osób, które nigdy nie istniały. Może imitować głos, zmieniać wypowiedzi na filmie, generować sceny wyglądające jak fotografia reporterska, produkować fałszywe dokumenty i tworzyć materiały, które przy pierwszym spojrzeniu nie mają żadnego obowiązku wyglądać podejrzanie. Jednocześnie zwykłe narzędzia do edycji obrazu są prostsze niż kiedykolwiek. Nie trzeba już być grafikiem, montażystą i czarodziejem trzeciego poziomu Photoshopa. Wystarczy urządzenie, kilka minut i odpowiednia aplikacja.
To oczywiście nie oznacza, że od tej chwili wszystko jest fałszywe.
I właśnie tutaj zaczyna się drugi problem.
Kiedy ludzie odkrywają, że obrazu można już łatwo podrobić, pojawia się pokusa, by przyjąć bardzo wygodną zasadę: niczemu nie wierzę. Film pokazuje coś, czego nie lubię? AI. Zdjęcie jest niewygodne? Photoshop. Nagranie kompromituje kogoś, komu kibicuję? Deepfake. W ten sposób technologia, która pozwala tworzyć fałszywe dowody, daje nam również fantastyczne narzędzie do ignorowania dowodów prawdziwych.
Idealnie.
Najpierw nie wiadomo, czy można wierzyć temu, co widzimy.
Potem każdy może powiedzieć, że nie wierzy temu, czego nie chce widzieć.
Witamy w epoce informacyjnej, w której nawet rzeczywistość musi mieć dział PR.
Dlatego ta książka nie będzie próbowała nauczyć cię rozpoznawania każdej fałszywej fotografii po liczbie palców. Ta metoda przez chwilę była bardzo popularna. "Sprawdź dłonie!" - radził internet, ponieważ generatory rzeczywiście miały z nimi spore problemy. Człowiek na obrazku mógł wyglądać jak model, fotografię oświetlało zachodzące słońce, a ręka przypominała projekt studenta biologii, który nigdy wcześniej nie widział ręki. Było łatwo.
Technologia dostała jednak tę notatkę.
Podobnie jest z wieloma innymi "niezawodnymi oznakami AI". Dziwne zęby, rozmazane napisy, asymetryczne okulary, podejrzane uszy, światło zachowujące się jak po dwóch drinkach. Wszystkie mogą być sygnałem. Żaden nie jest magicznym wykrywaczem prawdy. Im lepsze stają się narzędzia, tym mniej sensowne jest budowanie całego bezpieczeństwa na zasadzie: "Jeżeli palec wygląda dziwnie, to robot".
To trochę jak zabezpieczanie mieszkania przed włamywaczem poprzez sprawdzanie, czy ma pasiastą koszulkę i worek z napisem "ŁUP".
Potrzebujemy czegoś lepszego.
Najważniejsza zmiana nie dotyczy oczu. Dotyczy sposobu myślenia. W świecie łatwych manipulacji nie wystarczy już pytać: "Czy to wygląda prawdziwie?". Trzeba częściej pytać: "Skąd to pochodzi?", "Kto opublikował materiał jako pierwszy?", "Czy istnieją inne niezależne źródła?", "Czy pokazano mi pełny kontekst?", "Czy ktoś próbuje wywołać we mnie tak silną reakcję, żebym udostępnił to szybciej, niż pomyślę?".
Ten ostatni punkt jest szczególnie interesujący, ponieważ fałszywe treści nie muszą pokonać twojej inteligencji.
Wystarczy, że pokonają twój refleks.
Widzisz coś oburzającego. Klik. Wysyłasz. Widzisz coś przerażającego. Klik. Rodzinna grupa na WhatsAppie właśnie dostała materiał dowodowy. Widzisz nagranie potwierdzające dokładnie to, co od dawna podejrzewałeś. Klik. Witaj, dopamino. Dziękujemy za współpracę.
Najbardziej skuteczna dezinformacja rzadko podchodzi do człowieka i mówi: "Dzień dobry, mam kompletnie absurdalną historię, w którą proszę uwierzyć". Znacznie częściej mówi: "Wiedziałeś, że coś tu nie gra". Potwierdza wcześniejsze przekonanie, wzmacnia strach, podkręca złość albo oferuje sensację tak atrakcyjną, że rozsądek przez chwilę siedzi w poczekalni i przegląda stare gazety.
Dlatego będziemy zajmować się nie tylko samymi deepfake'ami. Przyjrzymy się również wygenerowanym zdjęciom, fałszywym nagraniom głosowym, przerobionym filmom, wyrwanym z kontekstu prawdziwym materiałom, fikcyjnym zrzutom ekranu, podszywaniu się pod ludzi i coraz bardziej przekonującym oszustwom. Bo czasami największym problemem nie będzie obraz stworzony od zera. Będzie nim prawdziwy obraz podpisany fałszywym opisem.
Zdjęcie może być autentyczne.
Tylko że z innego kraju.
Z innego roku.
Z innego wydarzenia.
A internet właśnie wsadził mu nowe życie jak kurtkę po starszym bracie.
Nie chodzi jednak o to, żebyś po przeczytaniu tej książki zamienił się w cyfrowego detektywa, który przed obejrzeniem zdjęcia śniadania znajomego sprawdza metadane, pogodę satelitarną i kierunek padania cienia na maselniczkę. Celem nie jest paranoja. Paranoja jest równie mało użyteczna jak naiwność, tylko zużywa znacznie więcej energii.
Chodzi o wypracowanie prostego systemu.
Nie każda treść wymaga śledztwa. Zdjęcie kota w kartonie może prawdopodobnie przejść bez międzynarodowej weryfikacji. Jeśli jednak materiał ma wpływać na twoje pieniądze, bezpieczeństwo, decyzje, opinię o człowieku albo zachęcić cię do natychmiastowego działania, warto podnieść poziom ostrożności.
Im większe konsekwencje, tym wyższy standard dowodu.
To jedna z najważniejszych zasad tej książki.
Jeżeli ktoś przesyła ci zabawne zdjęcie papieża na deskorolce, możesz wzruszyć ramionami. Jeżeli ktoś przesyła nagranie twojego szefa proszącego o pilny przelew, sytuacja wymaga czegoś więcej niż wzruszenia ramionami i odpowiedzi "OK". Zwłaszcza jeżeli szef zaczyna rozmowę od "nie mogę teraz rozmawiać telefonicznie".
W takim momencie właśnie rozmowa telefoniczna staje się wyjątkowo interesującym pomysłem.
Nauczysz się więc przede wszystkim zwalniać dokładnie tam, gdzie oszust, manipulator albo zwykły internetowy chaos chce, żebyś przyspieszył. Zobaczysz, które sygnały powinny podnosić czujność, jak sprawdzać pochodzenie materiałów, kiedy warto szukać drugiego źródła, dlaczego zrzut ekranu jest wyjątkowo słabym świadkiem oraz jak reagować, gdy fałszywa treść dotyczy ciebie lub kogoś bliskiego.
Będziemy też rozmawiać o tym, czego nie robić.
Nie staniesz się bezpieczniejszy tylko dlatego, że zainstalujesz siedem "detektorów AI" i będziesz wrzucał do nich każde zdjęcie. Narzędzia mogą pomagać, ale same również potrafią się mylić. Nie wystarczy też wejść w komentarze, ponieważ tłum internetowych specjalistów potrafi z pełnym przekonaniem ustalić, że materiał jest jednocześnie prawdziwy, fałszywy, stary, nowy i prawdopodobnie wykonany na zlecenie CIA.
Komentarze są niezwykłym miejscem.
Można wejść po odpowiedź i wyjść z sześcioma nowymi pytaniami oraz człowiekiem o pseudonimie "Prawda_77", który właśnie wyjaśnił całą geopolitykę przy pomocy trzech emotikonów.
Nie będziemy także udawać, że istnieje metoda zapewniająca stuprocentową pewność. Czasami po prostu nie będziesz wiedzieć. I to też jest odpowiedź. "Nie wiem, czy to prawdziwe" jest znacznie dojrzalszym stanowiskiem niż "na pewno prawdziwe" albo "na pewno AI", jeśli dowody są słabe.
Internet bardzo lubi pewność.
Rzeczywistość znacznie częściej korzysta z wersji roboczej.
Najważniejsza umiejętność najbliższych lat może więc okazać się zaskakująco mało technologiczna. Nie będzie nią rozpoznawanie każdej manipulacji w sekundę. Będzie nią zdolność powiedzenia sobie: "Nie wiem jeszcze. Sprawdzę, zanim uwierzę albo podam dalej".
Kilka sekund przerwy.
Jedno dodatkowe źródło.
Czasem jeden telefon.
Nie brzmi spektakularnie. Nie wymaga okularów rozszerzonej rzeczywistości ani czerwonego pokoju z sześcioma monitorami.
Ale działa znacznie lepiej niż wpatrywanie się przez dziesięć minut w ucho człowieka na zdjęciu i zastanawianie się, czy wygląda wystarczająco biologicznie.
Bo w epoce, w której można podrobić niemal wszystko, nie musisz być człowiekiem, którego nie da się oszukać.
Wystarczy, że coraz trudniej będzie cię oszukać szybko.
I od tego zaczniemy.
Prospekt i zasady serii zastosowane zgodnie z przesłanym materiałem.
Widzisz zdjęcie. Na zdjęciu płonie budynek. Ludzie stoją na ulicy, ktoś biegnie, ktoś nagrywa telefonem, w tle jest samochód strażacki. Obraz wygląda tak przekonująco, że twój mózg wykonuje swoją standardową procedurę: przyjmuje materiał do wiadomości, dopisuje emocję i przechodzi dalej.
Problem w tym, że budynek nie istnieje.
Strażacy nie istnieją.
Ulica też nie.
A człowiek, który właśnie biegnie w stronę płomieni, ma prawdopodobnie równie bogatą historię życia jak tost.
Jeszcze niedawno fotografia miała szczególną pozycję. Mogła być zmanipulowana, oczywiście. Retusz istnieje od bardzo dawna, propaganda również, a Photoshop nie został wynaleziony wczoraj po południu. Mimo to stworzenie naprawdę przekonującego fałszywego obrazu zwykle wymagało czasu, umiejętności i materiałów źródłowych. Dzisiaj bariera wejścia spadła dramatycznie. Można opisać scenę, nacisnąć przycisk i po chwili dostać kilka wersji wydarzenia, które nigdy się nie wydarzyło.
To zmienia bardzo ważną rzecz.
Realizm przestał być dowodem.
Jeżeli zdjęcie wygląda źle, może być fałszywe. Jeżeli wygląda świetnie, również może być fałszywe. Jeżeli wygląda przeciętnie, ziarnisto, jakby ktoś zrobił je starszym telefonem podczas deszczu i jeszcze przypadkiem zasłonił pół obiektywu palcem - nadal może być wygenerowane. Generatory nauczyły się bowiem nie tylko tworzyć idealne obrazki. Nauczyły się również tworzyć obrazki wyglądające niedoskonale.
To bardzo sprytne.
Przez lata człowiek ufał niedoskonałości.
"Tak słaba jakość musi być prawdziwa."
Nie musi.
Fałszywy obraz może mieć szum, prześwietlenie, poruszenie, złą kompozycję i przypadkowego człowieka w tle wyglądającego jak ktoś, kto właśnie przyszedł po bułki. Sztuczna inteligencja nie ma obowiązku robić zdjęć na wystawę. Potrafi również udawać fotografa, który nie przeczytał instrukcji aparatu.
Dlatego pierwsza rzecz, którą warto wyrzucić z głowy, brzmi: "Będę po prostu dobrze patrzył".
Nie wystarczy.
Możesz patrzeć bardzo uważnie. Możesz powiększyć zdjęcie do poziomu, przy którym widzisz pojedyncze piksele. Możesz sprawdzić ręce, oczy, kolczyki, cienie, odbicia w szybie i uszy. Czasami znajdziesz błąd. Świetnie. Ale coraz częściej nie znajdziesz niczego oczywistego, ponieważ technologia poprawia dokładnie te rzeczy, które ludzie nauczyli się sprawdzać.
Kiedy internet przez rok śmiał się z sześciu palców, generatory nie obraziły się i nie poszły do domu.
Poprawiły palce.
Nasz problem nie zaczyna się od technologii. Zaczyna się od mózgu.
Obraz jest dla nas wyjątkowo przekonujący, ponieważ jego przetwarzanie odbywa się szybko. Czytając tekst, wiesz, że ktoś coś napisał. Słysząc plotkę, wiesz, że ktoś coś powiedział. Patrząc na zdjęcie, masz wrażenie bezpośredniego kontaktu ze zdarzeniem.
Nie czytasz, że polityk podał komuś rękę.
Widzisz, jak ją podaje.
Nie słyszysz, że samochód stanął w płomieniach.
Widzisz płomienie.
Mózg lubi tę pozorną bezpośredniość. Obraz nie czeka grzecznie w kolejce do analizy. Najpierw robi wrażenie, a dopiero potem - jeśli w ogóle - zostaje przesłuchany.
To dlatego fałszywe materiały są szczególnie skuteczne, gdy wywołują silne emocje. Szok, obrzydzenie, strach, gniew, zachwyt. Wtedy nie zastanawiasz się: "Jaki jest łańcuch pochodzenia tego pliku?". Myślisz raczej:
"Co do cholery?!"
I dokładnie wtedy ktoś liczy na twoje udostępnienie.
Emocja nie jest dowodem fałszu. Prawdziwe wydarzenia również bywają szokujące. Ale silna reakcja powinna być dla ciebie sygnałem, żeby zwolnić. Nie dlatego, że wszystko, co cię porusza, jest manipulacją. Dlatego, że właśnie wtedy twoja zdolność do spokojnej oceny zwykle nie znajduje się w życiowej formie.
Jeżeli treść sprawia, że natychmiast chcesz ją wysłać dalej, wprowadź prostą zasadę:
Najpierw sprawdź.
Potem wyślij.
To całe dwie czynności. Rewolucja cywilizacyjna może poczekać trzy minuty.
Warto uporządkować sytuację, bo słowo "deepfake" zaczęło działać jak worek, do którego wrzucamy wszystko, co wygląda podejrzanie. Tymczasem manipulacja może mieć kilka różnych form.
Materiał może być całkowicie wygenerowany. Nie było fotografii, zdarzenia ani osoby. AI stworzyła całą scenę.
Może być częściowo zmieniony. Prawdziwe zdjęcie dostało nową twarz, inny przedmiot, usuniętą osobę albo zmienione tło.
Może być autentyczny, ale wyrwany z kontekstu. To szczególnie ważne. Prawdziwy film z protestu w jednym kraju może zostać pokazany jako materiał z innego wydarzenia kilka lat później.
Może być prawdziwy, lecz przycięty tak, aby usunąć to, co wydarzyło się chwilę wcześniej lub później.
Może też być zwykłą inscenizacją. Żadnej sztucznej inteligencji. Po prostu kilku ludzi coś odegrało, ktoś nagrał, dodał odpowiedni opis i internet zrobił resztę.
Technologia jest fascynująca, ale nie należy przeceniać jej roli.
Człowiek od dawna potrafi kłamać bez procesora graficznego.
Wyobraź sobie, że dostajesz zdjęcie rzekomego wydarzenia. Powiększasz je. Dłonie są normalne. Napisy wyglądają dobrze. Cienie się zgadzają. Twarze nie topią się w tle. Odbicie w witrynie nie pokazuje drugiego księżyca.
"Prawdziwe" - stwierdzasz.
Nie.
Stwierdziłeś jedynie, że nie znalazłeś widocznej wady.
To ogromna różnica.
Brak oznak manipulacji nie jest potwierdzeniem autentyczności. Tak samo jak brak widocznego dymu z kuchni nie dowodzi, że nie przypaliłeś obiadu. Czasami po prostu jeszcze nie wszedłeś do środka.
Znacznie silniejsze pytania dotyczą źródła.
Kto opublikował materiał?
Czy wiadomo, skąd pochodzi?
Czy istnieje wcześniejsza wersja?
Czy inne wiarygodne źródła pokazują to samo wydarzenie?
Czy materiał pojawia się tylko na kilku kontach kopiujących się wzajemnie?
Czy ktoś podaje miejsce, czas i autora nagrania?
To nie brzmi tak efektownie jak polowanie na zdeformowane palce, ale właśnie tutaj zaczyna się rozsądna weryfikacja.
Autentyczność jest historią pochodzenia.
Nie konkursem piękności pikseli.
Załóżmy, że widzisz film opublikowany przez anonimowe konto z podpisem: "MEDIA O TYM MILCZĄ".
Już sam ten tekst działa jak mały przycisk w mózgu.
Skoro media milczą, to ty właśnie zostałeś członkiem elitarnego grona ludzi, którzy poznali prawdę. Gratulacje. Legitymacja przyjdzie pocztą.
Zanim jednak poinformujesz rodzinę, współpracowników i pół Facebooka, warto poszukać oryginalnego źródła. Często materiał krąży po internecie w dziesiątej kopii. Ktoś pobrał go z TikToka, wrzucił na X, ktoś zrobił zrzut, ktoś dodał napisy, ktoś przyciął początek, a na końcu dostajesz plik, którego pochodzenie jest równie przejrzyste jak historia plastikowego pojemnika w firmowej lodówce.
Zacznij więc od prostego pytania:
Gdzie ten materiał pojawił się wcześniej?
Możesz wyszukać charakterystyczny opis, nazwę miejsca, nazwisko osoby, cytowane zdanie. Przy zdjęciach pomocne bywa odwrotne wyszukiwanie obrazem, które pozwala znaleźć wcześniejsze publikacje lub inne wersje fotografii. Nie jest idealne, ale potrafi szybko wykazać, że "dzisiejsze dramatyczne zdjęcie" pojawiało się już cztery lata temu w artykule z zupełnie innego kraju.
To jeden z najbardziej satysfakcjonujących momentów cyfrowej higieny.
Internet krzyczy: "PILNE!".
Wyszukiwarka odpowiada: "2019".
Jeżeli materiał przedstawia duże wydarzenie, powinny istnieć ślady poza jednym postem. Katastrofa, ogromny protest, spektakularny pożar, ważne wystąpienie czy publiczna awantura zwykle generują więcej niż jedno nagranie.
Ludzie mają telefony.
Bardzo dużo telefonów.
Czasami wydaje się wręcz, że podstawową funkcją człowieka podczas niezwykłego zdarzenia jest natychmiastowe wyciągnięcie prostokąta z kieszeni.
Jeżeli więc widzisz rzekomo ogromne wydarzenie, a cały świat posiada tylko jeden piętnastosekundowy film z anonimowego konta, warto zachować ostrożność. Brak innych materiałów nie dowodzi fałszu, ale jest powodem, by nie traktować klipu jako potwierdzonego faktu.
Podobnie sprawdzaj szczegóły historii. Czy pogoda pasuje? Czy miejsce wygląda zgodnie z opisem? Czy wydarzenie miało nastąpić w dzień, a na filmie jest noc? Czy budynek rzeczywiście znajduje się tam, gdzie twierdzi autor posta?
Nie musisz prowadzić śledztwa godnego Interpolu. Kilka prostych niezgodności często wystarczy, żeby przestać wierzyć materiałowi bezwarunkowo.
"Nie wiem."
Naprawdę.
Warto je polubić.
Wiele osób zachowuje się tak, jakby każdy napotkany materiał wymagał natychmiastowego wyroku.
Prawdziwe.
Fałszywe.
AI.
Nie AI.
Spisek.
Nie spisek.
A przecież bardzo często prawidłową odpowiedzią jest: "Nie mam wystarczających informacji".
To nie jest porażka.
To oznaka poprawnie działającego hamulca.
Jeżeli nie potrafisz potwierdzić pochodzenia materiału, nie musisz natychmiast rozstrzygać jego autentyczności. Możesz potraktować go jako niezweryfikowany. To szczególnie ważne wtedy, gdy informacja ma kogoś oskarżać, wywołać panikę albo skłonić cię do działania.
Niepewność jest znacznie tańsza niż pewność oparta na bzdurze.
Od teraz przy materiałach, które mają znaczenie, stosuj cztery pytania:
- Skąd to pochodzi? - Czy mogę znaleźć wcześniejsze lub pierwotne źródło? - Czy inne niezależne źródła pokazują to samo? - Co się stanie, jeśli uwierzę w to za szybko?
Ostatnie pytanie jest kluczowe. Nie każda pomyłka ma ten sam koszt.
Jeżeli uwierzysz, że wygenerowane zdjęcie gigantycznego kota jest prawdziwe, najwyżej przez kilka minut będziesz żył w piękniejszym świecie.
Jeżeli uwierzysz w fałszywe nagranie banku, przełożonego, polityka, lekarza albo członka rodziny, konsekwencje mogą być poważniejsze.
Nie wymagaj więc takiego samego poziomu pewności od wszystkiego.
Im wyższa stawka, tym więcej sprawdzania.
To nie jest paranoja.
To po prostu nowa wersja zasady "patrz, zanim przejdziesz przez ulicę".
Kiedyś patrzyłeś w lewo i w prawo.
Teraz czasem jeszcze w źródło.
Telefon dzwoni wieczorem. Numer jest nieznany, ale odbierasz. Po drugiej stronie słyszysz głos bliskiej osoby.
Jest zdenerwowana.
Mówi szybko.
Stało się coś złego.
Potrzebne są pieniądze.
Natychmiast.
W tym momencie nie zastanawiasz się nad modelami generatywnymi, syntezą mowy ani rozwojem sztucznej inteligencji. Twój mózg robi coś znacznie bardziej podstawowego.
Rozpoznaje głos.
A potem uruchamia alarm.
To właśnie dlatego fałszywy dźwięk może być groźniejszy niż najbardziej spektakularne wygenerowane zdjęcie. Obraz obcego człowieka da się oglądać z dystansem. Głos kogoś bliskiego trafia bezpośrednio do systemu emocjonalnego.
"Mamo, miałem wypadek."
"Tato, nie mogę teraz długo mówić."
"Słuchaj, jestem w problemie."
"Nie dzwoń do nikogo."
"Potrzebuję przelewu."
Każde z tych zdań może być prawdziwe.
I każde może być elementem oszustwa.
Przez lata głos działał jak naturalny identyfikator. Możesz nie znać numeru, ale słyszysz człowieka i wiesz, kto mówi.
Tyle że współczesne narzędzia potrafią naśladować barwę i sposób mówienia na podstawie próbek dźwięku. Im więcej materiału istnieje publicznie, tym potencjalnie łatwiej zebrać fragmenty wypowiedzi.
Dla osoby aktywnej w internecie próbek może być mnóstwo.
Film z wakacji.
Rolka.
Wywiad.
Prezentacja.
Relacja urodzinowa, na której przez trzydzieści sekund tłumaczysz, że tort jest świetny, chociaż krem właśnie podjął decyzję o opuszczeniu biszkoptu.
To wystarczy, by przestać traktować samą znajomość głosu jako absolutne potwierdzenie tożsamości.
Nie oznacza to, że każda rozmowa telefoniczna jest fałszywa.
Oznacza tylko, że przy nietypowej lub ryzykownej prośbie trzeba włączyć dodatkową weryfikację.
Oszustwo bardzo często próbuje ograniczyć czas na myślenie.
Stało się coś.
Teraz.
Trzeba działać.
Już.
Nie dzwoń do nikogo.
Nie pytaj.
Nie rozłączaj się.
Dlaczego?
Bo dodatkowe trzydzieści sekund może zniszczyć całą historię.
Jeżeli rzekomy syn mówi, że potrzebuje pilnego przelewu, oddzwonienie na jego normalny numer może zakończyć spektakl. Jeżeli przełożony wysyła wiadomość z prośbą o zakup kart podarunkowych, krótkie pytanie zadane przez inny kanał może odsłonić oszustwo.
Dlatego presja powinna działać odwrotnie, niż chciałby manipulator.
Im ktoś bardziej cię pogania, tym bardziej zwalniasz.
To brzmi nienaturalnie.
Bo jest nienaturalne.
Kiedy pojawia się zagrożenie, człowiek chce działać. Problem polega na tym, że oszust liczy dokładnie na ten odruch. Nie chce, żebyś był spokojny. Spokojny człowiek zadaje pytania. Spokojny człowiek oddzwania. Spokojny człowiek zauważa, że "bank" prosi o przelew na prywatne konto.
Panika jest bardzo wydajnym pracownikiem działu sprzedaży oszustwa.
Jeżeli ktoś kontaktuje się z tobą z nietypową, pilną lub finansową prośbą, zweryfikuj ją innym kanałem.
To jedna z najbardziej praktycznych zasad całej książki.
Dostajesz wiadomość na komunikatorze?
Zadzwoń.
Dostajesz telefon?
Napisz na znany numer.
Dostajesz e-mail?
Skontaktuj się przez oficjalną aplikację albo numer ze strony organizacji.
Nie używaj numeru podanego w podejrzanej wiadomości.
Nie klikaj linku "do weryfikacji".
Nie pytaj oszusta, jak możesz sprawdzić, czy nie jest oszustem.
Może mieć pewną stronniczość w tej sprawie.
Załóżmy, że dzwoni osoba brzmiąca jak twój brat. Mówi, że zepsuł telefon i kontaktuje się z nowego numeru. Potrzebuje pieniędzy.
Nie próbuj rozstrzygać po głosie.
Rozłącz się.
Zadzwoń na jego stary numer.
Napisz przez komunikator, którego zwykle używacie.
Skontaktuj się z jego partnerem albo kimś, kto może potwierdzić sytuację.
Jeżeli historia jest prawdziwa, kilka minut weryfikacji jej nie zniszczy.
Jeżeli jest fałszywa, właśnie uratowałeś pieniądze.
W rodzinach, szczególnie tam, gdzie są starsze osoby, warto ustalić prostą zasadę potwierdzania tożsamości.
Może to być pytanie o informację, której nie da się łatwo znaleźć publicznie. Jeszcze prostsze jest ustalenie rodzinnego hasła używanego w sytuacjach awaryjnych.
Nie:
"Jak ma na imię nasz pies?"
Jeżeli pies występuje na Instagramie częściej niż właściciel, odpowiedź raczej nie jest tajemnicą państwową.
Lepiej coś nietypowego, czego nie publikujecie. Hasło może być absurdalne, bo absurdalne rzeczy dobrze się pamięta.
"Fioletowy kalafior."
"Wujek nie tańczy."
"Paragon za majonez."
Nie chodzi o elegancję.
Chodzi o to, żeby osoba znajdująca się po drugiej stronie musiała znać coś, czego nie da się łatwo wyciągnąć z publicznego profilu.
Oczywiście takie hasło trzeba rzeczywiście zapamiętać.
Jeżeli po pół roku wszyscy wiedzą, że było jakieś hasło, ale jedna osoba twierdzi, że dotyczyło brokułu, druga samochodu, a trzecia jest przekonana, że nigdy niczego nie ustalaliście, system bezpieczeństwa właśnie osiągnął poziom rodzinnej gry planszowej po dwóch godzinach.
Zapiszcie je w bezpiecznym miejscu albo wybierzcie coś naprawdę łatwego do zapamiętania.
Wideo daje jeszcze większe poczucie pewności.
Twarz jest właściwa.
Głos jest właściwy.
Mimika wygląda sensownie.
Czego więcej potrzeba?
Czasem niewiele.
Czasem jednak nadal trzeba potwierdzenia.
Technologie pozwalają zmieniać twarz w nagraniach, synchronizować ruch ust z nowym dźwiękiem i tworzyć materiały przedstawiające osobę mówiącą coś, czego nigdy nie powiedziała. Jakość zależy od narzędzia, materiału i warunków, ale założenie "jest film, więc jest dowód" przestało być wystarczające.
Szczególnie niebezpieczne są krótkie nagrania.
Dlaczego?
Bo mało materiału oznacza mało okazji do zauważenia problemów. Kilkusekundowy klip może wyglądać przekonująco, zwłaszcza jeśli jest skompresowany, nagrany pionowo, posiada napisy i oglądasz go na małym ekranie podczas gotowania makaronu.
To nie jest idealne laboratorium kryminalistyczne.
To wtorek.
Dlatego ponownie wracamy do źródła.
Jeżeli znana osoba rzekomo mówi coś szokującego, poszukaj pełnego nagrania. Sprawdź oficjalne kanały. Sprawdź, czy inne wiarygodne źródła cytują tę wypowiedź. Zobacz, czy istnieje kontekst przed i po fragmencie.
Bardzo często nie trzeba ustalać, czy każdy piksel jest prawdziwy.
Wystarczy odkryć, że nigdzie poza jednym wiralowym klipem nie ma śladu wypowiedzi, która podobno wstrząsnęła całym krajem.
To ważny moment.
Nie potrzebujesz deepfake'a, żeby zmanipulować wideo.
Wystarczy montaż.
Wyobraź sobie rozmowę:
- Czy kiedykolwiek rozważałby pan podniesienie podatków?
- Nie, absolutnie nie.
Teraz ktoś wycina pierwsze słowo odpowiedzi.
Zostaje:
"Absolutnie."
Gotowe.
Cyfrowa magia bez AI.
Jeszcze prostsza jest manipulacja kolejnością. Można połączyć reakcję człowieka z innym pytaniem, dodać dramatyczną muzykę, usunąć kilka sekund i stworzyć zupełnie inne wrażenie.
Dlatego podczas oceny filmu pytaj nie tylko:
"Czy ten materiał jest sztuczny?"
Ale również:
"Czy jest kompletny?"
To druga połowa problemu.
Autentyczny fragment może tworzyć fałszywy obraz rzeczywistości.
Jednym z błędów jest ocenianie prawdopodobieństwa na podstawie jakości materiału.
"Za dobre jak na AI."
Albo:
"Za słabe, żeby było prawdziwe."
Obie zasady są coraz mniej użyteczne.
Wysokiej jakości materiały mogą być generowane. Niskiej jakości materiały mogą być celowo pogorszone, ponieważ kompresja i szum maskują niedoskonałości.
Czasem fałszywy film zostaje przepuszczony przez kilka platform, nagrany ponownie z ekranu albo celowo zmniejszony. Każda utrata jakości zabiera trochę szczegółów, ale jednocześnie może zabrać również część oznak manipulacji.
To tak, jakby podejrzany przyszedł na przesłuchanie we mgle.
Nie widzisz go lepiej.
Ale on też wygląda mniej podejrzanie.
Jeżeli rozmowa dotyczy pieniędzy, danych, hasła, kodu, pilnej pomocy albo nietypowej prośby, nie komplikuj procedury.
Zrób trzy rzeczy:
1. Przerwij rozmowę lub wymianę wiadomości. 2. Skontaktuj się z osobą lub instytucją przez znany, niezależny kanał. 3. Nie wykonuj żadnej nieodwracalnej czynności przed potwierdzeniem sytuacji.
To wszystko.
Nie musisz instalować specjalnego laboratorium.
Nie musisz analizować spektrogramu głosu.
Nie musisz zadzwonić do znajomego, który "trochę zna się na komputerach", bo kiedyś zmienił dysk w laptopie.
Weryfikacja innym kanałem jest zwykle szybsza.
I znacznie bardziej niezawodna.
To naturalny lęk.
"A co, jeśli to naprawdę ona i zmarnuję czas?"
Dlatego procedura ma być szybka, a nie filozoficzna.
Rozłączasz się i natychmiast oddzwaniasz na znany numer.
Kontaktujesz się z drugim członkiem rodziny.
Jeżeli sytuacja może dotyczyć bezpośredniego zagrożenia życia lub zdrowia, korzystasz z właściwych służb.
Nie chodzi o siedzenie przez godzinę z notatnikiem.
Chodzi o przeniesienie rozmowy z kanału kontrolowanego przez potencjalnego oszusta do kanału, który znasz.
To różnica między ostrożnością a paraliżem.
Ostrożność mówi:
"Sprawdzę".
Paraliż mówi:
"Nigdy już nie odbiorę telefonu".
Druga metoda rzeczywiście ogranicza liczbę oszustw.
Niestety również liczbę kontaktów z hydraulikiem, kurierem, lekarzem, rodziną i człowiekiem, który próbuje powiedzieć, że zostawiłeś portfel w restauracji.
Trochę kosztowna strategia.
Nie musisz po tym rozdziale przeprowadzać rodzinnego szkolenia z cyberbezpieczeństwa zakończonego egzaminem i certyfikatem.
Zrób jedną rzecz.
Ustal z najbliższymi prostą zasadę:
Jeżeli pojawia się pilna prośba o pieniądze lub dane, zawsze potwierdzamy ją drugim kanałem.
Możecie również ustalić hasło awaryjne.
To zajmuje kilka minut.
A może kiedyś oszczędzić komuś bardzo nieprzyjemnego dnia.
Deepfake może wyglądać jak twój bliski.
Może mówić jak twój bliski.
Może nawet brzmieć na przestraszonego dokładnie tak, jak twój bliski.
Ale nadal nie potrafi przeszkodzić ci w jednej rzeczy.
Możesz się rozłączyć.
I sprawdzić.
Widzisz post. Nagranie pokazuje człowieka, którego od dawna nie lubisz. Mówi coś głupiego, aroganckiego i dokładnie takiego, czego się po nim spodziewałeś.
"Wiedziałem."
To słowo powinno zapalić w głowie małą lampkę.
Nie dlatego, że materiał na pewno jest fałszywy.
Dlatego, że właśnie przestałeś być neutralnym odbiorcą.
Kiedy coś pasuje do naszych wcześniejszych przekonań, sprawdzamy to słabiej. Jeżeli informacja potwierdza to, co już myślimy, mózg często przyjmuje ją z otwartymi ramionami, kawą i kluczem do mieszkania. Jeżeli temu przeczy, nagle budzi się w nas audytor, prokurator i człowiek, który chce zobaczyć wszystkie faktury od 2017 roku.
To jeden z najstarszych problemów poznawczych.
AI go nie stworzyła.
AI tylko dała mu lepszą grafikę.
Załóżmy, że uważasz pewną grupę ludzi za naiwną. Ktoś publikuje film pokazujący dokładnie taki przykład. Widzisz go i od razu czujesz satysfakcję.
"No proszę."
Nie pytasz, skąd pochodzi nagranie.
Nie szukasz pełnej wersji.
Nie zastanawiasz się, czy fragment został zmontowany.
Dlaczego?
Bo materiał nie wymaga od ciebie zmiany poglądu. Przeciwnie. Wynagradza cię za jego posiadanie.
To działa również w drugą stronę. Jeśli pojawia się kompromitujący materiał dotyczący osoby, którą lubisz, standard dowodowy nagle rośnie do poziomu procesu karnego.
"A kto to opublikował?"
"Czy to na pewno pełne nagranie?"
"Może wyrwane z kontekstu?"
"A skąd wiadomo, że to nie AI?"
Piękne.
Tylko szkoda, że identycznych pytań nie zadawałeś trzy minuty wcześniej przy materiale dotyczącym człowieka z przeciwnego obozu.
Mózg nie jest bezstronnym sędzią.
Częściej przypomina adwokata, który dostał sprawę i dopiero potem zaczyna szukać argumentów.
Skuteczna dezinformacja rzadko wymaga stworzenia kompletnego nowego świata.
Wystarczy lekko popchnąć istniejący.
Jeśli ludzie już podejrzewają, że jakaś firma oszukuje klientów, spreparowana wiadomość o kolejnym skandalu ma łatwiejszy start.
Jeśli ktoś jest znany z kontrowersyjnych wypowiedzi, fałszywy cytat nie musi być szczególnie wyrafinowany. Wystarczy, że "brzmi jak on".
To właśnie zdanie "on mógłby coś takiego powiedzieć" jest niebezpieczne.
Mógłby.
Ale czy powiedział?
To nie to samo.
Gdybyśmy uznawali ludzi za winnych wszystkiego, co pasuje do ich charakteru, rodzinne spotkania kończyłyby się rozprawą sądową przed deserem.
Jest prosty sposób na sprawdzenie własnej stronniczości.
Odwróć role.
Jeżeli materiał dotyczy osoby, której nie lubisz, wyobraź sobie, że identyczny materiał dotyczy kogoś, komu ufasz.
Czy nadal uznałbyś go za wystarczający dowód?
Jeżeli odpowiedź brzmi "nie", właśnie odkryłeś nierówny standard.
Przykład:
Widzisz dziesięciosekundowy film polityka mówiącego coś skandalicznego.
Jeśli polityka nie lubisz:
"Wszystko jasne."
Jeśli go lubisz:
"Pokażcie pełny kontekst."
W takim razie pełny kontekst powinien być potrzebny w obu przypadkach.
To nie jest obrona żadnej strony.
To obrona własnego mózgu przed pracą na dwie zmiany według dwóch regulaminów.
Treści, które budzą złość, są szczególnie podatne na impulsywne udostępnianie. Człowiek czuje, że nie tylko może podać materiał dalej.
On powinien.
"Ludzie muszą to zobaczyć."
To zdanie jest bardzo wygodne.
Pozwala poczuć się jak obywatelski sygnalista, nawet jeśli właśnie przesyłasz fałszywy zrzut ekranu stworzony przez konto, które trzy posty wcześniej reklamowało cudowny sposób na usuwanie toksyn z organizmu przez stopy.
Złość skraca dystans między bodźcem a reakcją.
Dlatego wprowadź prostą zasadę:
Jeżeli materiał naprawdę cię oburzył, nie udostępniaj go od razu.
Daj sobie kilka minut.
Sprawdź źródło.
Poszukaj innych informacji.
Nie chodzi o tłumienie emocji. Chodzi o to, żeby emocja nie dostała dostępu administratora do twojego konta.
Jeszcze skuteczniejszy bywa strach.
"UWAGA! Nowe oszustwo!"
"Natychmiast wyłącz tę funkcję!"
"Każdy użytkownik telefonu powinien to wiedzieć!"
"Od jutra banki blokują konta!"
"Nowe przepisy wejdą w życie w poniedziałek!"
Brzmi znajomo?
Tego typu treści mają wspólną cechę: zmuszają do działania zanim sprawdzisz, czy w ogóle istnieje problem.
Czasami ostrzeżenie jest prawdziwe.
Czasami jest przestarzałe.
Czasami dotyczy innego kraju.
Czasami jest mieszaniną prawdy i bzdury.
A czasami ktoś po prostu odkrył, że czerwony wykrzyknik i słowo "PILNE" świetnie współpracują z ludzkim układem nerwowym.
W takich sytuacjach pytaj:
Czy istnieje oficjalne źródło?
Jeżeli sprawa dotyczy banku, sprawdź bank.
Jeżeli prawa, sprawdź właściwą instytucję lub wiarygodne źródło prawne.
Jeżeli bezpieczeństwa produktu, sprawdź producenta albo oficjalny komunikat.
Nie opieraj ważnych decyzji na filmie człowieka siedzącego w samochodzie i mówiącego: "Nie wiem, czy mogę o tym mówić, ale...".
Jeśli nie wie, czy może, internet z jakiegoś powodu zawsze pozwala.
Jednym z najskuteczniejszych mechanizmów dezinformacji jest przekonanie odbiorcy, że właśnie zobaczył coś, czego "oni" nie chcą pokazać.
"Usuną to za godzinę."
"Zapisz, zanim zniknie."
"Media tego nie pokażą."
"Prawda wychodzi na jaw."
"Udostępniaj, póki można."
To buduje poczucie wyjątkowego dostępu.
Nie jesteś już zwykłym użytkownikiem telefonu siedzącym w kolejce do dentysty.
Jesteś członkiem ruchu oporu.
A przecież chciałeś tylko sprawdzić pogodę.
Takie komunikaty nie dowodzą fałszu. Mogą się zdarzyć prawdziwe materiały ignorowane przez część mediów. Ale język "zakazanej prawdy" powinien podnosić ostrożność, ponieważ bardzo skutecznie wyłącza normalne pytania.
Jeżeli zasugerowano ci, że każde źródło przeczące materiałowi jest częścią spisku, system został sprytnie zabezpieczony przed weryfikacją.
To jak sprzedawca produktu mówiący:
"Każdy, kto twierdzi, że to nie działa, jest opłacony przez konkurencję."
Fantastyczny model biznesowy.
Reklamacja staje się dowodem skuteczności.
Czasami człowiek mocno przywiązuje się do materiału, który już udostępnił.
Ktoś pod nim pisze:
"To nieprawda."
I nagle nie bronisz informacji.
Bronisz siebie.
Bo jeśli post był fałszywy, trzeba przyznać, że się pomyliłeś.
Mózg tego nie lubi.
Zaczyna więc produkować argumenty:
"Ale ogólnie i tak wiadomo, że..."
"Może ten konkretny film nie, ale..."
"Nawet jeśli fałszywe, to pokazuje prawdę o..."
Nie.
Jeżeli materiał jest fałszywy, usuń go albo sprostuj.
Nie próbuj ratować bzdury poprzez wyjaśnianie, że symbolicznie miała rację.
Fałszywa fotografia nie staje się prawdziwsza tylko dlatego, że dobrze ilustruje twoje poglądy.
To grafika.
Nie metafora narodowa.
Zwróć uwagę na treści, przy których odczuwasz przyjemność z potwierdzenia własnej racji.
"A nie mówiłem."
"Dokładnie."
"Wiedziałem."
To dobry moment na dodatkową kontrolę.
Nie dlatego, że prawda nigdy nie jest satysfakcjonująca.
Dlatego, że satysfakcja obniża czujność.
Możesz nawet stworzyć prywatną zasadę:
Jeśli materiał jest aż za bardzo idealny dla mojego poglądu, sprawdzam go dwa razy.
To szczególnie ważne przy polityce, konfliktach społecznych, wojnach, zdrowiu, pieniądzach i kontrowersjach wokół znanych osób.
Tam emocje już są wysokie.
Fałszerstwo tylko wsiada do jadącego samochodu.
Kiedy trafiasz na materiał, który idealnie pasuje do twojego światopoglądu, przeprowadź mały test:
- Czy znam pierwotne źródło? - Czy materiał jest pełny? - Czy istnieją niezależne potwierdzenia? - Czy uwierzyłbym w to równie szybko, gdyby role były odwrócone? - Czy udostępniam informację, czy własne oburzenie?
Ostatnie pytanie boli najbardziej.
I dlatego jest dobre.
Nie musisz przestać mieć poglądów.
Nie musisz udawać człowieka, który wobec każdej sprawy odpowiada: "To skomplikowane", a potem patrzy w dal jak profesor filozofii podczas reklamy kawy.
Możesz mieć silne opinie.
Po prostu nie używaj ich jako oprogramowania antywirusowego.
To się wydarzy.
Prędzej czy później prawdopodobnie uwierzysz w coś fałszywego.
Ja też.
Każdy, kto konsumuje dużo informacji, popełnia błędy. Celem nie jest nieomylność. Celem jest skrócenie czasu między pomyłką a korektą.
Jeżeli udostępniłeś fałszywą treść:
usuń ją, jeśli możesz.
Napisz krótkie sprostowanie, jeśli dotarła do innych.
Nie kombinuj.
"Udostępniłem wcześniej ten materiał, ale okazał się nieprawdziwy. Usuwam."
Koniec.
Nie potrzebujesz przemówienia do narodu.
Nie musisz też zachowywać posta tylko dlatego, że zebrał dużo reakcji.
Fałsz z tysiącem polubień nadal jest fałszem.
Tylko bardziej towarzyskim.
Najlepszą ochroną przed manipulacją nie jest brak emocji.
To świadomość, kiedy emocja zaczyna prowadzić samochód.
Jeżeli coś natychmiast potwierdza wszystko, co już myślałeś, nie klaszcz.
Najpierw sprawdź.
Dostajesz screena rozmowy.
Na górze nazwisko znanej osoby.
Poniżej wiadomość.
Szokująca.
Oburzająca.
Idealna do przesłania dalej.
"Ale się wkopał."
Możliwe.
Tylko że zrzut ekranu jest jednym z najłatwiejszych materiałów do sfałszowania w całym internecie.
Nie potrzebujesz zaawansowanej sztucznej inteligencji.
Nie potrzebujesz laboratorium.
Czasem wystarczy edycja tekstu, prosty program graficzny albo kilka minut w przeglądarce.
Zrzut ekranu wygląda jak dowód, bo przypomina coś, co sami widujemy codziennie. Wiadomość z komunikatora. Post. E-mail. Powiadomienie. Przelew. Fragment artykułu.
Znajomy interfejs daje poczucie autentyczności.
"Przecież widać, że napisał."
Nie.
Widać prostokąt z tekstem.
To znacznie mniej ekscytujące.
Zrzut ekranu ma kilka zalet z punktu widzenia osoby, która chce manipulować.
Po pierwsze, odcina materiał od źródła.
Nie możesz kliknąć posta.
Nie możesz wejść na konto.
Nie możesz sprawdzić daty.
Nie widzisz, co było wcześniej.
Dostajesz zamrożony fragment rzeczywistości.
Albo czegoś, co rzeczywistość tylko udaje.
Po drugie, screen łatwo krąży.
Ktoś wysyła go dalej.
Ktoś zapisuje.
Ktoś wrzuca na inną platformę.
Po godzinie nikt już nie wie, skąd pochodził.
Pochodzenie:
"Dostałem od kolegi."
Źródło:
"Internet."
Metodologia badawcza:
"Podobno prawdziwe."
Cywilizacja jakoś trwa.
Jeśli screenshot przedstawia publiczny post, komentarz albo artykuł, spróbuj znaleźć wersję źródłową.
To najprostsza metoda.
Nie przyglądaj się przez pięć minut czcionce, jeśli możesz w trzydzieści sekund wyszukać tekst.
Skopiuj charakterystyczne zdanie.
Wpisz nazwisko.
Dodaj fragment cytatu.
Sprawdź oficjalne konto.
Jeżeli rzekomy post znanej osoby ma tysiące udostępnień w formie screena, ale nikt nie potrafi pokazać linku do oryginału, pojawia się sensowne pytanie.
Oczywiście post mógł zostać usunięty.
To możliwe.
Ale "mógł zostać usunięty" nie jest dowodem, że istniał.
Jednorożec również mógł właśnie wyjść z pokoju.
Nie widziałem.
Ale technicznie nie mogę wykluczyć.
To częsty argument.
Być może.
Ludzie kasują wpisy.
Firmy usuwają komunikaty.
Politycy poprawiają posty.
Ale jeżeli materiał był publiczny i naprawdę wywołał dużą reakcję, zwykle powinny istnieć dodatkowe ślady.
Archiwalne kopie.
Cytowania.
Odpowiedzi innych użytkowników.
Publikacje medialne.
Nagrania ekranu.
Wzmianki z czasu, gdy post rzekomo był dostępny.
Im większa sensacja, tym dziwniejsza całkowita nieobecność jakichkolwiek śladów poza jednym krążącym jpegem.
Internet ma wiele wad.
Ale zapominanie spektakularnych kompromitacji nie jest jego najmocniejszą stroną.
Jeżeli zrzut przedstawia prywatną rozmowę, nie znajdziesz publicznego oryginału.
Tu trzeba zachować jeszcze większą ostrożność.
Sam screenshot nie potwierdza, kto naprawdę pisał.
Nazwa kontaktu w telefonie nie jest dowodem tożsamości.
Możesz zapisać mnie jako "Prezydent Francji".
Telefon nie poprosi o dokument.
Nie zadzwoni do ambasady.
Nie wyśle funkcjonariusza.
Po prostu zaakceptuje.
Dlatego obraz rozmowy prywatnej jest przede wszystkim twierdzeniem osoby, która go pokazuje.
Czasem prawdziwym.
Czasem nie.
Bez dodatkowego kontekstu bardzo trudno mieć pewność.
Jeżeli materiał ma poważne konsekwencje dla czyjejś reputacji, nie traktuj pojedynczego screena jak wyroku.
E-mail jest kolejnym świetnym miejscem do manipulacji.
Logo się zgadza.
Kolory się zgadzają.
Stopka wygląda elegancko.
Nadawca brzmi oficjalnie.
"Dział Bezpieczeństwa Konta".
To musi być poważne.
Przecież jest nawet niebieski przycisk.
Niestety niebieski przycisk nie jest organem certyfikującym.
Fałszywe wiadomości mogą bardzo dobrze kopiować wygląd banku, platformy zakupowej, urzędu, firmy kurierskiej czy serwisu społecznościowego.
Dlatego przy ważnych wiadomościach nie oceniaj wiarygodności po wyglądzie.
Sprawdź rzeczy, które mają większą wartość:
adres nadawcy,
domenę,
dokąd prowadzi link,
czy wiadomość pojawia się również po zalogowaniu bezpośrednio do oficjalnej aplikacji,
czy instytucja rzeczywiście komunikuje się w taki sposób.
Nie klikaj linku tylko po to, żeby sprawdzić, czy wygląda prawdziwie.
To trochę jak wkładanie ręki do dziury z napisem "możliwy wąż" w celu przeprowadzenia dalszej diagnostyki.
Można.
Ale istnieją lepsze metody.
Jeżeli dostajesz wiadomość od banku:
nie klikaj linku.
Otwórz aplikację bankową samodzielnie.
Jeżeli dostajesz informację o przesyłce:
wejdź do aplikacji przewoźnika lub wpisz oficjalny adres.
Jeżeli platforma twierdzi, że twoje konto zostanie zablokowane:
wejdź na nią własną drogą.
To bardzo prosta zasada:
Przy ważnych sprawach nie korzystaj z wejścia wskazanego przez potencjalnego oszusta.
Znajdź własne.
Jeśli komunikat jest prawdziwy, zwykle zobaczysz go również po bezpośrednim zalogowaniu.
Jeśli nie ma po nim śladu, masz kolejny powód do ostrożności.
Kolejny poziom zabawy polega na tworzeniu stron wyglądających jak znane portale.
Logo.
Układ.
Nazwisko autora.
Zdjęcie.
Nagłówek.
Na pierwszy rzut oka wszystko się zgadza.
Tylko domena nie.
Albo portal nigdy takiego tekstu nie opublikował.
W takich sytuacjach ludzie często ufają temu, co widzą na screenie:
"Przecież napisało o tym BBC."
Albo CNN.
Albo znany polski portal.
Tyle że screenshot logo nie oznacza, że medium cokolwiek opublikowało.
Logo można skopiować.
Bardzo szybko.
Firmy wydają miliony na branding, a internet potrzebuje dziesięciu sekund, żeby go pożyczyć.
Jeżeli widzisz szokujący nagłówek przypisany znanemu medium, wejdź bezpośrednio na jego stronę i wyszukaj temat.
Brak wyniku nie jest zawsze stuprocentowym dowodem fałszu, ale znacznie zmienia sytuację.
Stare informacje bardzo często dostają nowe życie dzięki brakowi daty.
Ktoś udostępnia screenshot artykułu.
Nagłówek wygląda aktualnie.
Opis mówi:
"Zaczyna się."
Tymczasem artykuł pochodzi sprzed sześciu lat.
To wyjątkowo prosta manipulacja, ponieważ niczego nie trzeba tworzyć.
Wystarczy usunąć datę.
Resztę zrobi odbiorca.
Zawsze sprawdzaj datę przy informacjach zależnych od czasu:
nowe przepisy,
ostrzeżenia,
promocje,
awarie,
wydarzenia polityczne,
konflikty,
alerty zdrowotne,
problemy produktów,
zmiany usług.
Internet ma niezwykłą zdolność recyklingu.
Niektóre "pilne wiadomości" są starsze niż telefon, na którym je czytasz.
Załóżmy, że zrzut ekranu jest prawdziwy.
Czyli koniec problemu?
Nie.
Może być przycięty.
Rozmowa zaczyna się w środku.
Nie widzisz wcześniejszych wiadomości.
Nie widzisz odpowiedzi.
Nie znasz tonu.
Nie wiesz, czy zdanie było żartem, cytatem, odpowiedzią na pytanie czy fragmentem większej rozmowy.
Przykład:
"Tak, oczywiście. Zwolnijmy wszystkich."
Brzmi świetnie.
Dopóki nie zobaczysz poprzedniej wiadomości:
"Czyli twoim zdaniem rozwiązaniem każdego problemu byłoby zwolnienie całego zespołu?"
Kontekst ma irytujący zwyczaj psucia dobrych afer.
Dlatego przy zrzutach rozmów pytaj:
Co było wcześniej?
Co było później?
Czy obraz jest kompletny?
Czy ktoś pokazuje tylko fragment wygodny dla swojej wersji?
"Wysłałem przelew."
Screenshot.
Kwota się zgadza.
Nazwa odbiorcy się zgadza.
Gotowe?
Nie.
Nie wydawaj towaru, nie zwracaj pieniędzy i nie uznawaj transakcji za zakończoną tylko na podstawie przesłanego obrazu potwierdzenia.
Sprawdź własne konto.
To brzmi banalnie, ale oszustwa bazujące na fałszywych potwierdzeniach działają właśnie dlatego, że ludzie traktują obraz aplikacji bankowej jak pieniądze.
Screenshot przelewu nie jest przelewem.
Tak jak zdjęcie pizzy nie jest obiadem.
Nawet jeśli wygląda przekonująco.
Jeśli pieniądze mają dotrzeć, sprawdź, czy dotarły.
Sztuczna inteligencja może pomóc generować realistyczne wiadomości, dokumenty, faktury, potwierdzenia i imitacje interfejsów.
To brzmi groźnie.
I czasem jest.
Ale twoja odpowiedź nie musi być technicznie skomplikowana.
Przeciwnie.
Im łatwiej fałszować wygląd, tym mniej ufaj wyglądowi.
Sprawdzaj stan faktyczny w systemie źródłowym.
E-mail mówi o płatności?
Sprawdź konto.
Screen pokazuje post?
Znajdź post.
Wiadomość mówi o zmianie hasła?
Wejdź bezpośrednio do konta.
Faktura przyszła z nowym numerem rachunku?
Potwierdź zmianę znanym kanałem.
To jest bardzo ważna zmiana mentalna.
Nie pytasz:
"Czy dokument wygląda prawdziwie?"
Pytasz:
"Czy mogę potwierdzić zdarzenie poza dokumentem?"
Nie musisz analizować każdego screena jak biegły sądowy.
Zwróć szczególną uwagę, gdy:
- materiał istnieje tylko jako screenshot bez linku lub źródła, - autor twierdzi, że oryginał "natychmiast usunięto", ale nie ma innych śladów, - screen przedstawia prywatną rozmowę i ma zniszczyć czyjąś reputację, - wiadomość wywołuje presję na szybki przelew, kliknięcie albo podanie danych, - zrzut jest mocno przycięty i nie pokazuje kontekstu.
Jedna flaga nie oznacza fałszu.
Kilka razem oznacza:
zwolnij.
Jeżeli nie masz czasu na pełną weryfikację, zrób jedną rzecz:
nie podejmuj ważnej decyzji na podstawie samego screena.
To naprawdę wystarczy w wielu sytuacjach.
Nie przesyłaj pieniędzy.
Nie oskarżaj człowieka.
Nie podawaj danych.
Nie publikuj dalej jako faktu.
Możesz powiedzieć:
"Nie wiem, czy to autentyczne."
To nie wymaga licencji detektywa.
Tylko odrobiny dyscypliny.
Internet przyzwyczaił nas do myślenia, że skoro coś wygląda jak wiadomość, to jest wiadomością.
Skoro wygląda jak artykuł, to jest artykułem.
Skoro wygląda jak przelew, to pieniądze istnieją.
Coraz częściej trzeba przyjąć odwrotną zasadę.
Wygląd mówi ci, czym coś chce być.
Źródło mówi ci znacznie więcej o tym, czym naprawdę jest.
A jeśli jedynym dowodem jest prostokąt zapisany jako PNG?
Spokojnie.
Prostokąty jeszcze nie zeznają pod przysięgą.
Wrzucasz zdjęcie do internetowego "detektora AI".
Czekasz trzy sekundy.
Wynik:
87% AI GENERATED.
No i proszę.
Sprawa rozwiązana.
Można zamknąć internet.
Tylko że chwilę później wrzucasz to samo zdjęcie do drugiego narzędzia.
12% AI.
Trzecie twierdzi, że obraz jest prawdziwy.
Czwarte informuje, że "nie można określić z wystarczającą pewnością", co jest najbardziej odpowiedzialną odpowiedzią w całym zestawie, ale jednocześnie najmniej satysfakcjonującą, więc oczywiście właśnie jej najmniej chcemy.
Człowiek nie pobiera detektora po to, żeby usłyszeć:
"Trudno powiedzieć."
Człowiek pobiera detektor, ponieważ chce cyfrowego sędziego z młotkiem.
Prawdziwe.
Fałszywe.
Następny.
Niestety tak łatwo nie będzie.
Narzędzie wykrywające treści generowane przez AI nie posiada tajnego dostępu do historii wszechświata.
Nie wie, czy scena wydarzyła się naprawdę.
Nie siedziało obok fotografa.
Nie obserwowało momentu naciśnięcia migawki.
Analizuje określone cechy materiału i na tej podstawie próbuje oszacować, czy przypominają one wzorce typowe dla treści syntetycznych.
To ważna różnica.
Detektor nie mówi:
"To zostało stworzone przez sztuczną inteligencję."
Powinieneś raczej czytać wynik jako:
"Według tego modelu materiał posiada pewne cechy, które mogą sugerować użycie sztucznej inteligencji."
Brzmi mniej efektownie.
Ale znacznie uczciwiej.
Problem pojawia się wtedy, gdy wynik zapisany jako "91%" interpretujemy jak wynik badania DNA.
Liczba wygląda bardzo naukowo.
Jest procent.
Jest pasek.
Czasem nawet czerwony kolor.
Mózg lubi takie rzeczy.
"91%" wydaje się znacznie bardziej wiarygodne niż "wydaje nam się, że coś tu jest podejrzane".
Tylko że sama obecność liczby nie zamienia narzędzia w wyrocznię.
Mój ekspres również pokazuje cyfrę 4.
Nie oznacza to, że właśnie przeprowadził badanie kliniczne kawy.
Treści generowane przez AI zmieniają się szybko. Nowe modele poprawiają błędy, zmieniają sposób tworzenia obrazu, zwiększają rozdzielczość i lepiej imitują fotografie.
Detektor próbuje nadążyć.
To trochę jak ochrona sklepu, która dostała zdjęcie złodzieja sprzed dwóch lat, podczas gdy złodziej zmienił fryzurę, okulary, kurtkę i najwyraźniej przeczytał instrukcję ochrony.
Do tego dochodzi obróbka materiału.
Zdjęcie może zostać:
przycięte,
skompresowane,
przeskalowane,
wyostrzone,
rozmyte,
przesłane przez komunikator,
zapisane ponownie,
sfotografowane z ekranu.
Każdy taki krok zmienia jego właściwości.
Materiał stworzony przez AI może po kilku przeróbkach wyglądać dla detektora mniej podejrzanie.
Prawdziwa fotografia może z kolei zostać uznana za syntetyczną, ponieważ nietypowa obróbka, światło albo kompresja przypominają wzorce, których narzędzie szuka.
Czyli dokładnie to, czego potrzebowaliśmy.
Masz narzędzie do wykrywania fałszu, które czasem podejrzewa prawdę.
Wyobraź sobie, że ktoś publikuje autentyczne zdjęcie.
Detektor oznacza je jako "prawdopodobnie AI".
Ktoś robi screenshot wyniku.
"MAMY DOWÓD."
Po chwili informacja krąży już bez żadnego kontekstu:
"Zdjęcie zostało potwierdzone jako wygenerowane."
Nie zostało.
Jedno narzędzie wyświetliło szacunek.
To nie jest drobna różnica językowa.
Jeżeli materiał dotyczy prywatnej osoby, konfliktu, przestępstwa, wojny, polityki albo innej poważnej sprawy, pochopne nazwanie autentycznego zdjęcia "fałszywym" może mieć realne konsekwencje.
Technologia służąca do walki z dezinformacją może sama stać się elementem dezinformacji, jeśli człowiek użyje jej bezmyślnie.
To trochę irytujące.
Mieliśmy kupić młotek.
Dostaliśmy młotek, który czasem twierdzi, że śruba jest gwoździem.
Nie.
To byłby równie zły wniosek.
Detektor może być pomocny jako jeden z sygnałów.
Nie jako ostateczny wyrok.
Jeżeli narzędzie wskazuje wysokie prawdopodobieństwo manipulacji, potraktuj to jako powód do dalszego sprawdzania.
Nie jako koniec sprawy.
Możesz wtedy poszukać źródła.
Sprawdzić wcześniejsze publikacje.
Porównać materiał z innymi zdjęciami tego wydarzenia.
Zobaczyć, czy autor podaje kontekst.
Sprawdzić, czy wiarygodne źródła potwierdzają zdarzenie.
To dokładnie odwrotna kolejność od tej, którą podpowiada leniwy mózg.
Leniwy mózg chce:
narzędzie ? wynik ? opinia.
Rozsądniejszy system wygląda tak:
materiał ? kontekst ? źródło ? inne dowody ? narzędzie pomocnicze ? ostrożny wniosek.
Trochę więcej pracy.
Niestety rzeczywistość nie została zaprojektowana przez dział UX.
Możesz pomyśleć:
"Dobrze. Jeden może się pomylić. Użyję trzech."
To ma sens jako dodatkowe porównanie.
Ale pojawia się kolejna pułapka.
Jeżeli trzy narzędzia dają podobny wynik, nie znaczy to automatycznie, że trzy niezależne instytucje doszły do tego samego wniosku na podstawie kompletnie różnych metod.
Mogą popełniać podobne błędy.
Mogą reagować na te same cechy materiału.
Mogą mieć problemy z podobnym rodzajem obrazu.
Trzy termometry położone na kaloryferze również będą zgodne.
Nie oznacza to, że w mieszkaniu jest czterdzieści stopni.
Dlatego wiele zgodnych wyników może zwiększyć twoją czujność, ale nadal nie zastępuje sprawdzenia pochodzenia i kontekstu.
Zwłaszcza przy treściach o wysokiej stawce.
To jeden z najważniejszych problemów.
Możesz spędzić pół godziny na próbie ustalenia, czy obraz został wygenerowany.
Tymczasem właściwe pytanie brzmi:
"Czy przedstawiona historia jest prawdziwa?"
Załóżmy, że ktoś pokazuje zdjęcie rzekomego pożaru fabryki.
Możesz analizować piksele, cienie i detektory.
Ale być może znacznie szybciej sprawdzisz, czy fabryka naprawdę dziś płonęła.
Jeżeli lokalne służby, media, mieszkańcy i oficjalne kanały potwierdzają pożar z wielu niezależnych perspektyw, znaczenie pojedynczego zdjęcia maleje.
Jeżeli natomiast nie ma żadnego śladu wydarzenia poza jednym dramatycznym obrazem, robi się ciekawiej.
Nie walcz więc zawsze z plikiem.
Sprawdzaj zdarzenie.
To ogromne uproszczenie.
I jedno z najbardziej praktycznych.
Detektory próbujące oceniać, czy tekst został napisany przez AI, również nie powinny być traktowane jak nieomylne narzędzia.
Tekst może zostać poprawiony przez człowieka.
Człowiek może pisać stylem przypominającym model językowy.
AI może pisać bardzo naturalnie.
Krótki fragment daje mało materiału do analizy.
Tekst może być tłumaczony, skracany i redagowany.
Jeżeli więc ktoś mówi:
"Detektor wykazał 96%, że ten człowiek użył AI",
nie przeskakuj automatycznie do:
"Zostało udowodnione, że użył AI".
Nie zostało.
Zwłaszcza jeśli od tego wniosku zależą poważne konsekwencje dla ucznia, pracownika, autora czy innej osoby.
Można podejrzewać.
Można sprawdzać.
Można korzystać z innych dowodów.
Ale procent z internetowej strony nie powinien samodzielnie prowadzić człowieka na cyfrową szubienicę.
Trochę za duża odpowiedzialność jak na pasek postępu.
Detektory są najbardziej przydatne wtedy, gdy traktujesz je jako fragment większej procedury.
Możesz ich użyć, gdy:
- materiał już wzbudza uzasadnione wątpliwości, - chcesz zdobyć dodatkowy sygnał, - masz możliwość porównania kilku wersji pliku, - wynik nie będzie jedyną podstawą poważnej decyzji, - rozumiesz, że "prawdopodobnie" nie znaczy "na pewno".
Warto również zwrócić uwagę, czy dane narzędzie wyjaśnia swoje ograniczenia.
Jeżeli strona obiecuje:
"WYKRYWAMY KAŻDE ZDJĘCIE AI Z 100% SKUTECZNOŚCI",
to właśnie dostałeś pierwszy test wiarygodności.
I narzędzie mogło go nie zdać.
W technologii, która ciągle się zmienia, stuprocentowa pewność powinna budzić więcej pytań niż poczucia bezpieczeństwa.
Jest jeszcze jedna praktyczna kwestia.
Prywatność.
Jeśli chcesz sprawdzić zdjęcie, dokument albo nagranie za pomocą zewnętrznego serwisu, zastanów się, co właściwie przesyłasz.
Czy jest tam twarz dziecka?
Dokument tożsamości?
Poufna rozmowa?
Materiał firmowy?
Informacje finansowe?
Dane zdrowotne?
Nie rozwiązuj jednego problemu, tworząc drugi.
"Chciałem sprawdzić, czy dokument jest fałszywy, więc wysłałem go wraz z numerem PESEL na sześć losowych stron."
Technicznie jest to strategia.
Po prostu niezbyt dobra.
Przed wysłaniem wrażliwego materiału sprawdź zasady prywatności narzędzia i zastanów się, czy w ogóle potrzebujesz takiego testu.
Czasami bezpieczniej jest zweryfikować dokument u źródła.
Możesz przyjąć prosty model.
Pierwsza warstwa to weryfikacja rzeczywistości:
kto opublikował,
skąd pochodzi,
czy istnieje oryginał,
czy są niezależne potwierdzenia,
czy historia się zgadza.
Druga warstwa to analiza techniczna:
detektory,
metadane,
szczegóły obrazu,
nietypowe artefakty,
porównania.
Pierwsza warstwa jest podstawowa.
Druga ją wspiera.
Nie odwrotnie.
To trochę jak kupowanie samochodu.
Najpierw dobrze byłoby sprawdzić, czy sprzedający naprawdę posiada samochód.
Dopiero potem można długo analizować lakier.
Jeżeli masz mało czasu, zapamiętaj jedno:
Nigdy nie publikuj stwierdzenia "to na pewno AI" wyłącznie dlatego, że jeden detektor tak powiedział.
Możesz napisać:
"Narzędzie wskazuje możliwość użycia AI, ale to nie jest rozstrzygające."
Brzmi mniej wiralowo.
Za to ma tę wadę, że jest uczciwe.
A uczciwość bywa fatalna dla zasięgów.
Jeśli wynik detektora zgadza się z innymi dowodami, świetnie.
Jeśli jest jedynym dowodem, masz przede wszystkim trop.
Nie wyrok.
W epoce fałszywych obrazów bardzo kuszące jest znalezienie maszyny, która powie nam, co jest prawdą.
Tylko że właśnie weszliśmy w epokę, w której maszyny również trzeba sprawdzać.
Trochę niezręcznie.
Ale przynajmniej wszyscy mamy zajęcie.