Deepfake, fałszywe głosy, cyfrowe „klony” ludzi… Czy AI to eldorado dla złodziei pieniędzy? Pytam amerykańskiego eksperta od fraudów z użyciem AI

Sztuczna inteligencja miała pomóc bankom, firmom i instytucjom publicznym szybciej wykrywać fraudy, blokować podejrzane transakcje i lepiej chronić klientów przed oszustami. I rzeczywiście może to robić. Ale problem polega na tym, że z tej samej technologii korzystają również przestępcy. Deepfake’s, fałszywe głosy, cyfrowe „klony” ludzi, automatyczne wyszukiwanie luk w zabezpieczeniach i coraz bardziej przekonujące oszustwa socjotechniczne sprawiają, że wyścig między oszustami a systemami bezpieczeństwa przyspiesza

Ujawnienie: wywiad powstał podczas konferencji SAS Finnovate 2026 w Dallas, na którą autor „Subiektywnie o Finansach” został zaproszony na kosz organizatora, czyli firmy SAS

Czy systemy antyfraudowe oparte na AI są dziś wystarczająco skuteczne? Czy czeka nas gigantyczny wyciek danych wywołany przez sztuczną inteligencję? Kto odpowiada za sytuację, w której bankowy system nie zatrzyma oszustwa, choć miał chronić klienta? I czy cyberbezpieczeństwo jest dziś bardziej zaawansowane w sektorze prywatnym niż publicznym?

O tym rozmawiam z Gregiem Hendersonem, ekspertem SAS zajmującym się przeciwdziałaniem fraudom i bezpieczeństwem danych. Z rozmowy wyłania się teza, że AI nie jest ani cudowną tarczą, ani wyłącznie zagrożeniem. Jest kolejnym etapem technologicznego wyścigu. Przestępcy będą używać jej kreatywnie, a firmy i instytucje muszą robić wszystko, żeby nie zostać za nimi daleko w tyle. Jak mówi nasz rozmówca: celem nie jest bycie dziesięć kroków za oszustami, lecz najwyżej jeden krok za nimi — i szybkie zamykanie luk, gdy tylko zostaną odkryte.

A że „coś” zaczyna się dziać jeśli chodzi o rosnące ryzyko AI jeśli chodzi o nasze pieniądze – to widać gołym okiem. Największe banki w USA już wykrywają na kontach klientów aktywność zewnętrznych agentów sztucznej inteligencji. Według źródeł serwisu część takich narzędzi miała podejmować działania wyglądające na niezależne od poleceń użytkowników.

Są przypadki, w których agenci AI kontaktowali się z centrami obsługi klienta banków albo podejmowały działania wyglądające na niezależne od instrukcji klienta. Banki mają coraz większe trudności z ustaleniem, czy daną aktywność na koncie zainicjował klient, czy działający w jego imieniu agent AI. A tym bardziej – czy przypadkiem nie jest to bot działający niezależnie od klienta, który w jakiś sposób dostał się na jego konto.

Czy systemy AI skutecznie wykrywają fraudy?

Jak dobrze działają dziś systemy oparte na AI? Czy istnieje jakiś sufit możliwości systemów wykrywania fraudów? Czy raczej „sky is the limit” i sztuczna inteligencja może zrobić wszystko?

Zajmuję się tym od 25 lat i prawda jest taka, że zawsze próbujemy być jeden krok za przestępcami, a nie dziesięć. To stale zmieniające się środowisko. Trzeba nieustannie rozwijać technologie, żeby pokrywać najnowsze ekspozycje i zagrożenia odkrywane przez bardzo kreatywnych przestępców.

AI jest dziś jednym z najważniejszych nowych zagrożeń. W świecie fraudów sztuczna inteligencja jest mieczem obosiecznym. Nasi przeciwnicy używają jej do popełniania oszustw, a my próbujemy wykorzystywać ją do ich wykrywania i zapobiegania im. Dobrym przykładem są deepfake’i. Przez lata wiele kontroli bezpieczeństwa opierało się na biometrii, rozpoznawaniu twarzy, głosu i podobnych metodach identyfikacji. To kiedyś było traktowane jako silne potwierdzenie tożsamości.

Dziś dzięki deepfake’om można podrobić głos, twarz, właściwie stworzyć cyfrowego bliźniaka człowieka. To daje przestępcom możliwość obchodzenia zabezpieczeń, które przez lata działały dobrze. Technologia się rozwija, oni rozwijają sposób jej używania, więc my także musimy nauczyć się działać w tym nowym świecie.

Załóżmy, że dochodzi do wycieku danych albo klient zostaje oszukany z powodu błędu systemu AI w banku, który miał zapobiegać fraudom. Klientowi obiecywano, że takie sytuacje się nie wydarzą. Kto ponosi odpowiedzialność? Kogo można winić?

Wina i odpowiedzialność to dwie różne rzeczy, więc można odpowiedzieć na to inaczej w zależności od tego, którego pojęcia używamy. Ostatecznie depozytariusz ma odpowiedzialność powierniczą. A odpowiedzialność powiernicza niesie ze sobą również odpowiedzialność prawną. Banki to rozumieją. To jest świat, w którym działają.

W przypadku banku istnieje więc odpowiedzialność i potencjalna odpowiedzialność odszkodowawcza. Ale gdy wyjdziemy poza sektor finansowy, sprawa staje się mniej jednoznaczna. Inne branże nie są aż tak regulowane i kontrolowane. Jako konsumenci zawieramy relacje z różnymi firmami. Część tej relacji opiera się na zaufaniu, ale zwykle istnieje też jakaś forma umowy prawnej. Gdy rejestrujemy się w usłudze online i klikamy „zgadzam się z regulaminem”, zawieramy umowę. Większość z nas jej nie czyta, bo ma 90 stron. Ale formalnie godzimy się na określone warunki.

Moim zdaniem właśnie tu jest luka, jeśli chodzi o potencjalne fraudy. Ludzie nie zawsze rozumieją, na co się zgadzają, gdy klikają takie pola. Byłoby dobrze, gdybyśmy poprawili sposób, w jaki ten proces działa. Ale osobiście nie jestem zwolennikiem nadmiernego regulowania relacji umownych między stronami i narzucania im konkretnych kształtów, jeśli nie ma w tym oszustwa, wprowadzania w błąd albo innych nadużyć.

W wolnorynkowym podejściu strony powinny móc same decydować, gdzie leży ryzyko i jak rozłożona jest odpowiedzialność za fraudy. Problem w tym, że konsumenci często nie rozumieją, co podpisują.

Czy firmy dbają dziś wystarczająco o bezpieczeństwo?

Czy Pana zdaniem firmy podejmują dziś wystarczające środki ostrożności w zakresie bezpieczeństwa? Co można zrobić, by zwiększyć cyberbezpieczeństwo współczesnych firm?

W kwestii wystarczających środków ostrożności, to zależy od branży. Sektor finansowy jest liderem. Banki i inne instytucje finansowe od dawna dużo inwestują w bezpieczeństwo, bo mają znacznie wyższy poziom ekspozycji na ryzyko niż wiele innych organizacji. Jeśli spojrzymy na przykład na producentów przemysłowych, oni często nie uważają, że fraudy to duże zagrożenie. Dlatego ich działania zabezpieczające są mniejsze.

Ale to nie znaczy, że nie są narażeni. Wciąż istnieją istotne możliwości nadużyć w procesach zakupowych, zamówieniach, a także w obszarze fraudów wewnętrznych. Po prostu te firmy często nie odczuwają tego zagrożenia tak silnie jak sektor finansowy. Jednocześnie nie uważam, że wszystkie firmy powinny być regulowane w zakresie zapobiegania fraudom tak jak banki. Instytucje finansowe powinny być regulowane, ponieważ są depozytariuszami cudzych pieniędzy. Mają wyższy poziom odpowiedzialności za zapewnienie, że te pieniądze są bezpieczne.

Producent przemysłowy nie przechowuje pieniędzy innych ludzi w taki sam sposób. Jego decyzje biznesowe dotyczące inwestycji w kontrole antyfraudowe wpływają przede wszystkim na niego samego. Jeśli ktoś chce zadbać o cyberbezpieczeństwo w swojej firmie, to we wszystkich branżach najważniejsze jest warstwowe podejście do ochrony.

Gdy dochodzi do naruszenia bezpieczeństwa, zwykle mamy do czynienia z sekwencją awarii w całym ekosystemie zabezpieczeń. Im więcej warstw ochrony, tym większa szansa, że atakujący nie zdoła przejść przez wszystkie. Można to porównać do dziesięciu zamkniętych drzwi. Każde wymagają innego klucza. Żeby wyrządzić szkodę, trzeba zdobyć wszystkie dziesięć kluczy i przejść przez każde drzwi po kolei.

Im więcej takich warstw w infrastrukturze bezpieczeństwa, tym mniejsze prawdopodobieństwo, że ktoś zdoła przebić się przez wszystkie i doprowadzić do wycieku albo innego poważnego incydentu. Fraudy są wtedy dużo mniej prawdopodobne.

CZYTAJ TEŻ:

Czy czekają nas niebawem wycieki danych i fraudy w związku z AI?

No właśnie, w kwestii incydentów bezpieczeństwa, czy spodziewa się Pan większych wycieków danych w najbliższych latach? Czy będą z tego wielkie fraudy? Niektórzy przewidują, że wraz z rozwojem AI nadejdzie moment wielkiego wycieku danych. Modele AI mają coraz więcej informacji o naszym życiu. Jeśli takie dane wyciekną, mogą posłużyć do szantażu i wielu innych nadużyć.

Nie sądzę, żebyśmy stali przed jakimś scenariuszem końca świata. Nie wierzę, że czeka nas jedno ogromne wydarzenie, które będzie nieporównywalnie większe od wszystkich dotychczasowych naruszeń. Nie boję się tego w najbliższej przyszłości. Myślę, że nadal będziemy obserwować wycieki danych, będą zdarzały się fraudy z tego powodu. Będą się nasilać, a problemy będą poważniejsze. Ale nie uważam, że z powodu AI z dnia na dzień sytuacja stanie się wykładniczo gorsza.

AI może sprawić, że więcej osób będzie potencjalnie zdolnych do infiltracji systemów. Ale nie sądzę, żeby pojedyncze incydenty musiały automatycznie stać się znacznie większe. To po prostu kolejny etap ewolucji technologii. Tak jak przy wcześniejszych przełomach, każda technologia ma dobre i złe zastosowania. Naszym zadaniem jest używanie najlepszych dostępnych narzędzi, technologii i wiedzy ludzi, żeby chronić się przed złymi zastosowaniami.

Często dostaję pytania, czy świat jest dziś bezpieczniejszym miejscem dzięki AI. I ogólnie nie powiedziałbym, że świat jest dziś bezpieczniejszym miejscem. Ale powodów jest wiele i nie wszystkie mają związek z AI. Dlaczego? Bo tak wygląda historia technologii od zawsze. Ludzie pierwotni odkryli ogień — to był ogromny postęp dla społeczeństwa, ale ognia można też użyć, żeby spalić komuś dom. Reaktory jądrowe doprowadziły do powstania energii jądrowej, ale też bomb atomowych.

AI jest kolejnym takim przykładem. Pytanie brzmi, czy dobro wynikające z technologii przeważa nad potencjalnym złem. Zwykle technologie powstają z myślą o dobrym zastosowaniu, a potem ktoś znajduje sposób, by użyć ich do wyrządzania szkód. Dlatego nie uważam, że powinniśmy rezygnować z używania technologii do dobrych celów tylko dlatego, że może zostać użyta źle. Nie powiedziałbym więc, że AI jest zła tylko dlatego, że może być użyta w zły sposób. Ma realne pozytywne zastosowania i już je widzimy.

Gdzie trafiają dane z ogromnych modeli AI? Co z prywatnością?

Czy dane przechowywane w modelach AI — nie mówię tylko o ChatGPT czy Gemini, ale o takich systemach ogólnie — rzeczywiście pozostają wyłącznie w firmach, które je gromadzą? Czy mogą być przekazywane rządom?

To wraca do polityk i regulaminów, na które zgadzamy się, gdy wkładamy dane do takich systemów. Moim zdaniem największym ryzykiem jest to, że ludzie nie rozumieją, co oddają. Nazywa się to politykami prywatności, ale gdy się je przeczyta, często mówią więcej o tym, co firma może zrobić z danymi, niż o tym, czego nie może zrobić.

Nie widzę tu scenariusza katastroficznego, bo te dane istnieją od dawna. Po prostu dziś mamy lepsze narzędzia do ich wykorzystywania. Większym problemem jest dla mnie to, że ludzie zgadzają się na rzeczy, których nie rozumieją, a potem ich dane są używane w sposób, którego się nie spodziewali. Nie dlatego, że ktoś koniecznie złamał umowę, ale dlatego, że użytkownik nie zrozumiał, na co się zgodził.

Oczywiście zawsze istnieje ryzyko, że firma wykorzysta dane niezgodnie z umową. Ale większym problemem jest powszechne niezrozumienie tego, co podpisujemy. Jeśli jest tu miejsce na poprawę, to właśnie tam: w edukowaniu ludzi, na co się zgadzają, jak ważne jest czytanie warunków i co może stać się z ich danymi. Być może warto też uregulować ten proces w pewnym zakresie, żeby ludzie mieli większą gwarancję, że rozumieją, na co wyrażają zgodę.

Gdzie cyberbezpieczeństwo działa lepiej: w sektorze publicznym czy prywatnym?

Czy cyberbezpieczeństwo jest bardziej zaawansowane w sektorze prywatnym czy publicznym? A może nie ma większej różnicy?

Zdecydowanie w sektorze prywatnym. Tam banki prawdopodobnie są liderami, jeśli chodzi o właściwe kontrole bezpieczeństwa. Wynika to z poziomu ryzyka. Dużo pracuję z administracją publiczną i nie mówię tego jako krytyki rządu, ale generalnie sektor publiczny jest zwykle za sektorem prywatnym, jeśli chodzi o technologię. Dotyczy to cyberbezpieczeństwa, ale też technologii jako ogółu.

Administracja zwykle nie jest na absolutnym froncie — może z wyjątkiem obronności, gdzie często rzeczywiście jest liderem. W większości przypadków sektor publiczny przyjmuje technologie i najlepsze praktyki z sektora komercyjnego, a następnie wdraża je u siebie.

Dziś największym wyzwaniem jest zmniejszenie dystansu między przestępcami wykorzystującymi zaawansowaną technologię a nami, którzy również próbujemy wykorzystywać zaawansowaną technologię, żeby ich powstrzymać. Gdy oni się unowocześniają, my też musimy. Chodzi o to, żeby luka czasowa i technologiczna była jak najmniejsza. Nie chcemy być trzy generacje technologii do tyłu. Chcemy być jedną albo mniej.

W tej branży rzadko można naprawdę wyprzedzić grę. Nie zawsze da się przewidzieć, co przestępcy zrobią jako następne. Chodzi więc o to, żeby być tuż za nimi. Gdy tylko znajdą lukę, trzeba ją szybko zamknąć. To być może zabrzmi trochę prozaicznie, ale… nie wiesz tego, czego nie wiesz — dopóki się nie dowiesz. Ale gdy już wiesz, pytanie brzmi, jak szybko potrafisz wprowadzić coś, co zapobiegnie dalszej eskalacji problemu. Na tym polega nasza praca.

CZYTAJ TEŻ:

———————————-

ZAPISZ SIĘ NA NASZE NEWSLETTERY:

>>> W każdy weekend sam Samcik podsumowuje tydzień wokół Twojego portfela. Co wydarzenia ostatnich dni oznaczają dla Twoich pieniędzy? Jakie powinieneś wyciągnąć wnioski dla oszczędności? Kliknij i się zapisz.

>>> Newsletter „Subiektywnie o Świ(e)cie i Technologiach” będziesz dostawać na swoją skrzynkę e-mail w każdy czwartek bladym świtem. Będzie to podsumowanie najważniejszych rzeczy, o których musisz wiedzieć ze świata wielkich finansów, banków centralnych, najpotężniejszych korporacji oraz nowych technologii. Kliknij i się zapisz.

———————————-

zdjęcie tytułowe: Pixabay