V nadaljevanju preberite:
- Vse več goljufij, ki uporabljajo umetno inteligenco, ponaredke in sintetične identitete, da bi uspešno opravili razgovore za službo, dobili službo za delo na daljavo in se infiltrirali v omrežja podjetij.
- Gartner v poročilu napoveduje, da bi lahko bil v treh letih – do leta 2028 –vsak četrti profil kandidata po vsem svetu ponarejen.
- Nacionalni odzivni center za kibernetsko varnost SI-CERT pojasnjuje, kakšno je stanje v Sloveniji.
Umetna inteligenca z nadzvočno hitrostjo drvi iz polja preizpraševanja o občasni uporabi v ključen del naših življenj in tudi številnih delovnih mest. Postaja sestavni del iskanja informacij, vir nasvetov, učitelj, ki pregleduje naše naloge in pomočnik pri ustvarjanju.
Nič čudnega, da je vse več tudi potenciala za zlorabo, ki ga šele sproti odkrivamo. V zadnjem času smo tako priča razmahu spletnih goljufij posebne vrste, ki jih American Staffing Organization opisuje kot zlonamerne akterje, ki uporabljajo generativno umetno inteligenco, ponaredke in sintetične identitete, da bi uspešno opravili razgovore za službo, dobili službo za delo na daljavo in se infiltrirali v omrežja podjetij.
Letna napoved prihodnosti goljufij, ki jo je pripravil Experian, izpostavlja grožnje goljufij, ki jih povzroča umetna inteligenca in tehnologija, in so usmerjene v potrošnike in organizacije, in ocenjuje, da so svetovne izgube zaradi goljufij presegle 12,5 milijarde dolarjev.
Experian napoveduje, da bodo ponaredki prelisičili kadrovsko službo in jih uvršča med drugo največjo grožnjo. Goljufije pri zaposlovanju se bodo stopnjevale pri delu na daljavo, saj generativna orodja umetne inteligence ustvarjajo hiperprilagojene življenjepise in ponarejene kandidate, ki so sposobni opraviti razgovore v realnem času.
"Generativna umetna inteligenca je zabrisala mejo med tem, kaj pomeni biti človek, in tem, kaj pomeni biti stroj," je za CNBC dejal Vijay Balasubramaniyan, izvršni direktor in soustanovitelj podjetja Pindrop.
Problem goljufij s kandidati se morda le še poslabšuje. V treh letih - do leta 2028 - bi lahko bil vsak četrti profil kandidata po vsem svetu ponarejen, ugotavlja Gartnerjevo poročilo z dne 31. julij.
Kibernetske kriminalce še posebej privlačijo "delovna mesta z delom na daljavo in dostopom do občutljivih sistemov, financ in razvojne ali intelektualne lastnine," pravi McQuiggan, zagovornik ozaveščenosti o varnosti pri KnowBe4.
"Videz in glas sogovornika je vse težje uporabljati kot zanesljiv dokaz identitete"
Nacionalni odzivni center za kibernetsko varnost SI-CERT (Slovenian Computer Emergency Response Team) opravlja koordinacijo razreševanja incidentov, tehnično svetovanje ob vdorih, računalniških okužbah in drugih zlorabah ter izdaja opozorila za upravitelje omrežij in širšo javnost o trenutnih grožnjah na elektronskih omrežjih. Miloš Gajić iz SI-CERT za Žurnal24 odgovarja o izkušnjah s spletnimi goljufijami te vrste v Sloveniji.
Ali ste se pri svojem delu že srečali z lažnimi prijavami na delovna mesta v obliki neobstoječih oseb tudi v Sloveniji?
S primeri t. i. lažnih kandidatov, ki se z uporabo ponarejenih identitet in umetne inteligence poskušajo infiltrirati v podjetja, smo sicer seznanjeni, vendar takšnega primera v Sloveniji pri obravnavi incidentov oziroma prijav doslej še nismo zaznali. V Sloveniji, v kontekstu "remote dela", sicer bolj zaznavamo prevare povezane z lažnimi ponudbami za delo od doma (kar pa je dostikrat zgolj pretveza za t.i. "denarno mulo").
Kako pogosto se vam zdi to? Pričakujete porast tega pri nas?
Za Slovenijo nimamo dovolj podatkov, da bi lahko podali zanesljivo oceno. Glede na bliskovit razvoj tehnologije pa lahko pričakujemo, da bo generativna UI goljufom vsekakor olajšala ustvarjanje prepričljivih lažnih identitet in komunikacije, zato je pojava takšnih poskusov tudi pri nas zgolj vprašanje časa.
Kako goljufi ustvarijo oziroma predstavijo lažnega kandidata?
Pri klasičnih spletnih prevarah pogosto uporabljajo ukradene ali ponarejene osebne podatke, lažne profile in ponarejene/ukradene dokumente. Generativna UI pa omogoča, da je takšna identiteta precej bolj prepričljiva – od življenjepisa in elektronske komunikacije, predvsem pa v obliki fotografij, glasu in videa (tudi v živo).
Mimogrede, takšne primere npr. javno izpostavljajo tudi t. i. scam hunterji, med njimi morda za izpostaviti Jim Browning-a. Zelo dobro je npr. dokumentiran pojav severnokorejskih IT-delavcev, ki se z ukradenimi identitetami in ponarejenimi življenjepisi predstavljajo kot legitimni kandidati za zaposlitev in se poskušajo zaposliti v zahodnih podjetjih. Gl. tudi različne oblike preverjanja sogovornika (t.i. test filtra s postavitvijo prstov pred obraz): https://www.bbc.co.uk/programmes/p0p1yws2.
Kako se pri tem uporablja generativna UI?
Predvsem kot orodje za avtomatizacijo in izboljšanje prepričljivosti prevare. Uporabi se lahko za pripravo življenjepisa, komunikacijo z delodajalcem, prevajanje in ustvarjanje zelo kakovostnih besedil ali projektov (npr. programska koda) pa tudi oz. predvsem (kot že omenjeno) za izdelavo oziroma manipulacijo fotografij, glasu in videoposnetkov.
T.i. ustvarjene (ne v živo) "deepfake" vsebine smo pri SI-CERT že zaznali pri drugih oblikah prevar, predvsem pri oglaševanju kriptoinvesticijskih prevar, kjer so zlorabljene podobe, glas oz. posnetki znanih oseb. Zaznali smo pa tudi primere zlorabe oziroma posnemanja glasu v različnih oblikah t.i. "direktorskih prevar".
Kako se lahko delodajalci zaščitijo?
Ključno je, da identitete kandidata ne preverjajo samo na podlagi informacij, ki jih kandidat sam posreduje. Podatke je smiselno preverjati iz več neodvisnih virov, pri bolj občutljivih delovnih mestih pa uvesti dodatne postopke preverjanja identitete in preteklosti kandidata. V razmislek tudi, da se novemu zaposlenemu dostopov do sistemov ne dodeli več, kot jih dejansko potrebuje.
Ali videoklic kmalu ne bo več zadosten dokaz identitete?
Videoklic je že danes lahko zgolj eden od elementov preverjanja identitete, ne pa samostojen dokaz. Razvoj t.i. deepfake tehnologije pomeni, da bo tudi videz in glas sogovornika (žal) vse težje uporabljati kot zanesljiv dokaz identitete.
Na kaj naj bodo delodajalci pozorni?
Najbolj naj bodo pozorni na naslednje:
- Neskladja med življenjepisom, javno dostopnimi informacijami in podatki kandidata;
- spletne profile z malo zgodovine;
- izogibanje določenim oblikam preverjanja identitete (gl. zgoraj omenjeni test z dlanjo pred obrazom);
- nenavadno vedenje med videoklicem, vendar tega samega po sebi ne smemo razumeti kot dokaz prevare;
- zahteve po hitrem postopku zaposlitve ali pritisk, da se običajni postopki preverjanja preskočijo.
Najpomembneje pa je, da delodajalec identitete ne ocenjuje na podlagi enega samega indikatorja. V bodoče tudi zelo prepričljiv videoklic, fotografija ali dokument ne bodo nujno dokaz, da oseba dejansko obstaja oziroma da je to oseba, za katero se predstavlja.
Morda vas zanima tudi: