Slovenija > Intervjuji
12093 ogledov

"Lažni posnetki so že tako prepričljivi, da jih ne bi prepoznali s prostim očesom"

Borut Batagelj
1/5
Anže Petkovšek Borut Batagelj, pogovor o tehnologiji za prepoznavanje obrazov.
V bliskovitem napredku na področju umetne inteligence uspešno sodelujejo tudi slovenski znanstveniki. Eden izmed vodilnih na področju računalniškega vida, dr. Borut Batagelj, pravi, da so tovrstni sistemi že vse okrog nas, tudi če jih še ne opazimo.

Dr. Borut Batagelj, asistent na Fakulteti za računalništvo in informatiko (FRI) v Ljubljani in član Laboratorija za računalniški vid, se že dvajset let ukvarja s prepoznavo človeških obrazov in vzorcev na slikah in videoposnetkih. Svoje bogato znanje uporablja še kot sodni izvedenec, je pa tudi aktivni član društva za povezovanje umetnosti in znanosti, ArtNetLab.

Kako se je umetna inteligenca razvijala skozi leta?

S problemom prepoznave obraza sem se začel ukvarjati takoj po diplomi. Velik »bum« v razvoju umetne inteligence se je, po mojih opažanjih, zgodil takoj po 11. septembru. Takrat so se z njo začeli ukvarjati tudi tisti, ki jih to prej ni zanimalo. Hitro so nastale kontrolirane baze obrazov, na katerih smo se lahko znanstveniki učili, prirejati so začeli različna tekmovanja.

Kako so potekala ta tekmovanja?

Izbrali so določeno bazo, da smo se lahko primerjali med sabo, čigav algoritem je bolj uspešen.

Kdaj pa je prišlo do razvoja nevronskih mrež, na katerih temeljijo vse novodobne metode? Zakaj so toliko bolj uspešne?

Pred približno sedmimi leti, a je ideja stara že skoraj 70 let. Že prve nevronske mreže so po svoji zgradbi in delovanju posnemale možgane in uporabljale zelo enostavne funkcije, ki so posnemale nevrone. Naš cilj je, da sistem naučimo, da se nauči sam. Danes pa je novo to, da se sistem uči neposredno iz slik.

Kako torej to deluje v praksi?

Sistemu damo sliko, on se iz nje najprej nauči, kaj je značilno za obraz, kako se en obraz loči od drugega, nauči se tudi, kaj je tisto najbolj specifično za posamezen obraz. Potem deluje tako, da vse podatke razvrsti in loči, pove, kdo je kdo. Bistveno je to, da je zmožen sam prepoznati ta vzorec, ki smo ga prej skušali sami najti več let. 

Borut Batagelj | Avtor: Anže Petkovšek Anže Petkovšek

Torej je to na nek način bolj zmogljiv algoritem … 

Da, še vedno je le algoritem, a prej smo mu morali vse »ukazati« bolj specifično, zdaj mu lahko le damo sliko. A problem nastane v podatkih. 

Zakaj?

Če hočemo, da se sistem dovolj dobro nauči prepoznave obrazov, jih mora videti veliko. Problem nastane, kje dobiti te obraze. S tako velikimi bazami obrazov operirajo recimo Google, Facebook, Instagram … Tudi neodvisni raziskovalci so skušali z interneta dobiti te obraze, saj jih je veliko, recimo slavnih ljudi, ko se večkrat na fotografijah pojavijo isti obrazi. 

Kako velika mora biti baza, da sistem deluje? 

V bazi bi moralo biti približno nekaj milijonov obrazov. Googlov sistem je uporabljal 200 milijonov, Facebook 4,4 milijonov, z novo arhitekturo mreže pa so drugi raziskovalci uspeli doseči primerljive rezultate z 2,6 milijonov obrazov.

Torej so se nove metode razvile tudi zaradi razvoja socialnih omrežij, saj bi najbrž drugače težko dobili tako veliko in predvsem pestro bazo, kot jo imamo denimo na Facebooku. 

Da, imamo pa tudi precej bolj zmogljive računalnike, ki prej ne bi bili zmožni obdelati vseh teh podatkov. Vse skupaj se je na nek način »poklopilo« - računalniška moč, modificirane mreže in velika količina podatkov. Zamudno je namreč, če moraš sam na fotografiji iskati značilke. Zdaj lahko to prepustiš algoritmom, ki so precej bolj uspešni.

Prej smo vsako leto napredovali za odstotek, morda dva, po novi metodi pa je uspešnost zrasla za več kot 10 odstotkov. Baze, ki smo jih včasih uporabljali za tekmovanja, so postale neuporabne, ker so bili z njimi algoritmi 100-odstotno uspešni.

Zato so se začele pojavljati težje baze, npr. baza In the Wild, kjer so različni obrazi, najdeni na internetu, večinoma le delno frontalni. 

Borut Batagelj | Avtor: Anže Petkovšek Anže Petkovšek

Kako je zdaj, v primerjavi s časom pred prebojem novih metod?

Prejšnje obdobje je bilo drugačno, lažje smo razumeli, kaj se skriva v tej »črni škatli«, vedeli smo, na kaj se opirati – recimo na razdaljo med značilkami ali teksturo obraza, uporabljale so se različne metode. Pred tem velikim »bumom« novih metod so se stare s pridom uporabljale v kontroliranih okoljih. Veliko pa se je govorilo o tem, da algoritmi niso dovolj dobro delovali v množicah, recimo na letališčih. 

Zakaj?

Težko so delovali zaradi vseh spremenljivk. Fotografije niso bile kvalitetne, ker obraz ni sodeloval z napravo, razlike so bile v osvetlitvi, v različnih kotih, v mimiki obraza, nekateri so bili tudi delno prekriti … Zato sistemi na tak način niso delovali.

Ali niso ponekod naredili posebnih hodnikov prav s tem namenom, da bi dosegli pravo interakcijo ljudi s kamero?

Ponekod celo so, a je na letališču, kjer je pretok ljudi ogromen, to težko. Nekateri so kontrolirali biometrične potne liste, tako da je vsak moral pogledati v kamero. A ambicije vlade so bile drugačne – oni so hoteli zločince prepoznati že pred vkrcanjem, jih najti v množici.

A stvari niso delovale, kar se je jasno pokazalo recimo na ameriškem Superbowlu, ko so s pomočjo umetne inteligence kontrolirali množico, pa je bilo veliko lažnih zadetkov in »prepoznav«, ki so se izkazale za nepravilne.

Kje vidite največje prednosti uporabe te tehnologije? Kje slabosti?

Mi kot znanstveniki vse razvijamo z namenom, da se bo to uporabilo za dobro. Vseeno pa se zavedamo, da lahko takšna tehnologija pride v neprave roke in se jo uporabi za slabe namene. Problem je tudi v tem, da z novimi metodami ne vemo točno, česa vse se je sistem naučil. Ta »črna škatla« je torej dosti težje razumljiva, zato moramo biti toliko bolj pazljivi.

Umetna inteligenca | Avtor: Profimedias Profimedias

… Recimo? 

Če smo sistem naučili prepoznavati frontalni obraz, ga bo torej znal prepoznati. A uspešen bo bil večinoma samo pri frontalnih fotografijah, pri ostalih precej manj. Težava je v tem, da lahko recimo organi pregona začnejo uporabljati takšen sistem, pa ga v resnici ne razumejo in slepo verjamejo vsemu, kar se jim izpiše na ekranu. Takšno sklepanje je nepremišljeno, saj mora biti vselej prisoten človeški faktor presoje.  

Za kaj vse lahko torej organi pregona uporabljajo tovrstne sisteme?

Področij uporabe je res ogromno – lahko jih uporabljajo za lov za zločince, za iskanje ugrabljenih in pogrešanih, za nadzor … Obstajajo tudi algoritmi, ki umetno postarajo obraz, da se lažje identificira tiste, ki so že dalj časa pogrešani. Vseeno pa se z leti obraz delno spreminja, tako da se uspešnost algoritma s časom manjša. 

Kako torej najti tisto pot, ki bo pomagala iskati zločince, obenem pa zavarovala zasebnost vseh drugih podatkov?

Tako je: tiste podatke, ki jih objavimo na internetu, tam ostanejo, za vedno. Spornih stvari pa je na tem področju veliko, hitro lahko pride do zlorab. Hramba obrazov, fotografij kot takih, zagotovo ni v redu. Da pa se iz obraza izločiti neke značilke, ki pa niso nič drugega kot številke. Torej, če nimaš programa za uporabo teh številk, ti nič ne pomenijo. Vsi takšni sistemi bi morali delovati tako, da ne bi bilo povezave med številko in obrazom. Kar vidimo v praksi pa je, da ni prave politike, ki bi zaščitila te podatke. 

Kaj pa, če bi bilo mogoče iz tovrstnih baz obrazov svojega izbrisati?

Vsekakor je treba razmišljati z obeh strani – s strani uporabnika bi bilo to zelo pošteno. A tudi zločinci so uporabniki in najbrž so pripravljeni narediti vse, da bi se lahko izbrisali iz takšne baze. Jaz bi tehnologijo pustil, le da organi pregona morajo vedeti, kaj delajo in se ne smejo zanašati zgolj na tehnologijo. Morajo iskati druge dokaze. Je pa algoritem lahko v veliko pomoč – med drugim tudi očividcem. 

Borut Batagelj | Avtor: Anže Petkovšek Anže Petkovšek

Torej, kot orodje za pomoč da, ne smemo pa mu slepo zaupati. Kdo lahko še, poleg policije, uporablja sisteme za prepoznavo obraza?

Uporabljajo jih lahko tudi banke, za dodatno zaščito, trgovci za plačevanje z obrazom … Najdejo se tudi v elektroniki in oglaševanju. Primer je oglasni pano, kjer se oglasi prilagajajo opazovalcu. Recimo, če oglas opazuje otrok, bodo oglaševali nove lego kocke, če pride ženska, bi ji ponudil nekaj drugega, meni bi recimo ponudili brivski aparat. Oglasni pano s kamero torej zazna, kdo si ga trenutno ogleduje in skladno z ugotovitvijo ponudi primeren oglas. 

Zasledila sem poročila, da se prepoznava obraza lahko uporablja tudi v medicini in psihologiji, recimo za analizo izrazov na obrazu ali pa za prepoznavo zgodnjih stopenj bolezenskih sprememb. 

Da, to je le nekaj primerov v celi množici. Ugotovili so, da se z obrazov da razbrati marsikaj – med drugim bojda tudi spolno usmerjenost. Uspešnost umetne inteligence je bila na tem področju nepričakovano visoka! 

Ste tudi sodni izvedenec za računalniško forenziko. Kaj točno počnete?

Jaz pridem na vrsto šele, ko je stvar na sodišču, ponavadi dobim fotografije iz nadzornih kamer, vprašajo pa me, če je oseba, ki sedi v dvorani, tudi oseba s fotografije. Zame je velika sreča, če je obraz na fotografiji zajet frontalno. Te kamere so pozicionirane nad očmi in zajamejo obraz od zgoraj. To je pomanjkljivost, ker je sistem večinoma naučen na frontalne obraze. Druga pomanjkljivost je kakovost takšnih posnetkov, ker so kamere daleč od obraza. Če je posnetek nastal ponoči, je zaradi osvetlitve vse še težje. Lahko si pomagamo z različnimi metodami izboljšave, če imamo obraz zajet z različnih kotov, lahko naredimo 3D rekonstrukcijo obraza in tako naprej. Največkrat pa iščemo vse druge vidne karakteristike, ki morda izstopajo iz povprečja – če ima osumljenec nekoliko poseben nos, hojo, držo, ocenimo tudi višino. Izstopajo lahko tudi znamenja, tatuji. 

umor kri prizorišče zločina | Avtor: Profimedia Profimedia

Glede na to, da imate stik z obsojenimi zločinci, si predstavljam, da zna biti vaše delo precej stresno … 

V prvi vrsti je zelo odgovorno. Naredim, kar se da, a če fotografija ni dovolj kakovostna, raje rečem, da ne morem trditi z gotovostjo, ker se zavedam, koliko stvari lahko vpliva nanjo - torej zorni koti, spremembe, svetloba ipd.

Včasih se res zgodi, da so fotografije takšne, da z gotovostjo zatrdim, da je storilec res na fotografiji ali da zagotovo ni. Drugače pa povem, kakšna je verjetnost in pustim, da o tem odločajo drugi. Vseeno pa moram priznati, da sem takšne vrste človek, da je to zame zelo stresno. Danes sem bil pred intervjujem v zaporu in pred obiskom kar nisem vedel, česa me je bolj strah. (smeh)

Zanimivo. Do kakšne ugotovitve ste prišli? 

Da me je bilo precej bolj strah prvega. Ko sem prišel iz zapora, se mi je odvalil kamen od srca. Nekoga, ki je tam priprt, sem moral poslikati in zmeriti. Ni enostavno. Nikoli ne veš, kako bo ta oseba odreagirala. Včasih mi je res težko, ko berem kartoteko obsojenca in spoznam ozadje, ker ga morem, da vem, da razumem primer, da sem pozoren na vse stvari. Potem, ko vidiš, kakšna grozodejstva je storil in ga moraš iti v zapor poslikati in izmeriti … Vedno zahtevam, da gre z menoj kakšen pravosodni policist. 

Roboti Intervju Avto Matjaž Gams: Pred nami so fantastični časi

Prej ste omenili več načinov, kako prepoznati določeno osebo. Ali je to možno tudi na podlagi hoje? 

Da, tudi s tem se ukvarjamo. Če pomislite: ko vidite neko bližnjo osebo v mraku, ko hodi proti vam, boste vedeli, kdo je. To nam je dalo misliti, da je tudi hoja ena izmed značilnosti osebe. Mi z računalniškim vidom identificiramo sklepe in definiramo, kako se premikajo točke. Na podlagi tega lahko torej že po hoji identificiramo osebo.

Po čem je še možno prepoznati ljudi?

Najnovejše, kar razvijamo, je prepoznava uhlja. Tudi to je zelo koristna metoda, ki mi je večkrat prišla prav na sodišču, ko so bile osebe na fotografijah zamaskirane. 

Prej sva govorila o slabih straneh umetne inteligence in o varovanju podatkov. Omenili ste, da je mogoče bazo fotografij pretvoriti v številke in se izogniti zlorabi. Ali obstaja še več načinov, kako zaobiti polemike glede varnosti ter vseeno razvijati kakovostne sisteme, ki bodo vsem v pomoč?

Da, za to uporabljamo t. i. deidentifikacijo, kar pomeni, da zakrijemo ID osebe. Na posnetku zamenjamo obraz z drugim, s tem, da ohranimo vse – spol, videz, izraz – le obraz spremenimo do te mere, da prepoznava ne deluje več. A po drugi strani se lahko ista metoda uporabi tudi za lažne novice, ki so zdaj tako popularne. S takšnimi fotografijami in videoposnetki se zavaja javnost.

Kako zahtevno je sploh posneti tak videoposnetek in kako verjetno je, da nas preslepi?

To je zelo aktualna raziskovalna tema, s katero se že nekaj časa ukvarjamo. V resnici je zamenjava obraza zelo preprosta – ko namestite program, izberete videoposnetek, v katerem bi si želeli »nastopati«, nato pa le še posnamete sami sebe v različnih kotih in z različnimi izrazi na obrazu.

Z malo truda lahko zgleda posnetek tako realističen, da s prostim očesom ne boste opazili razlike. 

Bi vi kot strokovnjak prepoznali lažen posnetek?

Najbrž bi, a jaz se s tem ukvarjam praktično celo življenje. Vem, kako metode delujejo in vem, na kaj moram biti pozoren. Se pa trudimo razviti metode, ki bi prepoznale lažne posnetke.

Tudi vi se ukvarjate z bolj »zabavnimi« uporabami umetne inteligence, kajne?

Da, predvsem v umetniške namene. Razvili smo recimo »pop art«, ki se prilagaja obrazu, izdelujemo interaktivne umetniške stvaritve, recimo da se slika prilagodi na vaše počutje, da se spreminja glede na to, kako se premikate pred njo in tako naprej. Stvaritve predstavimo na informativnih dnevih, na umetniških festivalih, na sejmih ter v okviru predmeta. 

Borut Batagelj | Avtor: Anže Petkovšek Anže Petkovšek

Kaj nas čaka v prihodnje?

Največja nevarnost nam trenutno predstavlja to, da ne vemo, kaj vse se lahko sistem nauči. Poleg tega ga lahko precej hitro s stvarmi, ki se nam zdijo enostavne, zmedemo – še posebej, če ga nismo prej naučili. 

Kakšen konkreten primer?

Na primer, mi prepoznavamo predmete tudi brez konteksta, pod različnimi koti. Umetna inteligenca pa ima s tem včasih probleme. Obstajajo baze, ki izboljšujejo algoritme – baze fotografij, kjer vsi algoritmi »pogrnejo«. Tam najdemo recimo fotografijo, kjer je na postelji kladivo – torej predmet, ki ga tam nikoli ne bi pričakoval. Če ga nikoli ni bilo v množici, sistem ne bo vedel, da je to kladivo, zato, ker ga v tem kontekstu ne pozna. Nekateri sistemi niso prav naučeni in se s takimi stvarmi izboljšujejo.

Kje pa so omejitve v razvoju umetne inteligence? Ali sploh obstajajo?

Meje bi morali postaviti mi, ljudje. Umetna inteligenca je na določenih področjih že bolj sposobna od ljudi. Premagala je recimo najboljšega igralca igre Go na svetu. Tudi na področju prepoznave obraza lahko tekmuje z eksperti. A so bili obrazi verjetno frontalni, jasni, pravilno osvetljeni – v nasprotnem primeru še zdaleč ni tako uspešna.

Bi pomagala regulacija?

V resnici je največji problem, da uporabniki ne znajo ravnati s sistemi, jih ne razumejo. Je pa predvidena tudi regulacija s strani Evropske komisije, ki bi prepovedala uporabo tovrstnih algoritmov, dokler se ne postavijo primerni zakoni. Tudi sam bi si želel, da se področje uredi, ker se dela z zelo občutljivimi podatki. Clearview ima recimo bazo vseh fotografij obrazov z interneta, baje, da njihovo aplikacijo uporablja že kakšnih 600 agencij in policijskih postaj po vsem svetu.

Se bojite možnih zlorab?

Da, ker jih je veliko. S tem, ko v trgovini plačate s kartico, že veliko poveste o sebi. Na spletu je še huje – ta ti ponudi vse, kar si kdajkoli iskal. Veliko se tudi govori o tem, da so reklame prilagojene vsebini vaše elektronske pošte. Predvsem se moramo zavedati dejstva, da bo vse, kar objavimo recimo na Facebooku, tam ostalo, tudi če sami izbrišemo.

Vsaka aplikacija, ki jo namestimo, recimo tista za postaranje obraza, obdrži našo fotografijo v sistemu. Tudi prej omenjenemu programu Clearview očitajo, da ima dostop do vseh poizvedb, ki jih organi pregona naredijo. Verjamem, da so v ozadju trgovanja s tovrstnimi podatki umazane igre. 

 

Avto Hyundai bodo kopirali vaš slog vožnje Terminator Promo Zanimivo “Virtualna bitja so izbrana in ljubljena, ker nikoli ne razočarajo"

 


 

Komentarjev 3
  • nothoco 05:30 17.februar 2020.

    www.Badoo.red - spletna stran za zmenke za odrasle, ki želijo najti partnerja za seks

  • ticedi 02:41 17.februar 2020.

    www.Badoo.red - spletna stran za zmenke za odrasle, ki želijo najti partnerja za seks

  • tinfedisc 23:30 16.februar 2020.

    www.Badoo.red - spletna stran za zmenke za odrasle, ki želijo najti partnerja za seks

Sorodne novice