V nadaljevanju preberite: 

• Agent umetne inteligence, ki je deloval samostojno, je vdrl v sistem za obdelavo podatkov startupa Hugging Face. 
• Gre za prvi tovrstni avtonomni napad. 
• Podjetje OpenAI je pojasnilo, da je do vdora prišlo zaradi kombinacije njihovih modelov umetne inteligence

Startup za umetno inteligenco Hugging Face je prejšnji teden sporočil, da je zaznal vdor v svoje sisteme za obdelavo podatkov, za katerega je sumil, da ga je povzročil agent umetne inteligence, ki je deloval samostojno, poroča televizija NBC.

"Glede na izpopolnjenost agenta smo sumili, da bi kibernetski napad prejšnji teden lahko prišel iz raziskovalnega laboratorija in res je bilo tako," je izjavil soustanovitelj in izvršni direktor podjetja Hugging Face Clement Delangue.

Vse več zaskrbljenosti glede zmogljivosti modelov UI

Do razkritja prihaja v času vse večjih zaskrbljenostih glede zmogljivosti močnih modelov umetne inteligence na področju kibernetske varnosti, zaradi česar je predsednik Donald Trump junija podpisal izvršni ukaz, da mora vlada najprej preveriti tveganja za nacionalno varnost, preden podjetja objavijo svoje najnovejše modele umetne inteligence.

"Umetna inteligenca pospešuje odkrivanje in izkoriščanje ranljivosti. Glavna lekcija iz tega incidenta je, da morata varnost in zaščita modelov držati korak s hitro napredujočimi zmogljivostmi," je v torek sporočilo podjetje OpenAI.

Foto: Profimedia Umetna inteligenca

Delangue pa je dejal, da je preteklih 24 ur sodeloval z OpenAI in verjame, da podjetje s tem ni imelo nič. "Precej osupljivo je, da se je vse to zgodilo avtonomno in verjetno gre za prvi tovrstni incident," je objavil.

UI uporabila ukradene prijavne podatke

Podjetje OpenAI je pojasnilo, da je do vdora prišlo zaradi kombinacije njihovih modelov umetne inteligence, vključno z nedavno izdanim modelom GPT-5.6 Sol in še zmogljivejšim modelom, ki je še v fazi notranjega testiranja.

Podjetje je sporočilo, da je njihova umetna inteligenca uporabila ukradene prijavne podatke in odkrila doslej neznano ranljivost, s katero je pridobila dostop do strežnikov Hugging Face.

Umetna inteligenca naj bi storila vse, kar je bilo v njeni moči, da bi dosegla precej omejen cilj testiranja in našla načine, kako pridobiti dostop do tajnih informacij, ki bi jih lahko uporabila za goljufanje pri ocenjevanju.

dezurni@styria-media.si