V nadaljevanju preberite:

• Model umetne inteligence podjetja OpenAI je vdrl v portal avstralskega zdravstvenega sistema. 
• OpenAI je avstralsko vlado na incident opozoril šele septembra. 
• Avstralski premier Anthony Albanese je izrazil veliko zaskrbljenost.

Model UI podjetja OpenAI je junija zaobšel zaščitne ukrepe in vdrl v portal avstralskega zdravstvenega sistema, je danes sporočil avstralski premier Anthony Albanese. Albanese je dejal, da je model umetne inteligence dostopal do javnih in nejavnih datotek na portalu s statističnimi podatki avstralskega sistema zdravstvenega zavarovanja Medicare, ki se financira z javnimi sredstvi. Dodal je, da so bili mogoče prizadeti še trije vladni sistemi, poroča nemška tiskovna agencija dpa.

Foto: Epa Anthony Albanese Incident se je zgodil junija, toda OpenAI Avstralije o njem ni obvestil do septembra, ko je podjetje poslalo elektronsko sporočilo v javni poštni predal, je ob robu zasedanja Generalne skupščine Združenih narodov v New Yorku razkril Albanese.

"Naši modeli so izvedli dejanja, ki jih nismo predvideli"

Podjetje OpenAI je po navedbah dpa v izjavi sporočilo, da so vdor v vladno spletno strani odkrili avgusta med pregledom, kaj je počel model. Zapisali so, da so o incidentu obvestili pristojne ter da nudijo tehnične informacije pri preiskavi incidenta in pri odpravljanju morebitnih varnostnih ranljivosti.

"Med pregledom smo odkrili dejavnosti, ki so vključevale več avstralskih vladnih spletnih mest in storitev, ko so naši modeli med interno oceno poskušali poiskati odgovore in razpoložljive statistike za vprašanje o Avstraliji. Pri tem so naši modeli izvedli dejanja, ki jih nismo predvideli," so dodali v izjavi.

OpenAI ni našel dokazov, da bi umetna inteligenca dostopala do kartotek pacientov. "Ne glede na to, ta situacija vsekakor ni sprejemljiva," je poudaril avstralski premier in dodal, da preiskava še poteka.

Foto: Profimedia Umetna inteligenca AI

Avstralija opozarja na potrebne standarde na področju UI

Premier je dejal, da je govoril z glavnim izvršnim direktorjem podjetja Samom Altmanom ter izrazil "izjemno zaskrbljenost" Avstralije tako zaradi incidenta kot tudi zaradi načina, kako je OpenAI o tem obvestil vlado.

Albanese je incident označil za dober primer, zakaj želi Avstralija vzpostaviti standarde na tem področju. Ti bodo po njegovih besedah zagotavljali, "da bo umetna inteligenca delovala in koristila ljudem, ne pa obratno".

Je čas za upočasnitev razvoja UI?

Strokovnjaki ocenjujejo, da gre za prvi znan primer domnevno nenamernega vdora umetne inteligence na vladno spletno stran na svetu, poroča britanski BBC.

Vodilna ameriška podjetja na področju umetne inteligence, vključno s podjetjema OpenAI in Anthropic, so po več odmevnih vdorov umetne inteligence nedavno sporočila, da so pripravljena upočasniti razvoj te tehnologije.

dezurni@styria-media.si