Inženir umetne inteligence Jacob Coxon, ki je delal tako za OpenAI kot za Anthropic, je razkril nevarnosti razvoja nove tehnologije. Pojasnil je, da je pravkar dal odpoved pri podjetju Anthropic, saj svoje vloge v podjetju ne more več opravljati z mirno vestjo. Trdi, da njegovi kolegi razvijajo nekaj, kar bo škodovalo človeštvu.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
"Ljudje, ki razvijajo umetno inteligenco, iskreno verjamejo, da bi nas lahko do konca desetletja vse pobila," je dejal. Dodal je, da so podjetja, ki se ukvarjajo z umetno inteligenco, z novo tehnologijo neodgovorna: "Brezglavo drvijo proti samoučeči se superinteligenci in pri tem kockajo z našimi življenji." "Nobena druga človeška dejavnost ne predstavlja takšne stopnje nevarnosti," je v objavi na družbenem omrežju X dejal raziskovalec. Pozval je velika tehnološka podjetja, naj zagotovijo varen razvoj superinteligentne umetne inteligence.
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible - but I hear the same people express fear…
— Jacob Coxon (@hilbertspaess) September 9, 2026
"Kmalu bodo to nadčloveški sistemi, ki bodo lahko vdrli v karkoli, čez noč revolucionirali katero koli področje in pridobili resnično moč in vire," napoveduje.
Zakaj jo razvijajo, če verjamejo, da bi lahko uničila človeštvo?
Coxon se je odzval tudi na vprašanje, zakaj podjetja nadaljujejo razvoj tako zmogljive umetne inteligence, če se njihovi zaposleni zavedajo, da bi lahko predstavljala eksistenčno nevarnost. "V podjetju OpenAI se številni še niso zares poglobili v to, kaj bi takšen razvoj lahko pomenil za celotno civilizacijo. Pri Anthropicu se teh posledic dobro zavedajo, vendar so ujeti v tekmo, kdo bo cilj dosegel prvi. Prepričani so namreč, da nihče drug ne bo ravnal dovolj odgovorno, zato menijo, da morajo to storiti sami – kljub tveganju," je zapisal.
A common response is “if they truly believe this, why are they still building it?” At OpenAI, many have not deeply internalized the civilizational stakes. At Anthropic, the stakes are well-understood, but they are locked in a race to get there first - they believe no one else…
— Jacob Coxon (@hilbertspaess) September 9, 2026
"Če ste raziskovalec v katerem od laboratorijev za umetno inteligenco, vas pozivam, da resno razmislite, kakšna bodo prihodnja leta in kako bo živeti v njih," poziva.
If you are a lab researcher, I urge you to consider what the next few years will actually feel like. Do you want to kick off a superintelligent RL run without a rigorous understanding of its mind? Should you put your head down because “it’s happening anyway” - or take this moment…
— Jacob Coxon (@hilbertspaess) September 9, 2026
Ja vse po klaus švabovi mantri; "Imeli ne boste nič in boste srečni." Ta milijon mentalno bolnih reptilov že od pamtiveka hoče ta svet samo za njih.
Če je vsaj malo možnosti, da se to lahko zgodi, je rešitev samo ena, da pobijemo idiote, ki se s tem igrajo.
Umetna inteligenca nas že ne bo uničila . Uničuje nas pohlep in to že od pradavnine.