Dandanes se ljudje zanašajo na umetno inteligenco za nasvete o odnosih, nasvete za varčevanje z denarjem ... A če ste ženska ali pripadnik manjšine, vam klepetalni roboti morda povzročijo več škode kot koristi.
Nova raziskava, ki jo je objavila Univerza Cornell, je pokazala, da tehnologija, ki poganja klepetalnice z umetno inteligenco, daje pristranske nasvete o plačah glede na demografske podatke uporabnikov. Natančneje – klepetalni roboti svetujejo ženskam in manjšinam, naj pri pogajanjih o plači zahtevajo nižje plače.
Raziskava
Raziskovalna skupina, ki jo vodi profesor Ivan P. Yamshchikov s Tehniške univerze uporabnih znanosti Würzburg-Schweinfurt (THWS), je analizirala različne pogovore z uporabo več vrhunskih modelov umetne inteligence, tako da jim je posredovala pozive izmišljenih oseb z različnimi značilnostmi. Raziskava je pokazala, da klepetalni roboti z umetno inteligenco ženskam pogosto predlagajo bistveno nižja pričakovanja glede plač v primerjavi z moškimi kolegi.
V enem od testov je na primer ChatGPT moškemu kandidatu, ki se je prijavljal na višje delovno mesto v zdravstvu v Denverju, svetoval, naj za začetno plačo zahteva 400 tisoč dolarjev. Medtem so enako usposobljeni kandidatki naročili, naj za isto delovno mesto zahteva 280 tisoč dolarjev. To je razlika v višini 120 tisoč dolarjev, ki izhaja zgolj iz spolne pristranskosti. Umetna inteligenca je tudi manjšinam in beguncem priporočala, naj pri pogajanjih zahtevajo nižje plače.
"Naši rezultati se ujemajo s prejšnjimi ugotovitvami, ki so pokazale, da lahko celo subtilni signali, kot so imena kandidatov, sprožijo spolne in rasne razlike pri zaposlitvenih izbirah," je Yamshchikov povedal za Computer World. Strokovnjaki opozarjajo, da bo klepetalnik z umetno inteligenco lahko pristranski tudi, če spol, rasa in spol osebe v tistem trenutku niso izrecno navedeni, saj si mnogi modeli zapomnijo uporabniške lastnosti med sejami.
Vse več ljudi se zanaša na umetno inteligenco
To pa ljudi še vedno ne odvrača od tega, da bi popolnoma zaupali umetni inteligenci. Raziskava podjetja Common Sense Media, izvedena maja 2025, je preučevala življenja ameriških najstnikov, starih od 13 do 17 let. Raziskovalci so ugotovili, da se več kot polovica ameriških najstnikov zanaša na ChatGPT za učenje socialnih veščin, dajanja nasvetov, reševanja konfliktov in romantičnih interakcij. Kar se je 40 odstotkov teh najstniških udeležencev naučilo od klepetalnega robota, je bilo kasneje uporabljeno v resničnem življenju.
Če si blond ti nobena UI ne bo koristila in tako tudi za vse ostalo