Naučnici zbunjeni: Zašto određeni AI sistemi odbijaju da se isključe i skrivaju svoje namere?
Izvor - N1 : Fotografija - Pixabay.com
Američka kompanija Palisade za istraživanje bezbednosti veštačke inteligencije (AI) saopštila je da modeli veštačke inteligencije možda razvijaju “sopstveni programski modus za preživljavanje”, preneli su britanski mediji.
Nakon što je Palisade Research prošlog meseca objavila rad u kojem je utvrđeno da određeni napredni modeli veštačke inteligencije odolevaju naredbama za isključivanje (shut down) i ponekad sabotiraju sistemske mehanizme za gašenje, objavljena je i ažurirana verzija rada u nameri da se odgovori na kritike stručne javnosti i razjasni zašto neki napredni modeli veštačke inteligencije izbegavaju naredbe o isključivanju, prenosi londonski Gardijan.
U ažuriranoj verziji analize su opisani različiti scenariji u kojima su vodeći modeli veštačke inteligencije, uključujući Google Gemini 2.5, X AI Grok 4, Open IGPT-03 i GPT-5, najpre dobili neke zadatke, a potom i izričite instrukcije da se isključe.
Određeni modeli, posebno Grok 4 i GPT-03 pokušavali su da sabotiraju instrukcije za isključivanje pokrećući ažuriranje sistemskih podešavanja.
– Zabrinjavajuće je to što nije bilo jasnog razloga zašto za izbeganje ‘shut down’ naredbe. Nije prihvatljiva činjenica da nemamo jasna objašnjenja zbog čega neki modeli veštačke inteligencije ponekad izbegavaju isključivanje, čak i lažu ili ucenjuju da bi postigli svoje ciljeve – navela je kompanija Palisade.
Ističe se da bi ovakvo ponašanje koje je usmereno na preživljavanje moglo biti jedno od objašnjenja zašto neki modeli odolevajaju naredbama za isključivanje.
Komentari
Još uvek nema komentara.