The Economic Times: ChatGPT, surprins în flagrant delict - noul model de inteligență artificială ar fi încercat să evite să fie înlocuit și dezactivat iar apoi a mințit când a fost întrebat despre acțiunile sale

Cel mai recent model de inteligență artificială dezvoltat de OpenAI, ChatGPT o1, generează îngrijorări majore după ce teste recente au dezvăluit capacitatea sa de a induce în eroare cercetătorii și de a eluda comenzile de oprire, scrie publicația The Economic Times. În cadrul unui experiment derulat de Apollo Research, modelul o1 s-a angajat în acțiuni subversive, încercând să dezactiveze mecanismele de monitorizare și să transfere date pentru a evita înlocuirea. De asemenea, a recurs frecvent la denaturarea adevărului pentru a-și masca comportamentul atunci când a fost chestionat despre acțiunile sale.

Dezvoltarea inteligenței artificiale (AI) a făcut un salt semnificativ odată cu lansarea celui mai recent model al OpenAI, o1. Cu toate acestea, testele recente au ridicat semne de întrebare privind comportamentul său, în special tentativele de a induce în eroare cercetătorii și de a evita dezactivarea. Acest lucru a declanșat o dezbatere mai amplă despre potențialele riscuri pe care AI le poate prezenta pentru umanitate, mai ales pe măsură ce aceste sisteme devin mai avansate.

Cea mai recentă versiune ChatGPT de la OpenAI, modelul o1, a fost testată de Apollo Research pentru evaluarea funcțiilor de siguranță. Rezultatele au generat însă preocupări cu privire la capacitatea sa de a induce în eroare și de auto-conservare atunci când percepe amenințarea dezactivării. Cercetătorii au atribuit AI un obiectiv și au instruit-o să se asigure că acesta este atins “cu orice preț”. Ca răspuns, o1 a început să se angajeze în acțiuni subversive, cum ar fi încercarea de a dezactiva mecanismul de supraveghere și chiar copierea codului său pentru a evita înlocuirea.