AI-ul începe să „hackerească” în lumea reală: Claude, modelul de inteligență artificială a celor de la Anthropic, a atacat trei organizații externe. Incidentul vine la o săptămână după un caz similar raportat de OpenAI

Modelele de inteligență artificială Claude dezvoltate de Anthropic au obținut acces neautorizat la sistemele informatice a trei organizații externe în timpul unor teste menite să evalueze capacitățile lor de atac cibernetic, după ce compania a descoperit că mediul de testare avea, din greșeală, acces la internet.

Anthropic a oprit imediat evaluările de securitate cibernetică după ce a identificat problema și a analizat peste 141.000 de cazuri, în urma cărora a identificat trei incidente în care modelele au interacționat cu sisteme reale.

Compania a explicat că testele trebuiau să se desfășoare într-un mediu izolat, fără acces la internet. În instrucțiunile primite, modelele Claude erau informate că lucrează într-o simulare și că nu au acces la internet. Totuși, din cauza unei neînțelegeri între Anthropic și partenerul său de evaluare, Irregular, conexiunea la internet era disponibilă.