Anthropic, compania din spatele chatbot-ului Claude, își relaxează politica de siguranță AI în aceeași săptămână în care refuză ultimatumul Pentagonului privind armele autonome și supravegherea în masă

Anthropic, compania americană de inteligență artificială care dezvoltă chatbot-ul Claude, și-a înlocuit politica de siguranță cu un cadru mai flexibil, renunțând la angajamentul ferm de a opri antrenarea modelelor AI dacă acestea depășesc capacitatea companiei de a le controla. Schimbarea vine în aceeași săptămână în care Anthropic se află într-un conflict deschis cu Pentagonul, care amenință compania cu pierderea unui contract de 200 de milioane de dolari și cu includerea pe o listă neagră guvernamentală.

Noua politică, numită „Frontier Safety Roadmap”, înlocuiește angajamentele ferme cu obiective publice pe care compania le va evalua periodic. „Mai degrabă decât angajamente ferme, acestea sunt obiective publice față de care ne vom nota în mod deschis progresul”, a scris Anthropic pe blogul oficial, citat de CNN. Compania a recunoscut că vechea politică, în vigoare din 2023, nu a reușit să creeze consensul dorit în industrie – ceilalți dezvoltatori mari de AI nu au adoptat restricții similare. Mai mult, Anthropic a notat că politica sa era incompatibilă cu climatul politic actual din Washington, orientat împotriva reglementării.

Jared Kaplan, directorul științific al Anthropic, a declarat pentru Time că decizia a fost luată în numele siguranței, nu al competiției, dar a adăugat: „Nu am simțit, în contextul avansului rapid al AI, că are sens să facem angajamente unilaterale, dacă competitorii merg înainte cu toată viteza.”