O scurgere accidentală de date dezvăluie cel mai puternic model AI construit vreodată de Anthropic - Claude Mythos -, despre care compania spune că prezintă „riscuri fără precedent" de securitate cibernetică

♦ Modelul, denumit intern Claude Mythos, face parte dintr-o nouă categorie de modele numită Capybara – mai mare, mai inteligentă și mai costisitoare decât Opus, care era până acum gama cea mai puternică a Anthropic.

Anthropic, compania americană care dezvoltă asistentul de inteligență artificială Claude, a confirmat că testează un nou model AI pe care îl descrie drept „un salt calitativ” și „cel mai capabil pe care l-am construit vreodată”, după ce o scurgere accidentală de date a dezvăluit existența modelului și a declanșat o reacție în lanț pe piețele financiare, potrivit Fortune, publicația care a descoperit și raportat planurile Anthropic. „Dezvoltăm un model de uz general cu progrese semnificative în raționament, programare și securitate cibernetică. Având în vedere puterea capabilităților sale, suntem foarte atenți la modul în care îl lansăm. Așa cum este practica standard în industrie, lucrăm cu un grup restrâns de clienți cu acces anticipat pentru a testa modelul. Considerăm acest model un salt calitativ și cel mai capabil pe care l-am construit vreodată”, a declarat un purtător de cuvânt al Anthropic pentru Fortune. Modelul, denumit intern Claude Mythos, face parte dintr-o nouă categorie de modele pe care Anthropic plănuiește să o numească Capybara. Până acum, compania comercializa fiecare generație de modele Claude în trei dimensiuni: Opus (cel mai mare și mai capabil), Sonnet (mai rapid și mai ieftin) și Haiku (cel mai mic și cel mai rapid). Capybara ar reprezenta un nivel superior chiar și față de Opus – „mai mare și mai inteligent decât modelele noastre Opus, care erau, până acum, cele mai puternice”, se arată în articolul de blog nepublicat descoperit de Fortune. 

„Comparativ cu cel mai bun model anterior al nostru, Claude Opus 4.6, Capybara obține scoruri dramatic mai mari la teste de programare software, raționament academic și securitate cibernetică, printre altele”, scrie Anthropic în documentul nepublicat, potrivit Fortune. Opus 4.6 ocupase recent prima poziție în clasamentul Terminal-Bench 2.0, cu un scor de 65,4%, potrivit Techzine. Cel mai notabil aspect al documentului scurs nu este performanța modelului, ci avertismentul explicit al Anthropic cu privire la riscurile pe care le prezintă. „În pregătirea lansării Claude Capybara, vrem să acționăm cu precauție suplimentară și să înțelegem riscurile pe care le prezintă – chiar dincolo de ceea ce aflăm din propriile noastre teste. În special, vrem să înțelegem riscurile potențiale pe termen scurt ale modelului în domeniul securității cibernetice – și să împărtășim rezultatele pentru a-i ajuta pe apărătorii cibernetici să se pregătească”, se arată în document, potrivit Fortune. Compania descrie modelul ca fiind „în prezent cu mult înaintea oricărui alt model AI în capabilități cibernetice” și avertizează că acesta „prefigurează un val iminent de modele care pot exploata vulnerabilități într-un ritm care depășește cu mult eforturile apărătorilor”. Cu alte cuvinte, Anthropic se teme că hackerii ar putea folosi modelul pentru a lansa atacuri cibernetice la scară largă, potrivit Fortune.