Anthropic a lansat public Claude Fable 5, primul model AI din clasa Mythos - tehnologia pe care compania o considera până de curând prea periculoasă pentru publicul larg. Cererile riscante sunt redirecționate automat către un model mai vechi

◆ Fable 5 și Mythos 5, lansate simultan pe 9 iunie, au la bază același model – diferența o fac mecanismele de siguranță: „clasificatoare” care redirecționează cererile legate de securitate cibernetică, biologie, chimie și distilare către modelul anterior, Claude Opus 4.8, în medie în sub 5% din sesiuni, potrivit companiei. ◆ Primul model al clasei Mythos a fost ținut din aprilie doar la dispoziția unor parteneri precum Microsoft, Amazon și Cisco, prin Project Glasswing, program derulat în colaborare cu guvernul SUA, după ce a găsit mii de vulnerabilități critice, inclusiv în toate sistemele de operare și browserele majore.◆ Presa specializată în securitate cibernetică rămâne sceptică: modelele AI mai vechi au fost sparte în mod constant de cercetători, iar chiar și modelul de rezervă Opus 4.8 oferă capabilități „dual-use” semnificative, notează publicația americană CyberScoop.

Anthropic, compania americană din spatele asistentului AI Claude, a pus pentru prima dată la dispoziția publicului un model din clasa Mythos – nivelul de capabilitate pe care chiar conducerea companiei îl descria, la începutul anului, drept prea periculos pentru o lansare generală. Noul Claude Fable 5, lansat marți, 9 iunie, vine însă „în lesă”: un strat de sisteme AI separate interceptează cererile pe teme de securitate cibernetică, biologie, chimie sau distilare și le pasează automat modelului anterior, Claude Opus 4.8, utilizatorul fiind informat de fiecare dată.

„Lansarea unui model atât de capabil vine cu riscuri. Fără mecanisme de protecție, capabilitățile Fable 5 în zone precum securitatea cibernetică ar putea fi folosite abuziv pentru a produce daune serioase. Am lansat, prin urmare, modelul cu mecanisme de protecție care fac ca cererile pe anumite subiecte să primească în schimb un răspuns de la următorul nostru cel mai capabil model, Claude Opus 4.8″, se arată în anunțul oficial al Anthropic.