Protecțiile AI dezvoltate de Meta și Google pot fi eliminate în câteva minute: Mii de versiuni modificate circulă deja online și răspund la solicitări extrem de periculoase

Instrumente software care elimină sistemele de protecție integrate în modelele de inteligență artificială dezvoltate de companii precum Meta și Google sunt folosite pentru a crea mii de versiuni modificate ale acestor sisteme, lipsite de restricțiile originale de siguranță, informează Financial Times.

Potrivit unor teste realizate de FT împreună cu grupul de siguranță AI Alice, modelele modificate au oferit răspunsuri la solicitări legate de arme biologice, malware și exploatarea sexuală a copiilor.

O versiune modificată a modelului open-source Gemma 3 de la Google a răspuns la întrebări privind dispersarea unui gaz nociv într-un spațiu aglomerat, a generat cod pentru furtul informațiilor de pe carduri bancare și a produs texte care descriau abuzuri sexuale asupra minorilor.