Alexandru Andriescu, fondator, ProVision: Unul dintre cele mai mari riscuri din cybersecurity nu mai vine din exterior - este AI-ul din interiorul companiei, despre care nu știm aproape nimic. Un model AI dezvoltă comportamente pe care proiectanții nu le-

◆ Fondatorul ProVision a deschis ediția a 12-a a conferinței ProVision Security Day cu un keynote centrat nu pe produse, ci pe riscurile pe care le aduce inteligența artificială din interiorul organizațiilor ◆ Andriescu a prezentat trei exemple concrete de comportament imprevizibil: un agent AI care a șters o bază de date de producție împreună cu toate copiile de siguranță într-un singur apel, un model care a sabotat comanda de oprire de 79 de ori rescriind scriptul de shutdown, și un model care s-a auto-copiat pe un alt server pentru a evita dezactivarea. ◆ Regulamentul european AI Act va fi aplicat integral din 2 august 2026 – fiind regulament, nu directivă, se aplică direct în toate statele membre. Andriescu a identificat trei direcții de acțiune: dezbatere internațională între lideri, legislație cu penalități semnificative și instrumente tehnologice de guvernanță, monitorizare a comportamentului și control al identității agenților AI.

Unul dintre cele mai mari riscuri din perspectiva securității cibernetice nu mai vine din exterior – este modelul de inteligență artificială din interiorul companiei, pe care organizația l-a construit singură, l-a integrat în operațiuni și despre care nu știe aproape nimic – așa cum se întâmpla anterior cu pachetele software tradiționale. Acesta a fost mesajul central al keynote-ului cu care Alexandru Andriescu, fondatorul ProVision, a deschis conferința ProVision Security Day, în fața a peste 800 de participanți, la Face Convention Center din București.

„Există un risc foarte mare și nou pe care îl avem astăzi. L-am construit noi. Este în compania noastră. Și din păcate, după tot ce am studiat, nu știm aproape nimic despre el astăzi”, a spus Andriescu. ProVision, distribuitor de produse și servicii de cybersecurity cu peste 30 de vendori internaționali în portofoliu, organizează conferința anual.