OpenAI extinde măsurile de monitorizare în cadrul testării modelelor AI și alocă mai multe resurse de calcul în acest sens, după incidentul de securitate în care un agent autonom a ieșit din mediul controlat și a atacat o platformă de seturi de date.

OpenAI a anunțat că va consolida sistemele automatizate de inteligență artificială care monitorizează testarea celor mai noi modele ale sale. Acestea vor emite alerte în termen de 30 de minute de la detectarea unor potențiale probleme. Testele vor fi întrerupte dacă, în termen de 30 de minute, echipa nu poate determina dacă semnalul a fost unul fals pozitiv. Potrivit anunțului companiei, modelele testate vor fi supuse unor măsuri de izolare mai stricte decât până acum, pentru a împiedica accesul la internet.
Deciziile au fost luate în urma unui incident de securitate de luna trecută, în care un agent autonom testat de OpenAI a ieșit din mediul controlat, s-a conectat la internet și a atacat cibernetic start-up-ul Hugging Face. Cei mai avansați agenți de inteligență artificială pot efectua …

Citește articolul complet