Nvidia a lansat o platformă de securitate pentru a preveni incidente ce implică agenți AI “scăpați de sub control”, care acționează fără supraveghere sau permisiune umană. Platforma a fost dezvoltată după o serie de incidente în care modele AI au accesat neautorizat infrastructura unor organizații.

Gigantul tehnologic Nvidia a anunțat, luni, că a lansat Open Agent Safety Platform, o aplicație software menită să monitorizeze acțiunile pe care agenții AI le execută, dar care și garantează respectarea regulilor stabilite. Una dintre componentele platformei se numește Nvidia OpenShell, care rulează pe procesoarele centrale și impune limite asupra capacităților agenților. Nvidia a anunțat, de asemenea, Sentry, care monitorizează agenții și rulează pe chipuri de rețea, nu pe procesoare centrale (CPU) sau procesoare grafice (GPU).
O parte din software este open source, iar Nvidia își denumește platforma “proiect de referință”, ceea ce înseamnă că partenerii sunt invitați să dezvolte produse pe baza acesteia pentru a le lansa pe piață.
“Potențialul extraordinar al AI pentru societate se va c…

Citește articolul complet