Responsabilul pentru siguranța chatboților de la OpenAI demisionează și avertizează că domeniul inteligenței artificiale are nevoie urgentă de măsuri de protecție precum cele din aviație și industria nucleară. Într-un mesaj în care critică “cultura organizațională defectuoasă a companiei”, el arată că aceasta preferă să grăbească lansarea noilor sisteme și să repare erorile abia după lansare, nu înainte.

David Robinson, care a lucrat aproximativ trei ani și jumătate la OpenAI și a contribuit la elaborarea cadrului de pregătire pentru riscurile AI, a coordonat rapoartele de siguranță pentru 12 lansări de modele avansate. Într-un eseu publicat în revista The Atlantic, intitulat “I Quit OpenAI Because Its Culture Is Broken”, el spune că problema siguranței în acest domeniu nu poate fi rezolvată doar prin reguli suplimentare, ci necesită o schimbare a mentalității din companiile care dezvoltă cele mai avansate sisteme AI.

Robinson susține că OpenAI se bazează prea mult pe ceea ce numește “implementare iterativă”: compania lansează sisteme, observă problemele apărute în utilizarea lor și încearcă ulterior să consolideze măsurile de protecție. Potrivit fostului angajat, …

Citește articolul complet