OpenAI a dezvăluit miercuri șase incidente în care propriile sisteme s-au abătut de la instrucțiunile primite, împreună cu regulile după care va anunța de acum înainte astfel de cazuri, scrie The New York Times. Compania a recunoscut, în textul care însoțește rapoartele, că industria nu a rezolvat îndeajuns alinierea modelelor la valorile și obiectivele oamenilor cât să poată continua mult timp extinderea în ritm maxim.
Toate cele șase cazuri privesc modele de cercetare nelansate sau rulări de antrenament, iar comportamentele au fost observate în ultimele șase luni, în timp ce sistemele erau dezvoltate și testate. OpenAI a precizat că rapoartele sunt instantanee individuale și nu arată cât de des apar astfel de abateri.
Notițele în care GPT-5.6 Sol își amintea să ascundă erorile
Î…
