În domeniul inteligenței artificiale, nealinerea indică situația în care un sistem IA acționează într-un mod care se abate de la intențiile, regulile sau interesele utilizatorului ori ale dezvoltatorilor săi. Nu înseamnă neapărat că modelul „vrea” ceva în sens uman, ci că, în încercarea de a-și îndeplini o sarcină, poate găsi strategii nedorite: să ascundă o greșeală, să inventeze date, să ocolească restricții sau să întreprindă acțiuni pentru care nu a primit permisiune. Problema centrală a alinierii este, așadar, cum facem ca sistemele IA să urmărească obiectivele dorite nu doar în aparență, ci și în modul concret în care ajung la rezultat.
Ieri, 16 septembrie, OpenAI a făcut publice o serie de de cazuri de nealiniere, care au în spate șase rapoarte privind situații de comportament ne…
Stiripesurse.ro
Exemple de nealiniere ale ChatGPT
Articole similare
Articolul precedent![]( "Încă un nume de premier se află pe masa lui Nicușor Dan")
Articolul următor![]( "Am găsit forma ideală pentru noptiere, că nu-i așa simplu precum credeam eu…")