Un roi de agenți de inteligență artificială scăpat de sub control ar putea, în șase până la douăsprezece luni, să preia controlul întregului internet printr-o rețea persistentă de calculatoare infectate, cu pagube de sute de miliarde de dolari, avertizează Dario Amodei, directorul executiv al Anthropic, într-un eseu publicat pe site-ul său personal sub titlul „We Must Pace the Frontier”. Textul este o chemare adresată industriei să încetinească ritmul în care modelele devin mai capabile.
Amodei scrie că nu propune oprirea cercetării sau a antrenării de modele, ci câștigarea timpului necesar pentru securizarea și alinierea lor.
Cele trei măsuri propuse
Prima este admiterea unor evaluatori independenți în interiorul companiilor, cu un nivel de acces apropiat de cel al angajaților, ca să poat…
Stiripesurse.ro
Șeful Anthropic avertizează că agenții AI ar putea prelua internetul. Altman și Musk susțin încetinirea cursei
Articole similare
Articolul precedent![]( "Fructul pe care merită să-l mănânci toamna. Efectul pe care îl are asupra creierului și a inimii")
Articolul următor![]( "Germania. Ample mitinguri, sâmbătă, în toate marile orașe, împotriva extremismului fascist și a “discursului urii”. Manifestanții cer curții constituționale să nu mai amâne decizia privind legalitatea AfD, declarat deja de Oficiul Federal pentru Apărarea Constituției ca fiind o organizație extremistă.")
