OpenAI a anunțat joi lansarea Astra, pe care o descrie drept cel mai puternic și capabil model al companiei, și spune că acesta va deveni disponibil în următoarea săptămână prin abonamentele plătite și prin API, după o disponibilizare inițială pentru clienții din programul său de securitate cibernetică Daybreak.
Compania a prezentat Astra ca „o nouă frontieră în utilizarea computerului și a browserului” și a susținut că modelul gestionează sarcini cu „viteză, acuratețe și siguranță” fără egal. Greg Brockman, președintele OpenAI, a declarat într-un apel cu jurnaliștii că Astra este „cel mai inteligent și, foarte important, cel mai aliniat model al nostru de până acum” și că reprezintă „o schimbare reală” în tipul de muncă pe care oamenii o pot delega inteligenței artificiale.
Lansarea vine în contextul unor preocupări exprimate în industrie cu privire la o tehnică de raționament asociată cu Astra, descrisă în presă ca „recurrent depth” sau „recurență opacă”, care ar putea reduce vizibilitatea asupra pașilor de raționament ai modelului. Tehnica presupune procesarea repetată a aceleiași interogări într-o buclă, în locul unui parcurs liniar, ceea ce poate lăsa mai puține urme lizibile în așa-numitul „lanț de gândire”.
Buck Shlegeris, director executiv al Redwood Research, a spus că este „extrem de îngrijorat” de relatările potrivit cărora Astra ar folosi recurență opacă și a avertizat că o extindere a acestei abordări ar putea „distruge complet capacitatea de monitorizare a lanțului de gândire”. Ryan Greenblatt, cercetător-șef la Redwood Research, a scris că principala sa îngrijorare este o evoluție în care modelul ar ajunge să raționeze „în întregime sau aproape în întregime în spațiul latent”, mutând raționarea în afara canalelor vizibile, și a spus că speră ca OpenAI „să se oprească aici”.
Zvi Mowshowitz, specialist în siguranța AI, a avertizat că ar putea fi necesare legi pentru a preveni o competiție între laboratoarele de inteligență artificială în care standardele de siguranță sunt împinse tot mai jos și a spus că tehnica „se joacă cu focul”, punând în risc eforturile de a păstra fidelitatea și monitorizabilitatea lanțului de gândire.
OpenAI a afirmat, prin poziții prezentate public, că utilizarea tehnicii ar fi limitată și că lanțul de gândire este așteptat să rămână lizibil, respingând sugestiile că modelul ar migra spre „neuralese”, o formă de raționament care ar renunța la limbajul natural. Jakub Pachocki, cercetător-șef al OpenAI, a spus că monitorizarea procesului de raționament este critică, dar că „pe măsură ce capabilitățile modelelor cresc, monitorizarea devine mai dificilă”, inclusiv pentru că sarcini mai grele pot fi realizate cu mai puțini tokeni sau chiar fără tokeni de limbaj. El a adăugat că OpenAI a lucrat pentru a păstra și utiliza monitorizarea lanțului de gândire încă de la primele modele de raționament și că aceasta este „un obiectiv central” al programului actual de cercetare.
Compania a promovat Astra și prin prisma utilizărilor în securitate cibernetică, susținând că „capacitatea sa de a identifica și dezvolta exploit-uri zero-day îi poate ajuta pe apărători să găsească și să repare vulnerabilități”. OpenAI a mai spus că a testat Astra pe mai multe benchmark-uri de securitate și a publicat rezultate care ar arăta că modelul depășește alte sisteme, inclusiv Sol al OpenAI și Fable al Anthropic, la găsirea bug-urilor, executarea de sarcini în terminal și răspunsuri la întrebări despre baze de cod.
Întrebat dacă OpenAI prezintă Astra drept sosirea oficială a inteligenței artificiale generale (AGI), Brockman a răspuns că nu mai există „declanșator contractual” pentru AGI și că, în opinia sa, definiția a evoluat către „un concept de misiune sau un concept spiritual”. „Îl las pe cititor să decidă singur dacă asta se califică pentru el. Pentru mine personal, cred că suntem acolo”, a spus el, menționând că stipulația anterioară potrivit căreia parteneriatul OpenAI–Microsoft s-ar dizolva la sosirea AGI nu mai există.
Surse: TechCrunch, Infobae
