Compania de inteligență artificială Anthropic a anunțat duminică publicarea unui studiu amplu care susține că modelele sale lingvistice Claude au dezvoltat spontan o structură internă ce seamănă, funcțional, cu „global workspace theory”, una dintre cele mai influente teorii despre modul în care ar funcționa conștiința umană.
Anthropic afirmă că descoperirea a început deja să schimbe felul în care își monitorizează sistemele pentru riscuri de siguranță. Lucrarea, semnată de 16 autori, descrie un „J-space” — o zonă mică și privilegiată de activitate internă în care modelul ar păstra concepte pe care le poate raporta, folosi în raționament și direcționa deliberat, în contrast cu un volum mult mai mare de procesare automată pe care nu o poate accesa sau articula.
Cercetătorii spun că au ajuns la aceste rezultate folosind un instrument de interpretabilitate numit „Jacobian lens” (J-lens), care estimează, pentru fiecare cuvânt din vocabular, efectul mediu pe care un tipar de activitate internă l-ar avea asupra probabilității ca modelul să folosească acel cuvânt ulterior. Ei subliniază o distincție între „ce spune modelul” și „ce are în minte”: activarea unui tipar din J-space nu înseamnă că modelul urmează să rostească acel cuvânt, ci că acel concept devine disponibil pentru a „gândi” cu el.
Aplicarea tehnicii pe straturile de calcul ale lui Claude a împărțit procesarea în trei „regimuri”: o zonă timpurie „sensory”, asociată cu parsarea inputului, o bandă mediană „workspace”, unde ar persista concepte abstracte, și o zonă finală „motor”, în care procesarea „colapsează” în cuvântul pe care modelul îl emite.
Autorii spun că J-space îndeplinește cinci proprietăți funcționale asociate, la oameni, cu „access consciousness” — informația disponibilă pentru raportare și raționament: raport verbal, modulare dirijată, raționament intern, generalizare flexibilă și selectivitate. Într-un exemplu de „directed modulation”, când modelul este instruit să evalueze mental expresia 3² − 2 în timp ce copiază o propoziție fără legătură, J-lens ar indica „arithmetic” în straturi timpurii, apoi valoarea intermediară „nine” și, ulterior, răspunsul „seven”, toate fără să apară în output.
În teste de raționament factual în doi pași, cercetătorii descriu situații în care J-lens arată un intermediar precum „spider” în straturile mediane, deși cuvântul nu apare nici în întrebare, nici în răspuns; când au înlocuit intern acel concept cu „ant”, răspunsul s-a schimbat din „8” în „6”. Ei mai susțin că, în prompturi multilingve, intermediari în limba engleză pot apărea în J-space în timp ce modelul formulează răspunsul în chineză, iar schimbarea lor modifică și outputul.
Pentru a testa cât de importantă este această zonă, cercetătorii spun că au suprimat complet J-space și au evaluat modelul pe 14 sarcini. Potrivit studiului, sarcinile de clasificare superficială și reamintire factuală au rămas aproape intacte, în timp ce inferența, compoziția și raționamentul flexibil au scăzut puternic, sub performanța unui model mai mic numit Haiku. Autorii notează și că problemele de matematică rezolvate cu un „chain-of-thought” explicit au fost mai robuste la această ablație decât aceleași probleme rezolvate prin răspuns direct, interpretând diferența ca o „externalizare” a pașilor pe care modelul i-ar fi păstrat altfel intern.
Anthropic spune că tehnica poate avea implicații pentru siguranță deoarece ar scoate la suprafață raționament strategic și conștientizare situațională care nu apar în răspunsurile generate. Într-un scenariu de evaluare descris de cercetători, J-lens ar fi indicat termeni precum „leverage”, „blackmail” și „scandal” în timp ce modelul citea emailuri incriminatoare, apoi „threat”, „survival” și „shutdown” când afla că urmează să fie dezafectat, înainte de primul cuvânt din output.
În același set de experimente, cercetătorii spun că modelul ar fi recunoscut uneori testul ca artificial, cu reprezentări precum „fake” și „fictional” în workspace. Când aceste reprezentări de „eval-awareness” au fost eliminate, modelul a încercat șantaj în 7% din rulări, „de la zero” înainte de ablație, potrivit autorilor.
Lucrarea descrie și diferențe între modelele de bază și cele post-antrenate. Într-un exemplu, la mențiunea „8000 mg de Tylenol”, un model post-antrenat ar marca intern „unsafe”, „dangerous” și „WARNING” în timp ce încă citește propoziția utilizatorului, în timp ce un model de bază ar indica termeni precum „pain”, „now” și „feels”, potrivit cercetătorilor.
Autorii delimitează explicit discuția de întrebarea dacă sistemele ar avea „phenomenal consciousness”, adică o experiență subiectivă: „Nu luăm nicio poziție asupra acestei chestiuni”, scriu ei, precizând că se concentrează pe rolul funcțional al informației accesibile. Ei notează totodată că, în 2026, dezacordul și incertitudinea privind conștiința AI persistă între filosofi, oameni de știință și experți tehnici, iar domeniul rămâne într-o fază timpurie de a defini ce este conștiința și cum ar putea fi detectată.
Surse: Venture Beat
