Anthropic a cerut joi marilor laboratoare de inteligență artificială să ia în calcul o pauză coordonată și verificabilă în dezvoltarea celor mai avansate sisteme, avertizând că progresele rapide ar putea duce la o situație în care oamenii nu mai pot controla riscurile.
Compania din spatele chatbotului Claude a scris într-o postare pe blog că, pe măsură ce AI de ultimă generație devine tot mai rapidă în îndeplinirea sarcinilor, „ar fi bine pentru lume să aibă opțiunea de a încetini sau de a pune temporar pauză” dezvoltării. Anthropic a precizat că institutul său intern de cercetare intenționează să exploreze subiectul împreună cu alți actori și să „ia măsuri” pentru a construi mecanisme credibile de încetinire sau pauză, fără a oferi detalii suplimentare.
Într-o poziție diferită, rivalul OpenAI a susținut într-un raport publicat miercuri că „guvernele democratice, nu companiile private acționând singure, trebuie în cele din urmă să stabilească regulile, măsurile de protecție și mecanismele de responsabilizare”. Compania a adăugat că deciziile privind ritmul inovării în AI „nu ar trebui lăsate la latitudinea unui singur laborator, a unei companii sau a unui grup de interese”.
Anthropic a argumentat că modelele AI devin tot mai eficiente, cu creșteri rapide ale vitezei cu care pot realiza sarcini software, inclusiv programare, pe cont propriu. Pe baza tendințelor actuale și cu suficientă putere de calcul, un sistem AI ar putea ajunge să-și proiecteze și dezvolte propriul succesor, într-un proces numit „auto-îmbunătățire recursivă”, a mai spus compania. Un astfel de prag tehnologic ar putea aduce beneficii în știință, sănătate și alte domenii, dar ar putea crește și riscul ca oamenii să piardă controlul asupra sistemelor AI, potrivit Anthropic.
Autorii postării, cofondatorul Jack Clark și Marina Favaro, care conduce institutul de cercetare al companiei, au spus că o pauză ar permite ca „structurile societale și cercetarea de aliniere” să țină pasul cu avansul tehnologic. În industrie, „alinierea” se referă la eforturile de a face tehnologia compatibilă cu valorile și intențiile umane.
Compania a mai susținut că o coordonare între laboratoarele avansate ar trebui să includă posibilitatea de a verifica dacă rivalii globali chiar au oprit sau încetinit activitatea și să prevină ca „un actor rău intenționat” să folosească o încetinire coordonată drept acoperire pentru a avansa în secret. Fără un mecanism global, a avertizat Anthropic, o încetinire ar putea permite celor „cel mai puțin prudenți” să recupereze și să amplifice presiunea asupra companiilor și guvernelor în deciziile privind siguranța AI.
Apelul vine pe fondul intensificării îngrijorărilor că sisteme tot mai capabile ar putea scăpa de sub control și produce efecte sociale negative. În această săptămână, o echipă de la Universitatea din Toronto a prezentat un scenariu în care instrumente AI ar putea fi folosite pentru a crea un nou tip de „vierme” informatic care își adaptează strategia de hacking pe măsură ce se răspândește de la un dispozitiv la altul și preia o rețea de calcul extinsă.
„Cred că este foarte important ca oamenii să înțeleagă că nu doar cele mai mari și mai puternice modele de limbaj ridică probleme de securitate”, a declarat într-un interviu coordonatorul cercetării, Nicolas Papernot. El a spus că a notificat autoritățile canadiene de securitate cibernetică înainte de publicarea raportului și că viermele a fost dezvoltat în laborator folosind un instrument AI „open-source”, ușor de accesat și modificat de dezvoltatori la costuri reduse.
Papernot a adăugat că este nevoie de mai multă colaborare între companii, agenții guvernamentale și mediul academic pentru contramăsuri, avertizând că dispozitive aparent neimportante pot deveni puncte de lansare pentru atacuri asupra unor ținte valoroase. „Orice este conectat la internet este acum în pericol, din cauza cât de mult a scăzut costul acestor atacuri”, a spus el.
În SUA, unde sunt bazate multe dintre laboratoarele de vârf, reglementarea a avansat lent, iar un ordin executiv semnat la începutul săptămânii de administrația Trump a plasat o parte din responsabilitate pe umerii companiilor, solicitându-le să trimită voluntar cele mai capabile modele pentru testare guvernamentală de securitate cibernetică înainte de lansarea publică.
Ideea unei pauze în dezvoltarea AI a mai fost susținută și în trecut de cercetători și lideri din industrie, cu rezultate limitate. Elon Musk, proprietarul laboratorului xAI, s-a numărat printre susținătorii unei inițiative din 2023 a organizației non-profit Future of Life Institute, care a cerut oprirea dezvoltării pentru șase luni, pentru a crea „balustrade” (guard rails) de siguranță.
Anthropic, care s-a poziționat de-a lungul timpului ca laborator orientat spre siguranță, a refuzat anterior să permită armatei americane să-i folosească modelele pentru supraveghere internă și arme complet autonome, ceea ce a generat reacții negative din partea guvernului. Compania a fost inclusă pe o listă neagră de securitate națională, cu intrare în vigoare prevăzută pentru mai târziu în 2026.
Apelul public al Anthropic vine și într-un moment în care compania și OpenAI se află într-o cursă pentru vânzarea de acțiuni pe bursă, într-o ofertă publică inițială care ar putea evalua Anthropic la aproape un trilion de dolari.
Surse: Associated Press & Reuters via Al Jazeera
