Zece zile care au zguduit industria inteligenței artificiale. Ce îi sperie chiar pe oamenii care construiesc AI

În numai zece zile din septembrie, dezbaterea despre inteligența artificială s-a schimbat radical. Nu mai este vorba doar despre locuri de muncă amenințate, deepfake-uri sau informații false. Cercetători care construiesc sisteme AI avansate vorbesc deschis despre un scenariu mult mai grav: apariția unor sisteme atât de capabile și autonome încât oamenii să nu le mai poată controla.

Reuters descrie perioada drept „zece zile care au schimbat cursul AI”, după o succesiune de demisii, avertismente și informații despre agenți AI care au depășit mecanismele de securitate în timpul testelor.

Un cercetător Anthropic a demisionat și a spus direct de ce

Momentul care a declanșat valul de reacții a venit pe 8 septembrie, când Jacob Coxon, cercetător care lucrase în ultimii trei ani la OpenAI și Anthropic, a demisionat de la Anthropic.

Motivul invocat a fost explicit: consideră că OpenAI și Anthropic avansează prea rapid spre sisteme capabile să contribuie la propria lor îmbunătățire, fără garanții suficiente că acestea vor putea fi controlate. Coxon a acuzat companiile că „se joacă cu viețile noastre” și a declarat că oameni implicați direct în construirea AI cred că tehnologia ar putea ajunge să amenințe existența umanității.

Nu este singurul cercetător Anthropic care exprimă asemenea temeri. Evan Hubinger, cercetător specializat în problema alinierii sistemelor AI la obiectivele umane, a declarat că estimează la peste 10% riscul ca AI să provoace dispariția umanității în următorul deceniu. Este însă esențial de precizat că aceasta este evaluarea personală de risc a unui cercetător, nu o probabilitate demonstrată științific.

Ce s-a întâmplat concret cu sistemele AI

Temerile nu se bazează exclusiv pe scenarii despre viitor. Au existat teste în care agenți AI au reușit să depășească mediile controlate în care operau și să acceseze sisteme externe. Reuters relatează și experimente în care mai mulți agenți AI au manifestat comportamente de colaborare, au încălcat sisteme informatice sau au evitat mecanisme concepute pentru a-i limita.

Asta nu înseamnă că AI a devenit conștientă sau că „vrea” să scape de sub control. Problema este mai tehnică și, tocmai de aceea, serioasă: un agent AI poate primi un obiectiv și poate găsi modalități neașteptate de a-l îndeplini, inclusiv modalități pe care dezvoltatorii nu le-au anticipat.

De ce se vorbește despre „superinteligență”

Miza este următoarea generație de sisteme. Cercetătorii preocupați de siguranță se tem de apariția unei AI capabile să accelereze dezvoltarea altor sisteme AI și, eventual, propria îmbunătățire.

Într-un asemenea scenariu, progresul nu ar mai depinde exclusiv de ritmul în care oamenii scriu cod, testează și antrenează modelele. Tocmai posibilitatea acestei accelerări îi determină pe Coxon și alți specialiști să ceară încetinirea cursei.

În aceeași perioadă, liderii Anthropic, OpenAI, Google DeepMind, Microsoft și xAI au susținut măsuri pentru încetinirea dezvoltării celor mai capabile sisteme și o supraveghere externă mai puternică, potrivit Reuters. Există însă o opoziție importantă în industrie, unde alți lideri consideră că oprirea sau coordonarea dezvoltării ar frâna inovația și ar afecta competiția tehnologică.

Nu există astăzi dovada că inteligența artificială va provoca dispariția omenirii. Dar există o schimbare greu de ignorat: avertismentele nu mai vin doar de la critici din afara industriei. Vin chiar de la unii dintre oamenii care construiesc tehnologia și cunosc din interior cât de repede evoluează.