Cursa pentru supremație în domeniul inteligenței artificiale începe să fie însoțită de un avertisment tot mai apăsat chiar din interiorul industriei: dezvoltarea modelelor AI ar putea avansa mai repede decât capacitatea oamenilor de a le controla. Dario Amodei, CEO-ul Anthropic, susține că ritmul cercetării ar trebui încetinit pentru a câștiga timp în dezvoltarea unor mecanisme de siguranță, iar Elon Musk și Sam Altman s-au pronunțat public în aceeași direcție.
Avertismentele au ajuns în atenția marilor publicații internaționale, de la The Washington Post și The New York Times până la Financial Times, The Wall Street Journal și Reuters. Disputa este însă departe de a fi închisă: există și lideri din industria tehnologică care consideră că astfel de scenarii sunt exagerate sau că avertismentele pot servi inclusiv intereselor comerciale ale companiilor care le formulează.
Dario Amodei: ar trebui să încetinim cursa AI
CEO-ul Anthropic, compania care dezvoltă Claude, a lansat un avertisment dur privind ritmul în care evoluează inteligența artificială.
Amodei consideră că dezvoltarea ar trebui încetinită suficient pentru ca cercetătorii să poată construi mecanisme prin care oamenii să păstreze controlul asupra unor sisteme din ce în ce mai capabile, inclusiv asupra agenților AI care ar putea ajunge să se autoîmbunătățească.
„Cred că, dacă încetinirea ritmului ne-ar cumpăra chiar și un an sau doi înainte ca modelele să atingă niveluri critice de capabilitate și dacă am folosi acest timp pentru a face progrese în domeniul alinierii, am putea reduce considerabil riscul ca ceva să meargă extrem de prost”, a scris Amodei.
Într-un interviu acordat CNN după publicarea eseului, el a spus că este mai degrabă de acord decât în dezacord cu o estimare extremă formulată de un fost angajat al Anthropic, Jacob Coxon, potrivit căruia există o probabilitate de 10% ca o „apocalipsă AI” să se producă până la sfârșitul acestui deceniu.
Este însă o estimare, nu o predicție științifică unanim acceptată.
Musk și Altman susțin avertismentul
Mesajul lui Amodei este cu atât mai neobișnuit cu cât Anthropic se află într-o competiție directă cu alte companii care dezvoltă modele avansate de inteligență artificială.
Cu toate acestea, Elon Musk, fondatorul xAI, compania care dezvoltă Grok, și Sam Altman, CEO-ul OpenAI, au susținut public ideea că dezvoltarea AI trebuie însoțită de măsuri serioase de siguranță.
Astfel, avertismentul nu mai vine doar din partea unor cercetători preocupați de riscurile teoretice ale inteligenței artificiale. El este formulat și de oameni aflați în centrul competiției comerciale pentru dezvoltarea celor mai puternice sisteme AI.
Nu toți șefii din industria tehnologică sunt convinși
Există însă și o tabără care privește cu scepticism aceste avertismente.
Jensen Huang, CEO-ul Nvidia, consideră că Amodei contribuie la crearea unei stări de panică în jurul securității AI, inclusiv într-un context în care Anthropic ar urma să își dezvolte oferta de produse pentru securitate cibernetică.
Criticii susțin, la rândul lor, că marile companii AI pot avea și un interes strategic în promovarea unor reguli stricte. Reglementările costisitoare ar putea fi mai ușor suportate de giganții care dispun de resurse uriașe decât de startup-urile mai mici, ceea ce ar putea consolida poziția companiilor dominante.
Așadar, dezbaterea are două dimensiuni: cât de real este riscul reprezentat de AI și cât de mult din discursul despre siguranță este determinat de competiția comercială dintre companiile care controlează această tehnologie.
Ce propune șeful Anthropic
Amodei pledează pentru o formă de supraveghere mult mai strictă a dezvoltării inteligenței artificiale.
Una dintre propunerile sale este ca inspectori independenți să poată avea acces la companiile AI și să supravegheze procesele de cercetare și dezvoltare la un nivel comparabil cu cel al angajaților din interiorul organizațiilor.
El cere, de asemenea, implicarea guvernelor occidentale în stabilirea unor standarde și limite pentru dezvoltarea AI.
În opinia sa, problema nu poate fi rezolvată doar la nivelul unei singure țări. Statele occidentale trebuie să coopereze, dar este necesară și coordonarea cu țările autoritare, inclusiv China, care a redus în acest an distanța față de companiile americane în cursa pentru dezvoltarea inteligenței artificiale.
Trump vede un alt risc
Administrația americană nu pare însă dispusă să încetinească această cursă.
Președintele Donald Trump a declarat recent că nu este preocupat de posibilitatea ca inteligența artificială să provoace extincția omenirii. Pentru el, riscul mai important este ca Statele Unite să piardă competiția tehnologică în fața Chinei.
Trump consideră că SUA au în prezent un avantaj de aproximativ un an în cursa AI și că pierderea acestuia ar pune America „într-o poziție proastă”.
Este exact argumentul la care Amodei răspunde în analiza sa: o strategie coordonată privind siguranța AI, susține CEO-ul Anthropic, nu ar trebui să însemne neapărat renunțarea la avantajul comercial al Statelor Unite.
Marea întrebare: cât de repede trebuie să se dezvolte AI-ul?
În spatele disputei dintre șefii marilor companii se află, de fapt, o întrebare la care industria nu are încă un răspuns clar.
Pe de o parte, accelerarea dezvoltării AI poate aduce progrese majore în economie, medicină, cercetare și tehnologie și poate oferi Statelor Unite un avantaj strategic important față de China.
Pe de altă parte, cu cât sistemele devin mai autonome și mai capabile, cu atât devine mai important ca mecanismele de control și siguranță să țină pasul cu ele.
De aici vine avertismentul lui Amodei: nu cere oprirea inteligenței artificiale, ci timp suplimentar pentru ca oamenii să construiască mecanismele necesare înainte ca modelele să atingă niveluri de capabilitate pe care nu le mai pot controla suficient de bine.
În acest moment, nimeni nu poate spune cu certitudine dacă scenariile despre o catastrofă provocată de AI se vor materializa. Dar faptul că principalii concurenți din industrie discută public despre posibilitatea ca dezvoltarea tehnologiei să depășească mecanismele de control arată cât de mult s-a schimbat natura dezbaterii despre inteligența artificială.
