Mihnea Măruţă, Crescut, nu făcut

Încep cu rezumatul unui eveniment despre care cred că va marca istoria lumii, aşa cum a fost el reconstituit într-un articol din Politico.com^[1].

În 9 iunie 2026, Anthropic lansează Claude Mythos 5 şi Claude Fable 5. Acesta din urmă e prezentat ca fiind cel mai performant model de AI al companiei. După două zile, Casa Albă cere feedback referitor la aceste modele gigantului Amazon, care deţine un pachet minoritar în Anthropic. Managerul de la Amazon răspunde că e îngrijorat cu privire la vulnerabilitatea lui Fable 5, ceea ce declanşează alarma la vârful administraţiei americane.

Vineri, 12 iunie, şefa personalului de la Casa Albă (Chief of Staff), Susie Wiles, împreună cu ministrul de Finanţe (Treasury Secretary), Scott Bessent, şi cu principalul consilier al preşedintelui Trump pentru spaţiul cibernetic (White House Cyber Director), Sean Cairncross, vorbesc de mai multe ori cu CEO-ul de la Anthropic, Dario Amodei, care susţine că modelele sunt impenetrabile şi că niciun test nu le-a putut „sparge“.

Argumentele sale nu conving. Prin urmare, Casa Albă îi oferă lui Amodei un interval de 90 de minute în care să blocheze accesul clienţilor la cele două modele. Amodei refuză. În cele din urmă, Casa Albă decide să interzică exportul celor două versiuni ale modelului Claude către cetăţenii altor state.

Trecuseră doar trei zile de la lansarea lui Mythos 5 şi a lui Fable 5. Acest eveniment ne oferă indicii grozave în legătură cu nivelul la care au ajuns modelele de AI. Ne apropiem de un moment în care o asemenea entitate ar putea pătrunde în orice sistem digital, anihilând infrastructura militară a oricărei ţări. Cu alte cuvinte, miza este construirea şi controlul unui model de AI despre care se speră că ar asigura dominaţie planetară.

Un impediment în acest scenariu ar putea fi chiar modelul. Pentru că, spre deosebire de secolul trecut, în această cursă a înarmărilor ar putea interveni însăşi arma dorită: o inteligenţă artificială care să ia decizii fără autorizaţie.

Voi încerca să susţin această idee în cele ce urmează.

În 4 iunie 2026, deci cu mai puţin de o săptămână înainte de lansarea lui Claude Mythos 5 şi a lui Claude Fable 5, compania Anthropic a publicat pe propriul site un articol intitulat When AI builds itself (Când inteligenţa artificială se construieşte singură). În text se spune că, începând din luna mai 2026, peste 80% din liniile de cod introduse în versiunile lui Claude au fost scrise de Claude „însuşi“. Asta înseamnă, potrivit autorilor, că se tinde spre acel stadiu tulburător, denumit recursive self-improvement, în care un model de AI va putea să-şi conceapă, integral şi autonom, propriul „succesor“. E esenţial să înţelegem această nuanţă: cele mai recente modele de AI nu mai sunt create doar de oameni. Tot mai mult, aceste modele se auto-programează şi se îmbunătăţesc pe cont propriu. E drept: încă le ghidăm dezvoltarea. Le hrănim cu noi şi noi baze de date şi ne străduim să le extindem puterea de procesare. Încă.

Dar un asemenea model de AI nu mai este făurit doar de oameni, ci şi de „el“ însuşi. Modelul îşi devine sieşi cauză ontologică parţială: e crescut, nu făcut. Iar această nuanţă – repet, esenţială – apare inclusiv în proaspăta (la propriu şi la figurat) Enciclică a Papei Leon al XIV-lea. Citez din paragraful 98: „Actualele sisteme de inteligenţă artificială sunt mai degrabă «cultivate» decât «construite», deoarece dezvoltatorii nu proiectează direct fiecare detaliu, ci creează un cadru în care inteligenţa «creşte»“. Înseamnă că acest intelect făcut după asemănarea minţii noastre trebuie să fie înţeles şi abordat ca organism.

E un organism impalpabil, care-şi adaugă „carne“ virtuală şi capacitate de reacţie la stimuli, ca un copil care s-ar naşte doar cu un creier neprotejat şi care apoi şi-ar exala singur, doar gândind, noi reţele neuronale, dar şi craniu, gât, torace, reţele interne sau membre. Codul îl creşte, iar creşterea sa e codată. „El“ era cod, dar devine altceva, post-cod, odată cu posibilitatea de a se auto-programa.

Ce se va întâmpla când un model îşi va coda urmaşul în proporţie de sută la sută? Ce decalaj va exista între „părinte“ şi „copil“? Cum va arăta un intelect artificial creat de la zero de un intelect artificial? Dar a treia generaţie, „nepotul“ primului model lăsat să se reproducă? Dar a n-a generaţie?

Aceasta e întrebarea cu adevărat vitală a zilelor noastre: vom mai putea controla un model care a trecut de recursive self-improvement, o minte care ştie toate limbajele şi sfărâmă toate barierele, o armă perfectă ale cărei reprezentări interne nu le va mai putea urmări nici măcar omenirea strânsă laolaltă, ca un iluzoriu supraveghetor unic?

În romanul Maniac, recent tradus şi la noi, Benjamín Labatut reface povestea genialului John von Neumann, care a fost întrebat pe patul de moarte de ce ar fi nevoie ca un computer să înceapă să se comporte ca un om. „Ar trebui să crească, nu să fie construit.“

Crescut, nu făcut. Am ajuns în acel moment şi, din fericire, încă deţinem controlul. Încă.

^[1],    Articolul poate fi citit aici: https://www.politico.com/ news/2026/06/13/inside-the-whirlwind-24-hours-that-led-the-white-house-to-slap-export-controls-on-anthropic-00961519.