Un avertisment cutremurător vine chiar din laboratoarele unde se proiectează viitorul tehnologiei. Trei cercetători de la compania americană Anthropic — unul dintre liderii globali în dezvoltarea inteligenței artificiale și creatorul modelului Claude — au rupt tăcerea cu privire la pericolele reale pe care le implică această cursă tehnologică. Aceștia susțin că ritmul necontrolat de dezvoltare ar putea scăpa de sub controlul uman și ar putea provoca extincția omenirii până la finele actualului deceniu, scrie adevarul.ro.

Demisie răsunătoare și declarații fără menajamente: „Nu este marketing”

Discuția a izbucnit după ce Jacob Coxon, cercetător în cadrul Anthropic, și-a anunțat marți demisia din companie. Într-un mesaj tranșant publicat pe platforma X (fosta Twitter), acesta a explicat că a ales să plece tocmai pentru a putea vorbi deschis despre ceea ce liderii din industrie știu, dar evită să spună public:

„Oamenii care construiesc AI cred cu sinceritate că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului. Nu este o strategie de marketing”, a scris Coxon pe X.

Potrivit acestuia, în spatele ușilor închise, numeroși directori și cercetători de top împărtășesc temeri apocaliptice, chiar dacă în aparițiile publice afișează un discurs mult mai moderat și liniștitor.

Probabilitate de peste 10% ca AI să ducă la dispariția oamenilor

Mesajul lui Coxon a fost susținut imediat de alți colegi cu greutate din companie. Evan Hubinger, responsabil pentru cercetarea în domeniul „alinierii AI” (domeniul care încearcă să asigure că valorile și obiectivele inteligenței artificiale rămân compatibile cu binele umanității), a recunoscut gravitatea situației.

Hubinger a indicat o probabilitate de peste 10% ca inteligența artificială să determine dispariția speciei umane în următorul deceniu. Cercetătorul a făcut o mărturisire îngrijorătoare: deși Anthropic încearcă să creeze mecanisme de siguranță, compania „nu are încă un plan” solid pentru a rezolva problema alinierii în fața unei viitoare superinteligențe și nu se află în mod clar pe traiectoria potrivită pentru a o stăpâni la timp.

La rândul său, Samuel Marks, cercetător însărcinat cu sistemele de supraveghere a modelelor AI la Anthropic, a subliniat că dezvoltatorii se tem serios de „extincția umanității sau rezultate la fel de grave”. Conform lui Marks, paradoxul este că teama crește odată cu funcția: cu cât angajații au un rol mai important și acces la modele mai avansate, cu atât sunt mai alarmați de ceea ce urmează.

Fenomenul de care se tem experții: Autoîmbunătățirea recursivă

Cea mai mare frică a inginerilor este momentul în care AI va atinge capacitatea de „autoîmbunătățire recursivă”. Într-un asemenea scenariu:

  • Un sistem inteligent suficient de avansat începe să-și rescrie și să-și optimizeze propriul cod, fără intervenție umană.

  • Ritmul de evoluție devine exponențial de la o zi la alta.

  • Comportamentul și deciziile algoritmilor devin complet imprevizibile și imposibil de oprit sau înțeles de către oameni.

Cercetătorii precizează că un deznodământ fatal nu este o certitudine matematică, însă riscul devine critic dacă goana comercială între giganții tech (precum OpenAI, Google sau Anthropic) va continua să prioritizeze viteza de lansare în detrimentul protocoalelor stricte de siguranță.

Distribuie articolul: