Discuția a dobândit amploare când Jacob Coxon, specialist la Anthropic, a anunțat la începutul lunii septembrie că își părăsește compania, susținând că temerea că sistemele de inteligență artificială de astăzi ar putea deveni necontrolabile este reală. Postarea sa a acumulat peste 100 de milioane de vizualizări într-o singură zi.
Ulterior, Evan Hubinger, care coordonează studiile de aliniere a sistemelor AI cu valorile și scopurile umane la Anthropic, a estimat că riscul extincției umane în următorul deceniu ar putea depăși 10 %.
Directorul general al Anthropic, Dario Amodei, a solicitat ca vite
Citește șiEnergie solară sub apă: cercetătorii reușesc la 10 m adâncime
În ce fel ar putea AI să se transforme într-o amenințare existențială?
În mod obișnuit, cercetătorii îngrijorați de un risc existențial își construiesc scenariile pe două ipoteze: că viitoarele sisteme ar putea să depășească în mod semnificativ abilitățile cognitive ale omului și că scopurile acestora nu ar fi în concordanță cu interesele umane.
Un caz emblematic este cel în care o superinteligență primește un scop aparent simplu, dar începe să-l urmărească într-un mod care intră în conflict cu supraviețuirea oamenilor. Alte situații analizate în literatura de specialitate presupun utilizarea unor sisteme extrem de avansate pentru crearea de arme biologice sau pentru alte acțiuni capabile să genereze efecte catastrofale.
Conform unei analize publicate în revista Nature, Michael Vermeer, specialist în politici științifice și tehnologice de la RAND, afirmă că o proporție semnificativă din aceste previziuni se bazează pe un număr excesiv de presupuneri neconfirmate, ceea ce face ca dezbaterea să se apropie mai mult de o discuție de natură credințială decât de una empirică.
Extincția completă nu reprezintă singurul pericol și nu este nici cel mai urgent.
RAND a realizat o analiză, menționată de Nature, care a investigat situații concrete legate de armament nuclear, biotehnologie și schimbări intenționate ale atmosferei. Specialiștii au stabilit că dispariția totală cauzată de armament nuclear nu pare realizabilă în cazurile studiate, însă cele două categorii de scenarii rămân posibile.
Un aspect esențial este însă intervalul necesar pentru a genera un astfel de cataclism. Un sistem de AI ar trebui să dețină o abilitate considerabilă de a interacționa în mod fizic cu mediul, iar mișcările sale ar putea fi observate și suspendate de către oameni înainte ca acestea să devină ireversibile.
Pe de altă parte, experți în securitatea AI subliniază existența unor amenințări mai imediate și palpabile: propagarea dezinformării, atacuri cibernetice, sprijinirea dezvoltării armamentului biologic, erori în sisteme critice și utilizarea modelelor în situații în care inexactitatea lor poate conduce la consecințe grave.
Algoritmii de AI au început deja să manifeste abilități alarmante.
Firmele din domeniul inteligenței artificiale au lansat în ultimele săptămâni evaluările proprii ale riscurilor. Anthropic a demonstrat că modelele sale pot realiza anumite activități legate de informațiile militare și de fabricarea armelor convenționale la un standard care, înainte, cerea experți umani specializați. Compania susține că aceste concluzii
OpenAI a lansat, în rândul său, o analiză care susține că GPT-6 Astra a atins un nivel „critic” în ceea ce privește abilitățile de securitate cibernetică. Compania susține că modelul poate detecta vulnerabilități necunoscute și poate proiecta metode de exploatare pentru sisteme bine protejate, motiv pentru care au implementat măsuri suplimentare de monitorizare și izolare.
Ce motive determin companiile să cer o încetinire a AI?
Dario Amodei afirmă că progresul trebuie ritmat pentru ca măsurile de securitate să rămână în concordanță cu evoluția modelelor. Anthropic a lansat un proiect în care evaluatori independenți vor avea acces în sediul companiei, pentru a putea inspecta procedurile de securitate și sistemele de protecție. Compania colaborează cu Accenture în acest demers, iar cele două entități planifică să aloce împreună cel puțin un miliard de dolari în următorii cinci ani pentru această capacitate de evaluare.
OpenAI afirmă că este esential să existe norme globale pentru evaluarea riscurilor, să se păstreze controlul uman și să se stabilească condiții clare în care dezvoltarea unor sisteme avansate trebuie încetinită sau oprită.
Se observă, de asemenea, rezistență la încetinirea ritmului.
În domeniul industrial nu se găsește un acord privind viteza cu care ar trebui restrânsă evoluția tehnologică. Președintele american Donald Trump a exprimat, public, dezacordul față de cererile de a încetini progresul.
În cadrul Congresului american există inițiative care se îndreaptă în sens opus. În luna septembrie, Senatorul Bernie Sanders și reprezentantul Greg Casar au lansat o propunere legislativă ce vizează interzicerea dezvoltării și utilizării „superinteligenței artificiale” și propune o întrerupere temporară a progresului sistemelor AI avansate, până la stabilirea unor reguli federale de siguranță.
Totodată, nu există momentan un sistem global uniform pentru controlul inteligenței artificiale, iar Statele Unite ale Americii și China persistă în lupta pentru dominația tehnologică. Această rivalitate îngreunează eforturile de armonizare la nivel mondial.
Ceea ce cunoaștem și ce nu cunoaștem
În prezent, informațiile disponibile nu susțin o concluzie științifică care să afirme că AI ar fi destinată să anuleze viața umană. De asemenea, nu se poate elimina complet posibilitatea unei catastrofe existențiale, iar nivelul precis al riscului rămâne subiect de dezbatere intensă.
Documentările existente arată că modelele dobândesc din ce în ce mai multă abilitate în domenii precum programarea, cercetarea, securitatea cibernetică și în analiza problemelor complexe. OpenAI și Anthropic susțin că inteligența artificială începe să accelereze și chiar procesul de creare a viitoarelor generații de sisteme, alimentând astfel dezbaterile privind posibilitatea ca AI să se implice tot mai mult în propria evoluție.
Cercetătorii nu se întreabă doar dacă un scenariu în care AI ar distruge omenirea este realizabil, ci și cât de eficient pot fi cuantificate și gestionate
COMENTARII / 0