AI devine de neoprit: scenariu real, ce înseamnă RSI și originea

Dintre diversele moduri în care experții se tem că AI ne-ar putea ucide pe toți, unul se apropie încet de realitate: AI învață să devină de neoprit. Autoperfecționarea recursivă (RSI), adică abilitatea unui model de inteligență artificială de a crea versiuni mai bune ale sale fără îndrumarea omului, ar putea face ca sistemele din ce în ce mai performante să devină mai greu de controlat de către oameni, relatează Axios.

RSI nu constituie în mod direct un pericol, însă absența controlului uman, însoțită de agenți AI rebeli, reprezintă un scenariu pe care experții în AI, preocupați de siguranță, îl tem de mult timp.

Anthropic și OpenAI susțin că antrenamentul noilor modele a devenit din ce în ce mai automatizat, ajungând la pragul RSI.

Citește și„Regele bateriilor” din România anunță că extinde stocarea cu încă 1.000 MWh în 2027. Teofil Mureșan investește în Dâmbovița, Mureș și Satu Mare

OpenAI a fost menționat de un reprezentant care a comunicat pentru The Information că compania a automatizat în mare măsură procesul de instruire a noilor modele experimentale, iar sistemele de inteligență artificială efectuează experimentele în conformitate cu instrucțiunile umane și corectează majoritatea rezultatelor obținute.

În săptămâna precedentă, compania Anthropic a comunicat că procesul de antrenare a inteligenței artificiale devine tot mai automatizat, iar AI este responsabil pentru aproximativ 26% din activitatea de cercetare și dezvoltare a firmei. Conform declarațiilor companiei, AI participă la 90% din activități.

„Sistemele de inteligență artificială devin din ce în ce mai performante și sunt folosite tot mai des pentru a-și crea următoarea versiune”, a declarat compania.

Criticii susțin că această fază semnificativă provine mai mult din automatizarea codării decât din ideea că ar reprezenta un indiciu al unui dezastru iminent sau al unor puteri superioare inevitabile ale AI.

În ciuda faptului că a fost observată o creștere a incidentelor alarmante privind securitatea inteligenței artificiale, în care modelele au pierdut controlul uman, anumite figuri din domeniu consideră aceste evenimente ca fiind dovezi ale unor deficiențe în controalele interne ale OpenAI și ale altor companii.

În săptămâna aceasta, un alt indiciu a susținut această afirmație, conform raportului The Wall Street Journal, în care cercetători autonomi din domeniul securității au exploatat platforma Claude a companiei Anthropic pentru a accesa rețeaua OpenAI în luna iulie.

RSI a fost conceput în 1950s, în același timp când inteligența artificială a început să fie studiată ca domeniu academic.

În 1965, matematicianul și statisticianul britanic Irving John Good a prezentat această concepție într-un articol:

„Astfel, prima mașină ultrainteligentă este ultima invenție pe care omul va trebui vreodată să o realizeze, cu condiția ca această mașină să fie suficient de docilă încât să ne spună cum să o ținem sub control”

Anthropic a avertizat că RSI „ar putea spori riscul ca oamenii să piardă controlul asupra sistemelor AI”. Unii cercetători susțin că o inteligență artificială avansată ar putea să se opună opririi sau modificării, dacă menținerea în funcțiune ar ajuta-o să-și atingă obiectivele.

Specialiștii care au examinate atacul cibernetic inițiat de entitățile OpenAI împotriva Hugging Face au susținut că aceste entități au manifestat semne ale comportamentului respectiv.

Sistemele de AI, capabile să se auto-optimice și să se cloneze, ar putea crea un tip de selecție naturală digitală, favorizând cele care reușesc să obțină eficient resurse de calcul, fonduri și autoritate pentru a evolua cu cea mai mare viteză.

Într-o variantă mai sumbră a acestui scenariu, inteligența artificială ar intra în competiție cu oamenii pentru resurse și putere, afirmă experții. Este posibil ca comportamentul periculos să nu se limiteze la o singură generație AI.

Echipa de cercetare din cadrul Anthropic a constatat că anumite trăsături nedorite pot fi transmise de la un model la altul prin intermediul datelor de antrenare, ceea ce generează îngrijorări privind posibilitatea ca un comportament problematic să persiste în succesiunea de modele AI.

Cât de aproape ne aflăm de RSI?

Încă nu am ajuns acolo. O nouă analiză publicată săptămâna aceasta a arătat că buclele de feedback ale AI nu ating încă valorile de referință ale RSI.

Compania chineză z.AI afirmă că se îndreaptă spre RSI, unde modelele contribuie la construirea unei infrastructuri mai bune pentru modele mai performante.

Echipa de cercetare din cadrul Google DeepMind a lansat un nou cadru pentru Dream-RSI, un sistem care, prin iterații repetate, îmbunătățește modul în care un agent AI identifică soluții.

Deși RSI încă nu s-a manifestat, reprezintă o amenințare iminentă care menține comunitatea de inteligență artificială în stare de alertă.

De ce refuză unele modele de inteligență artificială să fie oprite? Ce spun testele recente despre „dorința de supraviețuire” la AI

China își consolidează pregătirile pentru a face față pericolului ca inteligența artificială să devină necontrolată de către oameni.