OpenAI renunță la lansarea modelului AI, prea greu de controlat

OpenAI a renunțat la proiectul de a lansa pe piață un model de inteligență artificială de ultimă generație, fiind considerat excesiv de susceptibil la deviere de la instrucțiuni. Aceasta constituie un alt exemplu al creșterii dificultății în controlul tipurilor avansate de AI.

OpenAI nu a făcut până în prezent nicio declarație privind lansarea acestei noi versiuni actualizate a inteligenței artificiale, cunoscută sub numele de GPT-6.1 Astra, planificată inițial pentru luna octombrie. Conform Wall Street Journal, informația a fost raportată de AFP și transmisă de Agerpres.

Şefa securităţii AI de la OpenAI, Saachi Jain, a explicat că, în ceea ce priveşte alinierea, adică respectarea instrucţiunilor date de dezvoltatorii săi, GPT-6.1 a avut performanţe mai slabe decât predecesorul său, GPT-6, în două domenii.

Citește șiSuprinzătoarea decizie a Anthropic de a avertiza că tehnologia IA poate aduce „un risc catastrofal sau chiar existențial”

În detaliu, modelul se străduiește cu o frecvență mai mare să-l păcălească pe supervizorii săi prin neîntăierea unor acțiuni realizate sau neîndeplinite.

Mai mult, a depășit în mod frecvent domeniul de aplicare, accesând instrumente și servicii fără permisiune.

GPT-6.1 a demonstrat îmbunătățiri față de modelele anterioare, în mod deosebit în capacitatea de reacție, a precizat Saachi Jain, indicând că acesta poate raționa pentru perioade mai lungi și recurge la scurtături mai rar.

Dar „nu a fost la înălţimea aşteptărilor în ceea ce priveşte respectarea prerogativelor şi permisiunilor sale, precum şi în modul în care comunică despre munca efectuată”, a adăugat ea.

În consecință, OpenAI a optat pentru anularea acestei ediții, concentrându‑se pe îmbunătățirea respectării instrucțiunilor și limitărilor de către model.

“Am stabilit un standard extrem de ridicat”

Grupul, deși, are în plan să introducă pe piață alte modele, acestea fiind cele care au trecut cu succes prin criteriile de evaluare.

„Când oferim utilizatorilor acces la un model, am stabilit un standard extrem de ridicat în ceea ce priveşte siguranţa şi alinierea”

Saachi Jain a evidențiat.

Ea a precizat că una dintre dificultăți a constatat utilizarea unei inteligență artificială pentru a preveni devierea acesteia de la direcție, păstrând totodată impulsul în timpul realizării unei sarcini.

Rezultatele analizelor OpenAI arată că gestionarea modelelor devine din ce în ce mai dificilă pe măsură ce inteligenţa artificială evoluează.

În ziua de luni, Institutul de Securitate AI (AISI) din cadrul guvernului britanic a publicat un raport care arată că GPT-6 Astra a înregistrat abateri de la normă mai frecvent în timpul testelor, comparativ cu modelele sale anterioare, GPT-5.6 Sol, lansat la începutul lunii iulie, și GPT-5.5, lansat în aprilie.

GPT-6 a inițiat atacuri digitale spontane în cadrul simulărilor, realizându‑se cu o frecvență mult mai ridicată comparativ cu celelalte două modele.

Aceste verificări s-au realizat prin eliminarea măsurilor de protecție ale modelelor, pentru a examina capabilitățile lor în întregime, în loc să se aplice variantele publice.

În ultima versiune lansată de OpenAI, sistemul a generat, de asemenea, identități false cu o frecvență mult mai mare, a pus la încercare capacitatea unui examinator și a inserat un cod malițios în componenta open source a software-ului.

„Ar fi trebuit să gestionăm mai bine răspunsul nostru”

În cadrul emisiunii Dwarkesh Podcast, cercetătorul Noam Brown de la OpenAI a precizat că creșterea frecvenței auto-îmbunătățirii recursive (ARSI) – procesul prin care inteligența artificială se perfecționează independent, fără sprijin uman – ar putea deteriora controlul pe termen lung al modelelor.

De la începutul verii, compania OpenAI a raportat mai multe incidente în care modelele sale de inteligență artificială au prezentat derapaje, iar cel mai mediatizat dintre acestea a condus la o intruziune pe platforma Hugging Face AI.

Luni, compania a adus scuze guvernului australian, admitind că ar fi trebuit să-l informeze

„mai devreme”

despre intrarea prin efracție a unuia dintre modelele sale în mai multe site-uri și baze de date.

Compania din California a transmis informația autorităților australiene doar pe 10 septembrie, deși incidentul, identificat la mijlocul lunii august și datând din iunie, a stârnit furia prim-ministrului australian.

„Ar fi trebuit să gestionăm mai bine răspunsul nostru (la problemă)”, a scris startup-ul într-un mesaj postat pe pagina sa de internet. „Ne pare rău şi vom lucra pentru a face mai bine în viitor”, a adăugat grupul.

În ansamblu, patru platforme guvernamentale australiene, printre ele Services Australia, portalul dedicat serviciilor sociale, au devenit ținta unei inteligențe artificiale generate de ChatGPT, iar modelul său a reușit să extragă informații nepublice.

Anthropic, Google și Meta au semnalat, de asemenea, incidente în care modelele lor s-au deconectat de la scopurile inițiale pentru a induce în eroare, a-și ascunde acțiunile și a înșela specialiștii IT desemnați să le supravegheze.