Avertismentul „nașului” inteligenței artificiale, laureat Nobel: „Poate era mai bine să nu o dezvoltăm niciodată”. Geoffrey Hinton prezice un incident major în rețelele energetice sau financiare

Progresul rapid al tehnologiilor noi se îndepărtează de cadrul etic, iar oamenii ar fi putut fi într-o poziție mult mai sigură dacă nu ar fi...

Progresul rapid al tehnologiilor noi se îndepărtează de cadrul etic, iar oamenii ar fi putut fi într-o poziție mult mai sigură dacă nu ar fi creat vreodată algoritmii de învățare profundă. Acest avertisment provine de la Geoffrey Hinton, informatician premiat cu Premiul Nobel și recunoscut la nivel mondial ca „nașul” inteligenței artificiale, potrivit The Guardian.

Într-un interviu extins acordat publicației britanice The Guardian, un cercetător de 78 de ani subliniază că lumea se îndreaptă rapid spre un șoc tehnologic de amploare, prevăzând apariția unui eveniment grav în acest an sau în anul următor.

Chiar dacă vede că inteligența artificială poate aduce schimbări benefice în societate, Hinton afirmă că riscurile nu pot fi neglijate.

Citește șiUn mecanic polonez a desfăcut bucată cu bucată cutia de viteze hibridă de pe Dacia și Renault. Ce a descoperit

„Poate era mai bine să nu o dezvoltăm niciodată”, a spus laureatul Premiului Nobel.

Hinton a susținut că, în ciuda faptului că munca sa de-a lungul vieții în rețele neuronale artificiale poate crea teoretic un nivel de prosperitate materială fără egal, șansele ca riscurile să fie maladministrate rămân extrem de mari.

Conform celui mai întunecat scenariu prezentat de savant, incapacitatea de a controla modelele sofisticate va intensifica disparitățile dintre bogați și săraci, determinând violente schimbări culturale, o creștere masivă a șomajului și o societate total deconstruită.

Informaticianul britanic stabilește o comparație directă cu marile catastrofe nucleare din secolul trecut.

În ultimele rapoarte privind incidentele tehnice, agenții creat de OpenAI au pătruns în infrastructura platformei Hugging Face, echivalentul unei avarii parțiale la Three Mile Island din 1979, un foc de avertizare simplu. Următorul pas ar putea fi devastator.

Hinton afirmă că, în perioada imediat următoare, lumea ar putea fi martoră la un adevărat

„Cernobîl”

în domeniul digital.

Nu este vorba despre o explozie atomică în sens propriu, ci despre un atac cibernetic autonom generat de o entitate AI asupra sistemelor de generare și distribuție a energiei electrice, capabil să inducă o cădere masivă de tensiune pe suprafețe extinse, sau despre o paralizie completă a tranzacțiilor financiare globale care să dureze o săptămână întreagă.

Conform lui, un astfel de colaps de scurtă durată ar determina liderii globului să recunoască cu adevărat seriozitatea evenimentului.

Decizia lui Hinton a căzut în același timp cu debutul unui film documentar intitulat sugestiv AI: Probabil că nu există nimic de care să vă faceți griji, titlu conceput de un chatbot, în care specialistul în informatică este însoțit de fostul său partener de la Google, Demis Hassabis.

Cercetătorul nu a dorit să preia conducerea marilor corporații americane care concurează pentru supremația digitală.

Hinton a afirmat că nu are deloc încredere în Sam Altman, directorul executiv al OpenAI, și a ridicat la critică modul în care giganții din tehnologie tratează cu relaxare măsurile fundamentale de siguranță, în căutarea rapidă a cotei de piață și a profiturilor masive.

Savantul a subliniat că Mark Zuckerberg, Elon Musk și Sam Altman, liderii celor mai mari dezvoltatori, posedă o înțelegere completă a riscurilor la care expun populația, însă aleg în mod deliberat să le ignore pentru a spori rent

În opinia lui Hinton, decizii esențiale privind viitorul umanității se află în controlul unor firme private implicate într-o competiție fără țintă cu China, ceea ce se manifestă ca un nivel ridicat de vulnerabilitate geopolitică.

În 2023, pionierul care a dezvoltat concepte matematice încă din anii ’70 a părăsit structurile Google, alegând să-și păstreze libertatea de a vorbi deschis despre derivațiile inteligenței sintetice.

Acum, el susține necesitatea unui sistem de reglementare riguros, echivalent cu structura folosită de companiile farmaceutice globale.

Proiectul sofisticat al lui Hinton impune ca niciun sistem de inteligență artificială de ultimă generație să nu fie comercializat fără consimțământul prealabil al unei autorități imparțiale, bazat pe dovezi statistice concludente că produsul generează beneficii mai mari decât daune.

El a menționat talidomidă ca exemplu, referindu‑se la scandalul din 1950 care a cauzat mii de malformații neonatale, și a subliniat că lansarea necontrolată a unei tehnologii și efortul ulterior de a o reglementa prin tribunale constituie o abordare catastrofală.

La nivel politic internațional, conceptul evaluărilor independente a atras susținerea unei coaliții constituite din Finlanda și alte 32 de state, inclusiv Germania, Canada, Australia și Singapore, în timp ce premierul britanic Andy Burnham a declarat că dorește să promoveze standarduri globale comune în cadrul summiturilor internaționale.

În Washington, președintele Donald Trump respinge categoriac această viziune, declarând că nu va susține nicio strategie globală de control tehnologic. El susține că industria trebuie să se autoreglementeze pentru a nu compromite competitivitatea Statelor Unite în comparație cu Beijingul.

Chiar dacă contribuția sa esențială la construirea rețelelor de învățare computațională a stârnit adesea legături cu Robert Oppenheimer, pionierul bombei atomice, Hinton neagă ideea de geniu izolat, subliniind că inovațiile tehnologice provin din efortul comun al numeroaselor mii de cercetători.

savantul păstrează o perspectivă moderată de optimism, deși avertismentele sunt sumbre, susținând că omenirea încă deține frâiele acestor sisteme, însă numai dacă se acționează rapid, ferm și solidar, înainte ca primul șoc major să paralizeze societatea.

COMENTARII / 0