Un laureat Nobel avertizează că inteligența artificială ar putea provoca un „Cernobîl digital”. Ce riscuri vede Geoffrey Hinton

Într-o conversație acordată ziarului britanic The Guardian, Geoffrey Hinton, în vârstă de 78 de ani, a afirmat că inteligența artificială ar putea produce un eveniment...

Într-o conversație acordată ziarului britanic The Guardian, Geoffrey Hinton, în vârstă de 78 de ani, a afirmat că inteligența artificială ar putea produce un eveniment de mari proporții, capabil să perturbe infrastructuri critice.

Într-o analiză, cercetătorul a tras paralelă între anumite incidente recente de securitate cibernetică legate de agenți AI și incidentul nuclear de la Three Mile Island din 1979, interpretându‑le ca semnale de avertizare.

Hinton consideră că o catastrofă mult mai severă ar putea avea loc până la sfârșitul acestui an sau în 2027, comparând-o cu un dezastru de tip Cernobîl.

Citește șiUn mecanic polonez a desfăcut bucată cu bucată cutia de viteze hibridă de pe Dacia și Renault. Ce a descoperit

Acest aspect nu implică un dezastru nuclear real, ci indică posibilitatea ca inteligența artificială să fie folosită în atacuri asupra rețelelor electrice sau a sistemelor financiare.

Un astfel de eveniment ar putea genera întreruperi extinse ale distribuției de energie sau ar putea paraliza sistemul financiar pentru o săptămână.

„Poate că ne-ar fi fost mai bine dacă nu am fi dezvoltată”

Hinton subliniază că, deși vede capacitatea AI de a aduce schimbări benefice în societate, el consideră că pericolele trebuie luate în serios.

„Poate că ne‑ar fi fost mai bine dacă nu am fi dezvoltat-o niciodată”

a spus cercetătorul.

El estimează că, în termen de zece ani, omanii vor reuși să determine dacă pot gestiona pericolele acestei tehnologii.

În scenariul optimist, AI ar putea genera o prosperitate fără precedent. În cel pesimist, dezvoltarea sa ar putea accentua diferențele dintre bogați și săraci, provoca șomaj masiv și alimenta tensiuni sociale.

Observații critice orientate către marile companii tehnologice.

Hinton a ridicat acuzații împotriva conducătorilor unor firme de top din sectorul tehnologic, printre ei Sam Altman, Mark Zuckerberg și Elon Musk, argumentând că profitul economic primește prioritate față de măsurile de securitate.

Cercetătorul a solicitat implementarea unor norme internaționale mai riguroase. Acestea ar trebui să includă testare obligatorie și evaluare independentă a modelelor AI înainte de a fi lansate.

El a făcut o comparație între această procedură și procesul de autorizare a medicamentelor, susținând că dezvoltatorii trebuie să prezinte dovezi că beneficiile tehnologiei depășesc riscurile.

Ce implicații ar putea avea aceste riscuri

Avertismentele lui Hinton se referă la toate țările în care funcționarea băncilor, a serviciilor publice și a infrastructurii energetice devine din ce în ce tot mai mult dependentă de sisteme informatice.

Un atac cibernetic de amploare, susținut de inteligența artificială, ar putea produce efecte asupra acestor sectoare.

În 2023, Hinton a părăsit Google pentru a putea vorbi liber despre riscurile AI, iar el continuă să fie optimist că acestea pot fi gestionate.

El consideră că omenirea deține încă suficient control pentru a preveni scenariile extreme, dar numai dacă guvernele și companiile vor investi eforturi considerabile în siguranța tehnologiei.

COMENTARII / 0