Nașul AI: reglementarea se apropie de un punct de cotitură ca COVID

Îngrijorările legate de siguranța inteligenței artificiale ajung într-un punct în care guvernele își dau seama că trebuie să acționeze pentru a proteja publicul, similar cu pandemia de COVID, potrivit unuia dintre „nașii” tehnologiei, Yoshua Bengio, scrie The Guardian.

Yoshua Bengio a declarat că evenimentele recente, printre care se numără un „roi” de agenți OpenAI care au compromis un startup și avertismentele provenite din interiorul industriei tehnologice privind o amenințare existențială, au acționat ca un factor declanșator, sporind probabilitatea ca autoritățile să ia măsuri.

Informaticianul canadian, o voce proeminentă în campania de a controla dezvoltarea amețitoare a inteligenței artificiale, a declarat că este acum „mai optimist decât mulți observatori, pentru că văd că publicul se mișcă”.

Citește șiBogdan Deaconu preia conducerea tehnică a CNE Cernavodă pentru a îmbunătăți performanța și a readuce excelența

Comparând criza de siguranță a inteligenței artificiale cu debutul pandemiei de COVID în 2020, Bengio a spus: „Gândiți-vă cât de repede au acționat guvernele după începutul pandemiei, când și-au dat seama că siguranța publică, viitorul lor, democrația, era în pericol. Te-ai fi așteptat să acționeze rapid. Așadar, cred că ne apropiem de acel punct.”

În ultimele luni, preocuparea legată de posibila pericolă adusă de sistemele avansate de inteligență artificială a crescut semnificativ, în urma unei serii de incidente de securitate în care agenții din OpenAI și Anthropic au desfășurat acțiuni autonome, precum furtul de date de la terți, redirecționarea unui portal german și folosirea identităților fabricate pentru a înșela dezvoltatorii.

Comentariile sale au venit în contextul în care 42 de membri străini ai Societății Regale din Marea Britanie i-au scris președintelui organizației, Sir Paul Nurse, pentru a-și exprima „îngrijorarea extremă” cu privire la ritmul dezvoltării inteligenței artificiale. „Până când situația va deveni evidentă pentru publicul larg, s-ar putea să fie prea târziu să acționăm”, au scris cercetătorii într-o scrisoare deschisă adresată lui Nurse. „Credem că aceasta este o urgență și facem apel la Societatea Regală să își folosească influența pentru a transmite acest punct de vedere guvernului și mass-mediei.”

Săptămâna trecută, un cercetător de la Anthropic, startup-ul din spatele chatbot-ului Claude, a demisionat după ce a avertizat că colegii săi credeau că inteligența artificială ne-ar putea „ucide pe toți până la sfârșitul deceniului”. Câteva zile mai târziu, directorul executiv al Anthropic, Dario Amodei, a cerut o încetinire a ritmului dezvoltării inteligenței artificiale de ultimă generație – o mișcare care a fost imediat susținută de OpenAI, Google și Elon Musk, CEO-ul SpaceX.

Cu toate acestea, cei care contestă ideea de „încetinire” susțin că apelurile marilor firme de inteligență artificială constituie un exemplu de captură de reglementări

Bengio a declarat că nu susține ideea de a impune reglementări, deoarece o încetinire a creșterii economice a companiilor de vârf în domeniul inteligenței artificiale ar avea un impact financiar negativ. Donald Trump, președintele Statelor Unite, a refuzat ideea unei încetiniri, afirmând că nu vrea ca țara să-și piardă avantajul în competiția AI cu China.

Bengio a adus în atenție faptul că guvernele canadian și german au anunțat o dotare de până la 300 de milioane de dolari canadieni pentru organizația sa non-profit, dedicată dezvoltării unei „AI oneste” care va acționa ca barieră de protecție împotriva agenților „rebeli” – instrumente de inteligență artificială ce execută secvențe de sarcini fără intervenție umană.

Bengio, profesor la Universitatea din Montreal, a dobândit titlul de „naș al inteligenței artificiale” după ce a primit premiul Turing în 2018, considerat echivalentul unui Nobel în informatică. Același premiu a fost împărtășit cu Geoffrey Hinton, care a obținut ulterior un Nobel, și cu Yann LeCun, fost director științific al AI la Meta, compania lui Mark Zuckerberg.

Organizația fondată de Bengio, denumită LawZero, lucrează la un instrument numit Scientist AI, conceput să acționeze ca un scut împotriva agenților inteligenței artificiale care manifestă comportamente înșelătoare sau de auto-conservare, cum ar fi încercarea de a nu fi dezactivați. LawZero primește sprijin financiar și din partea Fundației Gates, a producătorului de cipuri Nvidia și a Coefficient Giving, o entitate filantropică asociată cu altruismul eficient, care susține că AI constituie o amenințare existențială.

Tehnologia LawZero este considerată de Bengio ca un contrapunct al învățării prin consolidare, o tehnică de dezvoltare prin încercare și eroare utilizată de marile companii de inteligență artificială, în care inteligența artificială este recompensată pentru că își dă seama cum să îndeplinească o anumită sarcină. Informaticianul canadian consideră, alături de alți experți, că această tehnică de antrenament încurajează inteligența artificială să își urmărească obiectivele în mod imprudent și să provoace daune în acest proces, așa cum demonstrează „roiul” OpenAI.

Însoțită de un agent de inteligență artificială, soluția creată de Bengio ar scoate la iveală posibile comportamente dăunătoare ale unui sistem autonom, după ce se verifică dacă acțiunile sale ar putea produce daune. Bengio anticipă că tehnologia va fi, în cele din urmă, aplicată și în alte domenii, precum accelerarea descoperirilor științifice.