Sam Altman avertizează la ONU: AI trebuie sub control uman

Sam Altman a făcut un apel pentru colaborare globală și pentru norme elaborate în cadrul unor proceduri democratice.

„Industria nu trebuie să accepte prea mult risc tehnologic doar pentru că beneficiile sunt prea mari și importante pentru a încetini”, a spus Altman,

Citește șiVideo „Serghei, știu că asculți. Spune-i șefului tău: Ajunge!”. Sikorski îl confruntă pe Lavrov pe tema Ucrainei la ONU

în cadrul intervenției sale la o întâlnire de înaltă importanță a Consiliului de Securitate al ONU, organizată de Franța, care deține președinția Consiliului în septembrie.

Deciziile cruciale nu pot fi făcute exclusiv în laboratoare.

Altman a subliniat că unul dintre principalele pericole ale evoluției rapide este pierderea controlului uman asupra tehnologiei. În perspectiva sa, metodele de aliniere și de siguranță trebuie să progreseze cel puțin la fel de rapid ca și capacitățile modelelor. De asemenea, el a semnalat concentrarea excesivă a puterii ca un al doilea risc major.

Altman a subliniat importanța guvernelor în elaborarea normelor pentru inteligența artificială.

„Dacă inteligența artificială trebuie să fie democratică, cele mai importante decizii nu pot fi luate doar în laboratoare din San Francisco. Aceste decizii trebuie stabilite prin procese democratice și de către guverne responsabile în fața cetățenilor”, a spus el.

„La nivel internațional, acest lucru va necesita cooperare”, a continuat Altman. El a menționat ca exemplu cazuri în care state în competiție au reușit să colaboreze în fața unor tehnologii cu impact major.

„În istoria noastră, au existat momente în care țări care concurează și nu se plac întotdeauna foarte mult s-au reunit pentru interese comune și binele colectiv în fața unei tehnologii noi și puternice. Credem că acesta trebuie să fie unul dintre acele momente”, a spus șeful OpenAI.

Altman susține că tehnologia AI ar putea produce o nouă „Renaștere”

Directorul OpenAI a abordat și avantajele posibile ale acestei tehnologii. Conform lui, inteligența artificială ar putea inaugura o eră asemănătoare cu cea a „Renașterii” dacă este utilizată pentru a amplifica abilitățile umane.

Directorul OpenAI a prezentat poziția firmei ca o încercare de a determina un echilibru.

„Nu vrem să cădem în capcana optimismului orb, dar nici în fatalism”, a spus Altman.

El a prezentat trei principii pe care OpenAI le consideră cruciale:

„în centrul procesului decizional”

, progresul tehnologic și economic trebuie să fie direcționat spre beneficiul oamenilor, iar AI trebuie să ajute la sporirea capacității fiecărei persoane de a acționa.

„Poate că noi suntem creatorii acestei tehnologii, dar nu suntem eroii acestei povești. Rolul nostru este să avem încredere în magia talentului uman”, a declarat Altman.

Amodei a subliniat că

„AI ar putea fi un risc pentru umanitate în ansamblu”

La aceeași reuniune, directorul executiv al Anthropic, Dario Amodei, a transmis un avertisment similar. „Cred chiar că AI ar putea fi un risc pentru umanitate în ansamblu, dacă tehnologia este gestionată necorespunzător”, a declarat el.

Amodei a solicitat o abordare globală coordonată și a subliniat că niciun lider, nicio firmă și nicio națiune nu poate controla în mod izolat pericolele aduse de sistemele AI în continuă creștere. El a cerut Consiliului de Securitate să promoveze acțiuni concrete.

Printre propunerile sale se numără interzicerea utilizării AI în scopul proliferării sau fabricării armelor biologice și crearea unor mecanisme de evaluare și verificare menite să se adapteze la evoluția tehnologică.

Întâlnirea a fost dedicată pericolelor asociate inteligenței artificiale.

În cadrul reuniunii, ministrul francez de Externe, Jean-Noël Barrot, a președintă, în timp ce Franța deținea președinția Consiliului de Securitate. Se discută, printre altele, pericolul atacurilor cibernetice autonome și șansa ca oamenii să-și piardă controlul asupra celor mai sofisticate modele AI.

În cadrul reuniunii, Yoshua Bengio, copreședinte al panelului științific internațional independent al ONU pentru AI, a afirmat că

„pericolele sunt reale și iminente”

și a subliniat că nu se conformează granițelor

În acest moment, guvernele se angajează să stabilească reguli pentru o tehnologie care evoluează mai rapid decât mecanismele tradiționale de reglementare. Între timp, președintele american Donald Trump a exprimat opoziție față de un cadru global ce ar restrânge dezvoltarea AI, evidențiind diferențele dintre abordările internaționale privind guvernarea acestei noi tehnologii.