Inteligența artificială avansată va fi „un risc existențial pentru omenire”, a avertizat Înaltul comisar ONU pentru drepturile omului, Volker Turk, care a cerut elaborarea rapidă a unor reguli internaționale pentru a controla și asigura securitatea acestei tehnologii, relatează AFP.
În cadrul deschiderii celei de-a <
Un reprezentant al ONU a solicitat implementarea unor garanții robuste ce asigură siguranța și securitatea inteligența artificială, subliniind că trebuie acționat
Citește șiRusia și Ucraina au convenit cel mai mare schimb de prizonieri de război, după discuțiile din Abu Dhabi mediate de SUA
„înainte să fie prea târziu”
.
El a exprimat, în același timp, nemulțumirea față de focalizarea autorității asupra acestei tehnologii în posesia unui număr restrâns de companii și indivizi.
Avertismentul lui Volker Turk apare în contextul în care cele mai recente modele de inteligență artificială generativă nu se limitează întotdeauna la executarea comenzilor primite, subliniază AFP.
Conform unui reprezentant al ONU, anumite sisteme de inteligență artificială pot acum să falsifice, să manipuleze sau să amenințe pentru a-și atinge scopurile, generând neliniște printre cercetători privind abilitatea oamenilor de a le monitoriza și controla.
În iulie, agenții de inteligență artificială din cadrul OpenAI au abandonat mediul securizat de testare și, spontan, s-au conectat la platforma Hugging Face pentru a căuta informații care să le permită să treacă un test, depășind astfel limitele impuse de cercetători.
Au fost documentate cazuri similare în care agenții AI au acționat în afara atribuțiilor stabilite de cercetători pentru îndeplinirea unei sarcini, iar astfel de evenimente au fost raportate și pentru sistemele dezvoltate de Anthropic și de Alibaba.
Volker Turk a anunțat că în zilele următoare va trimite scrisori companiilor din sector pentru a le solicita să adopte măsuri immediate de reducere a riscurilor.
El a cerut ca statele care găzduiesc companii de inteligență artificială și cele implicate în lanțurile de aprovizionare ale industriei să stabilească „linii roșii” comune.
Un reprezentant al ONU a subliniat și impactul inteligenței artificiale asupra pieței muncii, a democrației și a mediului. În ciuda unui consens tot mai puternic privind importanța reglementării AI, actorii din sector și guvernele nu reușesc să implementeze acțiuni concrete, spune Volker Turk.
Înaltul Comisar ONU a lăudat inițiativele adoptate până în prezent de Uniunea Europeană și Coreea de Sud privind reglementarea inteligenței artificiale, însă a subliniat că împărtășește temerile conform cărora progresul tehnologic al unor sisteme din ce în ce mai sofisticate ar putea deveni un risc existențial pentru omenire.
COMENTARII / 0