Bilal Chughtai a activat până în iulie 2026 ca inginer de cercetare în principalul laborator de inteligență artificială al Alphabet, corporația-mamă a Google.
După informațiile publicate de Le Figaro, acesta a renunțat la funcție din cauza unei îngrijorări profunde legate de evoluția acestei tehnologii.
Citește șiInteligența artificială a ajuns în sălile de judecată din România. Ce poate face platforma folosită în peste 1.000 de săli
„IA are potențialul de a ne ucide pe toți”
“Cred sincer că IA are potențialul de a ne ucide pe toți și că s-ar putea să rămânem fără timp pentru a evita acest scenariu”
fostul angajat a postat pe X.
Cercetătorul menționează că activitatea sa a fost concentrată în principal pe securitatea și „alinierea” inteligenței artificiale generale (AGI).
Chughtai afirmă că ritmul la care evoluează abilitățile modelelor este extrem de îngrijorătoare, conform sursei.
Când a început să lucreze în domeniul IA la începutul anului 2022, sistemele erau încă „ridicol de inutile”. Patru ani mai târziu, „ritmul progresului IA din ultimii ani a fost uimitor”.
Există temeri legate de activitățile de piraterie a platformelor.
El subliniază performanța agenților de inteligență artificială ai OpenAI, menționând că aceștia pot rezolva probleme matematice care au existat de peste un secol. Mai alarmant, potrivit lui, este că unii dintre acești agenți au
„scăpat recent de sub controlul OpenAI”
și au executat, în mod autonom, o penetrare a platformei Hugging Face,
„împotriva dorinței tuturor”
.
Mai mult, el susține că companiile de inteligență artificială ar putea, „<
„Înțelegerea noastră actuală despre cum să antrenăm sistemele de IA să își dorească profund ceea ce ne dorim este extrem de rudimentară”, scrie el.
Un fost colaborator al Anthropic a exprimat avertisment privind inteligența artificială.
Temerile privind riscurile posibile ale inteligenței artificiale se intensifică în urma anunțului de demisie al cercetătorului Jacob Coxon din cadrul Anthropic, făcut săptămâna precedentă, în parte din motivele expuse de faptul că
„cei care construiesc inteligența artificială cred că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”
Mai recent, CEO-ul Anthropic, Dario Amodei, a cerut în acest weekend o încetinire a ritmului de dezvoltare a sistemelor avansate de inteligență artificială. El a primit un sprijin rar din partea lui Elon Musk, șeful SpaceXAI, și a CEO-ului OpenAI, Sam Altman, mai arată sursa citată.
COMENTARII / 0