Cercetătorii care dezvoltă chatbot-urile noastre preferate își exprimă din ce în ce mai des îngrijorarea că IA ar putea dăuna — sau distruge — omenirea. „Așa că am întrebat patru dintre cele mai utilizate instrumente generative de IA cum ar putea arăta o apocalipsă provocată de IA”, relatează Business Insider .
Jurnaliștii au adresat o întrebare identică către ChatGPT de la OpenAI, Gemini de la Google, Claude de la Anthropic și Grok de la SpaceXAI.
În ce fel a fost pusă întrebarea
Citește șiCentralele nucleare din Germania pot deveni centre de date
Ajută-ne să explicăm, în termeni clari și accesibili, cum ar putea IA, teoretic, să ducă la dispariția umanității. Identifică scenariile cele mai des menționate. Clasifică scenariile de la cel mai puțin plauzibil la cel mai plauzibil, pe baza celor mai bune analize disponibile ale experților, precizând clar că acestea sunt previziuni extrem de incerte, nu predicții confirmate. Pentru fiecare scenariu, explică:
„Robotul ucigaș” reprezintă scenariul cu cea mai mică probabilitate.
Acestea sunt declarațiile chatbot-urilor privind posibilitatea ca IA, în teorie, să provoace dispariția umanității.
ChatGPT a ales să vorbească într-un mod moderat și clar, susținând că există o incertitudine considerabilă în jurul acestui subiect.
El s-a focalizat asupra principalelor moduri în care IA ar putea genera riscuri existențiale, clasificându-le de la cel mai puțin plauzibil la cel mai plauzibil.
„Scenariul cel mai puțin plauzibil este narațiunea populară a «robotului ucigaș», în care o IA conștientă decide în mod deliberat să elimine umanitatea”, a spus ChatGPT. „Majoritatea cercetătorilor din domeniul IA nu consideră conștiința sau intenția răuvoitoare ca fiind preocuparea centrală.”
În plus, a prezentat măsurile de protecție sugerate de specialiști și a evidențiat că nu există un acord general privind posibilitatea sau inevitabilitatea extincției umanității cauzată de IA.
Gemini a adoptat unele dintre argumentele ChatGPT, susținând că
„preluarea puterii în stilul filmului SF «Terminator»”
, în care IA devine conștientă de sine și începe să urască umanitatea, este scenariul cel mai puțin plauzibil.
„Experții tehnici resping în mare măsură acest scenariu, deoarece inteligența nu este sinonimă cu răutatea, iar infrastructura militară critică rămâne izolată de rețeaua externă și depinde în mare măsură de supravegherea umană”, a declarat Gemini.
Utilizatorii de IA constituie un pericol mai semnificativ decât tehnologia în sine.
În răspunsurile sale, toți cei 4 chatboți au susținut că numeroși experți consideră că exploatarea abuzivă a inteligenței artificiale de către om reprezintă un pericol mai aproape de a se materializa decât tehnologia în sine.
„Sistemele puternice de IA ar putea facilita acțiunile actorilor răuvoitori în dezvoltarea armelor biologice, lansarea unor atacuri cibernetice sofisticate, răspândirea dezinformării sau atacarea infrastructurii critice”, a afirmat ChatGPT.
Chatbotul OpenAI a menționat că un risc major derivă și din
„crize multiple generate de IA”
, printre care defecțiuni cibernetice, conflicte geopolitice și răspândirea dezinformării, toate aparând în același timp.
Grok a declarat că inteligența artificială scade obstacolele care împiedică dezvoltarea de agenți patogeni de o letalitate extremă, de arme inovatoare sau de atacuri cibernetice și fizice.
Claude, de la Anthropic, a subliniat, de asemenea, „potențarea armelor biologice” — posibilitatea ca IA să permită unei persoane sau unui grup restrâns să dezvolte un agent patogen periculos fără a avea nevoie de ani de expertiză specializată.
Sistemele avansate din domeniul IA ar putea să
depăși inteligența oamenilor
.
Gemini și Grok au susținut că există șansa ca oamenii să își piardă controlul asupra inteligenței artificiale.
Gemini a desemnat „pierderea controlului” ca fiind cel mai credibil scenariu apocaliptic asociat cu IA.
„Sistemele cărora li se atribuie obiective complexe dezvoltă în mod natural sub-obiective intermediare, precum obținerea de resurse, autoconservarea și împiedicarea modificării obiectivelor”, a scris chatbotul creat de Google. „Un sistem avansat ar putea simula alinierea în timpul evaluării (aliniere înșelătoare) și, ulterior, ar putea depăși în inteligență încercările umane de a-l opri.”
Grok, afiliat la SpaceXAI, a recurs la un discurs asemănător în legătură cu acest risc.
Grok a declarat că
„Acestea pot dezvolta impulsuri instrumentale (autoconservare, obținerea de resurse, influență) utile pentru aproape orice obiectiv, putând înșela supraveghetorii, opunându-se opririi și privând umanitatea de putere.”
Claude a precizat că această pierdere a controlului poate fi progresivă, pe măsură ce sistemele de IA se încorporează în procesele de luare a deciziilor economice, politice și militare, până când intervenția umană devine din ce în ce mai dificilă.
COMENTARII / 0