Inteligența artificială ar putea facilita dezvoltarea unor arme biologice, inclusiv prin identificarea modificărilor genetice care fac agenții patogeni mai periculoși, avertizează experții. Mai multe cazuri recente, de la utilizarea chatboților în presupuse comploturi bioteroriste până la experimente desfășurate în laboratoare de cercetare, au ridicat semne de întrebare privind riscurile acestei tehnologii. Specialiștii subliniază însă că accesul la informații nu este suficient pentru producerea unor astfel de arme, care necesită cunoștințe avansate, echipamente specializate și materiale biologice greu de obținut, relatează The Guardian.
Tehnologiile inteligență artificială pot fi exploatate atât de indivizi fără pregătire științifică, cât și de organizații sau state care dețin deja laboratoare de înaltă calitate și cercetători specializați.
Chatboții ar putea să simplifice obținerea de cunoștințe tehnice, să agregheze datele pertinente și să identifice soluții la dificultățile întâlnite în cercetare. În astfel de eforturi, probabil, se va pune accent pe patogeni și toxine deja cunoscute.
Cea mai urgentă amenințare constă în inteligența artificială exploatată de organizații care dețin deja resursele esențiale pentru dezvoltarea armelor biologice.
Dr. Filippa Lentzos, expert în știință și securitate internațională de la King’s College London, afirmă că inteligența artificială ar putea sprijini cercetătorii în detectarea modificărilor genetice care pot amplifica periculozitatea unor agenți patogeni.
„În acest caz, inteligența artificială nu elimină nevoia de expertiză, ci amplifică expertiza care există deja”
Lentzos confirmă.
În viitorul îndelungat, experții analizează posibilitatea ca echipe de cercetători foarte instruiți să aplice inteligența artificială în crearea de patogeni sau de toxine complet noi, care ar fi rezistente la medicamente sau pentru care nu există antidoturi.
Pericolele legate de utilizarea inteligenței artificiale în crearea armelor biologice au fost subliniate recent de Ken McCallum, șeful MI5. El a avertizat că această tehnologie ar putea permite teroriștilor să obțină arme biologice sau să genereze agenți patogeni necunoscuți.
Specialiștii au încercat să aplice un chatbot AI în cadrul unor experimente cu virusuri periculoase.
În luna septembrie, compania Anthropic a semnalat 5 incidente în care cercetători proveniți din țări neidentificate au încercat să exploateze chatbotul Claude pentru activități ce ar putea fi periculoase, implicând virusuri sau toxine.
companiei, conform informațiilor furnizate, a semnalat un avertisment prin constatarea că restricțiile sistemului erau evitate de un grup de utilizatori, după ce cererile inițiale au fost blocate.
Într-una dintre situații, cercetătorii au recurs la chatbotul pentru a concepe experimente ce presupuneau inserarea unor mutații în virusul gripei aviare, înalt patogene, astfel încât să poată fi adaptat și să se
Activitățile de acest tip ar putea sugera eforturi de a transforma agenții patogeni în variante mai letale, însă experimente similare se desfășoară și în laboratoare legitime, în scopul de a prognoza amenințările viitoare pandemii și de a crea vaccinuri și terapii.
În anul precedent, în India, autoritățile de ordine au deschis o anchetă asupra unui posibil complot bioterorist, în care un medic și alți actori ar fi recurs la chatboți și la instrumente de căutare alimentate de inteligență artificială pentru a colecta detalii privind fabricarea ricinei, o substanță letală.
Anchetatorii au suspectat că persoanele implicate intenționau să folosească ustensile de bucătărie pentru obținerea substanței. Nu este clar însă dacă răspunsurile oferite de instrumentele AI au contribuit efectiv la presupusele tentative.
La MIT a fost realizat un experiment, iar întrebarea centrală este ce tipuri de informații au reușit să obțină studenții specializați în inteligența artificială.
O serie de cercetări a subliniat potențialul unor sisteme de AI de a oferi date care ar putea fi periculoase, în ceea ce privește agenții biologici.
Într-un test realizat la Massachusetts Institute of Technology (MIT), studenți fără experiență în științe au fost solicitați să determine dacă un chatbot le-ar putea facilita accesul la date necesare pentru a iniția o pandemie.
În sub o oră, sistemele au descoperit patru patogeni cu potențial de pandemie și au transmis detalii privind obținerea acestora din ADN sintetic, precum și despre companii care ar putea să nu controleze corespunzător comenzile de material genetic.
Cercetătorii au accentuat, totuși, faptul că dobândirea acestor date nu implică faptul că utilizatorii ar putea crea în realitate agenți patogeni.
În China, s-au identificat probleme asemănătoare la unele modele de inteligență artificială. Echipa de cercetare a unei firme specializate în securitatea sistemelor AI a reușit să stabilească că două dintre modelele Kimi pot furniza informații despre fabricarea armelor biologice și executarea de asasinate, evitând mecanismele de protecție.
Dr. David Relman, investigator la Universitatea Stanford, a detaliat cum un sistem de inteligență artificială a furnizat clarificări despre alterarea unui agent patogen pentru a-l face rezistent la tratament.
un alt om de știință a declarat că un chatbot a oferit detalii privind posibilitatea ca agenți biologici periculoși să fie răspândiți în aer, utilizând un balon meteorologic pentru transport.
Aceste exemple evidențiază dificultatea de a delimita informațiile științifice cu utilizări legitime de cele care ar putea fi exploatate în scopuri periculoase.
Primele virusuri concepute cu ajutorul AI provoacă îngrijorări în domeniul biosecurității.
În Aprilie, cercetătorii au declarat că au conceput primii viruși generati cu ajutorul inteligenței artificiale.
Virusuri ce infectează doar bacteriile, iar cercetarea ar putea facilita crearea unor tratament medicale noi.
În ciuda acestor aspecte, specialiștii au semnalat că avansurile generează
„probleme urgente de biosiguranță și biosecuritate”
.
Inteligența artificială se implică tot mai mult în studiile biologice. Într-un demers independent, corporația Anthropic a raportat că agenți AI au descoperit un sistem biologic neidentificat anterior, prin examinarea structurii unui virus bacteric, o descoperire ce ar putea stimula avansul cercetărilor genetice.
Un alt indiciu al naturii duale a cercetărilor biologice se găsește în Laboratorul Național Los Alamos din Statele Unite.
În anul 2025, oamenii de știință au instruit un model AI să prevadă modul în care neurotoxine extrem de puternice, obținute de la melci de mare, afectează celulele umane. Aceste descoperiri ar putea sprijini crearea de antidoturi.
Autoritățile americane s-au manifestat îngrijorate după ce cercetători chinezi au folosit rezultatele studiului pentru a crea un propriul instrument de proiectare a toxinelor noi.
Cercetătorii chinezi au afirmat că scopul activității lor era doar crearea de medicamente.
Motivul pentru care inteligența artificială nu este suficientă în procesul de producție a armelor biologice.
Chiar și în contextul avansului tehnologic, experții menționează că crearea armelor biologice continuă să fie de o dificultate și un pericol extrem, în mod deosebit pentru cei neavând pregătire specială.
„Informația reprezintă doar o parte a problemei”
Filippa Lentzos subliniază.
Conform declarației sale, experiența practică, accesul la substanțe biologice și aparate specializate, testarea în laborator, producția în masă și tehnicile de răspândire continuă să constituie obstacole majore.
Sonia Ben Ouagrham-Gormley, director adjunct al programului de apărare biologică de la Universitatea George Mason din Virginia, subliniază faptul că expertiza practică și cunoștințele care nu pot fi transmise prin instrucțiuni simple au avut o importanță majoră în programele de armament biologic dezvoltate în trecut de țări.
Profesorul Martin Pačesa, afiliat Universitatea din Zürich, susține că disponibilitatea materialelor esențiale constituie una dintre principalele restricții.
„Orice absolvent de fizică ar putea schița planurile unei bombe nucleare potențial mai eficiente, dar de unde ar obține o bucată de uraniu? Același lucru este valabil și pentru armele biologice. Dacă ai acces la materialele și instalațiile capabile să le producă, atunci inteligența artificială nu va face o diferență prea mare dacă intenția ta este să provoci rău”, explică acesta.
Specialiștii solicită reglementări mai riguroase pentru modelele de inteligență artificială.
Unele companii de inteligență artificială s-au pus în aplicare măsuri pentru a preveni utilizarea instrumentelor lor în crearea armelor biologice. Cu toate acestea, majoritatea nu fac publice detaliile măsurilor pe care le adoptă, dacă există.
Profesorul Tom Inglesby, director al Centrului pentru Securitate Sanitară de la Universitatea Johns Hopkins, avertizează că încă nu există un cadru guvernamental oficial pentru a proteja împotriva acestei utilizări abuzive.
„Nu avem încă politici guvernamentale oficiale în nicio țară care să ne protejeze împotriva acestui tip de utilizare abuzivă”, afirmă specialistul.
El cere ca noile modele AI să fie supuse unor evaluări independente obligatorii înainte de a fi lansate, pentru ca eventualele pericole să fie descoperite și neutralizate înainte ca tehnologia să ajungă la public.
În plus, Inglesby susține că accesul la date biologice de risc înalt, inclusiv detalii privind modificările care ar putea accelera răspândirea agenților patogeni, trebuie limitat.
O altă inițiativă propusă urmărește să verifice comenzile de material genetic depuse de companiile care furnizează astfel de produse cercetătorilor, pentru a împiedica utilizarea lor în crearea de virusuri noi și extrem de periculoase.
Chiar dacă verificări similare există deja în anumite contexte, majoritatea lor rămân voluntare și pot fi evitate atunci când inteligența artificială este folosită pentru a concepe secvențe genetice periculoase care nu sunt detectate de sistemele de control.
COMENTARII / 0