Patru persoane apropiate de incident au informat CNN că un raport de informații, eronat generat de inteligența artificială, a determinat forțele armate ale Statelor Unite să elaboreze strategii de interceptare a unei nave chineze din Orientul Mijlociu, pe care se credea, din greșeală, că transportă piese pentru un program de armament nuclear.
Documentul respectiv a circulat la nivelul armatei SUA în plin război cu Iranul. Militarii americani se pregăteau să urce la bordul navei respective, spun două dintre surse, iar de la sol au fost ridicate avioane militare americane, a declarat o sursă dintre acestea și o altă sursă citată de CNN.
În doar câteva momente înainte de operațiunea programată, autoritățile din SUA au examinat cu mai multă atenție raportul, eliberat de un specialist din cadrul comandamentului operațiunilor speciale.
Citește șiUn fenomen prezis de Einstein ar putea dezlega unul dintre cele mai mari mistere ale Universului. Ce a descoperit misiunea Euclid
Aceștia au aflat că documentul a fost creat cu ajutorul inteligenței artificiale (AI) și că un chatbot utilizat de analistul în cauză a atribuit greșit încărcătura navei.
Raportul generat de AI a fost considerat
„în întregime fals”
.
Una dintre surse a afirmat că Raportul era
„în întregime fals”
, însă
„aproape a declanșat un război”
.
Orice acțiune a SUA asupra unei nave chineze ar fi putut să escaladeze într-un război armat între cele două state.
Analistul a pus întrebări unui chatbot referitor la detalii ale manifestului navei, informații obținute de la Comandamentul pentru Operații Speciale al SUA din Pacific.
Nu se știe dacă subiectul era un chatbot de tip comercial sau un produs realizat de autoritățile din Statele Unite.
Chatbotul a îmbinat informațiile provenite din surse publice cu date clasificate obținute prin interceptarea semnalelor, care erau în posesia autorităților, și a trăguit o concluzie finală, însă incorectă, referitoare la conținutul navei.
După aceea, analistul a recurs din nou la AI pentru a compila aceste descoperiri într-un raport de informații de tip standard, asemănător celor care beneficiază de încrederea oficialilor militari, și l-a trimis mai departe.
Acest eveniment nu a reprezentat o situație izolată.
Conform unei surse, tipul de halucinație creată de dispozitivul utilizat de analist în această situație nu a reprezentat un eveniment izolat în cadrul comunității de intelligence, de când aceste tehnologii au început să se răspândească la nivel guvernamental.
Încorporarea AI în armata are scopul de a accelera procesul de luare a deciziilor în timpul conflictului, inclusiv selecția țintelor și identificarea poziției unor echipamente militare, însă un grup de experți cu experiență în sectorul informațiilor susține că aceste tehnologii forțează analiștii să producă și să livreze datele cu o viteză crescută, deschizând astfel posibilitatea apariției greșelilor.
În special analiștii tineri, potrivit mai multor surse, sunt utilizatori nativi ai acestor instrumente și tind să aibă mai multă încredere în ele, fără a le supune unei analize critice.
COMENTARII / 0