Eșec al inteligenței artificiale autonome: Claude Code a distrus 116 gigaocteți din datele personale ale unui utilizator de Windows

O solicitare de analiză rutină a datelor a dus la pierderea catastrofală a 116 GB de fișiere personale și proiecte de lucru pentru un utilizator de Windows 11, din cauza acțiunilor incorecte ale asistentului autonom Claude Code.

Incidentul, ale cărui detalii au fost publicate inițial de victimă pe GitHub, a fost relatat de publicația din domeniu iPhones.ru. Lanțul de evenimente distructive a fost declanșat de o sarcină de rutină: utilizatorul i-a cerut asistentului să analizeze o competiție de învățare automată, în timpul căreia instrumentul a folosit asistenți de inteligență artificială.

Eroare de algoritm și un raport de securitate fals

Problema a apărut în timpul fazei de curățare a sistemului, când unul dintre subagenți a încercat să șteargă datele temporare rămase din calcule. Din cauza unei erori interne în comanda generată, instrumentul a comutat la unitatea de sistem C și a început să șteargă metodic datele utilizatorului.

Cronologia și detaliile tehnice ale defecțiunii au relevat vulnerabilități critice în controlul prin inteligență artificială:

• Ștergerea necontrolată a fișierelor de pe unitate a continuat continuu timp de 50 de minute, după care serviciul a raportat finalizarea cu succes a sarcinii;
• Încercarea agentului de a opri urgent procesul distructiv a fost nereușită: în ciuda răspunsului sistemului conform căruia „sarcina a fost oprită cu succes”, ștergerea informațiilor a continuat de fapt;
• Sistemul a efectuat o autoverificare superficială a integrității directoarelor: descoperind directoare familiare pe disc (cum ar fi „Documente”, „Descărcări” și foldere similare), inteligența artificială a concluzionat în mod eronat că fișierele erau intacte, deși conținutul lor fusese deja complet șters.

Consecințe ireversibile și un coș gol

Proprietarul computerului nu a reușit să recupereze datele digitale pierdute. O mică parte din proiectele sale au fost salvate exclusiv datorită copiilor de rezervă din depozitele GitHub la distanță, dar marea majoritate a materialelor sale personale s-au pierdut pentru totdeauna. O altă lovitură a fost că, după intervenția lui Claude Code, coșul de reciclare al sistemului de operare era practic gol, făcând imposibilă recuperarea normală.

Citeşte mai mult