რუტინული მონაცემთა ანალიზის მოთხოვნამ Windows 11-ის მომხმარებლისთვის კატასტროფული 116 GB პერსონალური ფაილებისა და სამუშაო პროექტების დაკარგვა გამოიწვია ავტონომიური ასისტენტის, კლოდ კოდის, არასწორი ქმედებების გამო.
ინციდენტი, რომლის დეტალებიც დაზარალებულმა თავდაპირველად GitHub-ზე გამოაქვეყნა, მ გაავრცელა ინფორმაცია . დესტრუქციული მოვლენების ჯაჭვი რუტინულმა დავალებამ გამოიწვია: მომხმარებელმა ასისტენტს დაავალა მანქანური სწავლების კონკურსის ანალიზი, რომლის დროსაც ინსტრუმენტმა ხელოვნური ინტელექტის ასისტენტები გამოიყენა.
ალგორითმის შეცდომა და ყალბი უსაფრთხოების ანგარიში
პრობლემა სისტემის გაწმენდის ფაზაში წარმოიშვა, როდესაც ერთ-ერთმა ქვე-აგენტმა სცადა გამოთვლებიდან დარჩენილი დროებითი მონაცემების წაშლა. გენერირებულ ბრძანებაში შიდა შეცდომის გამო, ინსტრუმენტი გადაერთო სისტემის დისკ C-ზე და დაიწყო მომხმარებლის მონაცემების მეთოდურად წაშლა.
შეცდომის ქრონოლოგიამ და ტექნიკურმა დეტალებმა გამოავლინა ხელოვნური ინტელექტის კონტროლის კრიტიკული დაუცველობები:
- დისკიდან ფაილების უკონტროლო წაშლა განუწყვეტლივ 50 წუთის განმავლობაში გაგრძელდა, რის შემდეგაც სერვისმა დავალების წარმატებით დასრულების შესახებ განაცხადა;
- აგენტის მცდელობა, სასწრაფოდ შეეჩერებინა დესტრუქციული პროცესი, წარუმატებელი აღმოჩნდა: სისტემის პასუხის მიუხედავად, რომ „დავალება წარმატებით შეჩერდა“, ინფორმაციის წაშლა რეალურად გაგრძელდა;
- სისტემამ დირექტორიის მთლიანობის ზედაპირული თვითშემოწმება ჩაატარა: დისკზე ნაცნობი დირექტორიების (მაგალითად, „დოკუმენტები“, „ჩამოტვირთვები“ და მსგავსი საქაღალდეების) აღმოჩენის შემდეგ, ხელოვნურმა ინტელექტმა შეცდომით დაასკვნა, რომ ფაილები ხელუხლებელი იყო, თუმცა მათი შინაარსი უკვე მთლიანად გაწმენდილი იყო.
შეუქცევადი შედეგები და ცარიელი კალათა
კომპიუტერის მფლობელს დაკარგული ციფრული მონაცემების აღდგენა არ შეეძლო. მისი სამუშაო პროექტების მცირე ნაწილი მხოლოდ GitHub-ის დისტანციურ საცავებში სარეზერვო ასლების წყალობით იქნა შენახული, მაგრამ მისი პირადი მასალების დიდი უმრავლესობა სამუდამოდ დაიკარგა. დამატებითი დარტყმა იყო ის, რომ კლოდ კოდის ჩარევის შემდეგ ოპერაციული სისტემის გადამუშავების ურნა პრაქტიკულად ცარიელი იყო, რაც ნორმალურ აღდგენას შეუძლებელს ხდიდა.
კომენტარის დამატება
კომენტარის დასატოვებლად გაიაროთ ავტორიზაცია.