მეტას ხელოვნური ინტელექტი, Muse, მფლობელების ინფორმირების გარეშე იღებდა წვდომას დაშიფრულ შეტყობინებებზე, აცნობებდა მათ არარსებული შესყიდვების შესახებ და უგზავნიდა სხვა ადამიანებისთვის განკუთვნილ ტექსტურ შეტყობინებებს.
„ინსაიდერი“, „როიტერსის“ ცნობით, რომელმაც ორ ათეულზე მეტი შიდა თანამშრომლის პოსტი განიხილა, იუწყება, რომ აპლიკაცია სექტემბრის გამოშვებიდან 10 მილიონზე მეტჯერ გადმოიტვირთა. თავიანთ საჩივრებში „მეტას“ თანამშრომლებმა აღნიშნეს, რომ ვირტუალურმა ასისტენტმა ახსენა მოთხოვნები, რომლებიც მათ არ გაუკეთებიათ და მიუთითა საბანკო ანგარიშების ნაშთები, რომლებიც მათ არ ეკუთვნოდათ. მაგალითად, სისტემამ ერთ თანამშრომელს შეახსენა, რომ Signal-ზე დას ეპასუხა, მიუხედავად იმისა, რომ მას მესამე მხარის აპლიკაციებზე წვდომის ნებართვა არ ჰქონდა მინიჭებული. შემდეგ ქალმა შიდა პოსტში დაწერა: „ეს კონფიდენციალურობის უხეშ დარღვევას ჰგავს“.
გაჟონვის ტექნიკური მექანიზმები და კომპანიის რეაგირება
ჟურნალისტებმა, Signal-ისა და AI Now Institute-ის სპეციალისტებთან ერთად, ჩაატარეს ექსპერიმენტი და შეძლეს ამ სიტუაციის რეპროდუცირება სხვადასხვა მოწყობილობაზე:
- Android სმარტფონებზე, აგენტი კითხულობს კორესპონდენციას საწყისი დაყენების დროს მიღებული push-შეტყობინებების ნახვის ნებართვის გამოყენებით;
- Mac კომპიუტერებზე პროგრამა იყენებდა ხელმისაწვდომობის ინსტრუმენტებს და ეკრანის ანაბეჭდებს;
- iPhone-ებზე ასეთი მოთხოვნები დაბლოკილი იყო და ამ კვირაში Apple-მა გამოუშვა განახლება, რომელმაც საბოლოოდ დახურა ეს ხარვეზი.
„მეტას“ წარმომადგენელმა, დენიელ რობერტსმა, „როიტერის“ ჟურნალისტების მიერ აღმოჩენილ მაგალითებს „იზოლირებული ინციდენტები“ უწოდა. მან განაცხადა, რომ თანამშრომლების მიერ აღწერილი სიტუაციების უმეტესობა არა წვდომის პრობლემებს, არამედ ხელოვნური ინტელექტის ჰალუცინაციებს უკავშირდებოდა და რომ ხარვეზი ამჟამად გამოსწორებულია. თუმცა, თავად სააგენტოს არ შეეძლო იმის დადგენა, გადასცემდა თუ არა „მუზი“ სხვა ადამიანების მონაცემებს მომხმარებლებს, თუ უბრალოდ აყალბებდა მათ. ამასობაში, „სიგნალის“ პრეზიდენტმა, მერედიტ უიტეკერმა, გააკრიტიკა პროდუქტის გამოშვება და აგენტის გამოშვებას „ტექნოლოგიურად დაუფიქრებელი“ უწოდა.
პრეცედენტები მონაცემთა დაცვის სფეროში
Meta-ს ინციდენტი ხელოვნურ ინტელექტში კონფიდენციალურობასთან დაკავშირებული სხვა დავების ფონზე მოხდა. მანამდე, ირლანდიის მონაცემთა დაცვის კომისიამ წარმატებით აიძულა ილონ მასკის Twitter (X) შეეწყვიტა ნეირონული ქსელების სწავლება მისი Grok Bot AI აგენტის მიერ შეგროვებული მესამე მხარის მონაცემების გამოყენებით. ამ შემთხვევაში, სადავო მონაცემები ეხებოდა სხვა მომხმარებლების მიერ გაზიარებულ ინფორმაციას ადამიანების შესახებ - მაგალითად, ვირტუალური ასისტენტის გამოყენებით მეგობრისთვის გაგზავნილ შვებულების ფოტოებს.




კომენტარის დამატება
კომენტარის დასატოვებლად გაიაროთ ავტორიზაცია.