Մետայի արհեստական ինտելեկտը՝ Muse-ը, առանց սեփականատերերի իմացության մուտք էր գործում կոդավորված հաղորդագրություններին, տեղեկացնում նրանց գոյություն չունեցող գնումների մասին և ուղարկում էր այլ մարդկանց համար նախատեսված հաղորդագրություններ։.
«Insider»-ը, հղում անելով «Reuters»-ին, որը վերանայել է ավելի քան երկու տասնյակ ներքին աշխատակիցների գրառումներ, հաղորդում է, որ հավելվածը սեպտեմբերին գործարկվելուց ի վեր ներբեռնվել է ավելի քան 10 միլիոն անգամ: Իրենց բողոքներում «Meta»-ի աշխատակիցները նշել են, որ վիրտուալ օգնականը նշել է հարցումներ, որոնք իրենք չեն արել, և հայտնել է իրենց չպատկանող բանկային հաշիվների մնացորդների մասին: Օրինակ՝ համակարգը հիշեցրել է մեկ աշխատակցի, որ պատասխանի իր քրոջը «Signal»-ում, չնայած նրան, որ նրան թույլտվություն չէր տրվել մուտք գործել երրորդ կողմի հավելվածներ: Այնուհետև կինը ներքին գրառման մեջ գրել է. «Սա, կարծես, գաղտնիության կոպիտ խախտում է»:
Արտահոսքի տեխնիկական մեխանիզմներ և ընկերության արձագանքներ
Լրագրողները, Signal-ի և AI Now Institute-ի մասնագետների հետ համատեղ, անցկացրեցին փորձ և կարողացան վերարտադրել այս իրավիճակը տարբեր սարքերի վրա
- Android սմարթֆոնների վրա գործակալը կարդում է նամակագրությունը՝ օգտագործելով սկզբնական կարգավորման ընթացքում ստացված push ծանուցումները դիտելու թույլտվությունը։
- Mac համակարգիչների վրա ծրագիրը օգտագործում էր հասանելիության գործիքներ և էկրանի նկարներ։
- iPhone-ներում նման հարցումները արգելափակվեցին, և այս շաբաթ Apple-ը թողարկեց թարմացում, որը վերջապես փակեց այս բացը։.
Meta-ի խոսնակ Դանիել Ռոբերտսը Reuters-ի լրագրողների կողմից բացահայտված օրինակները անվանեց «մեկուսացված միջադեպեր»։ Նա նշեց, որ աշխատակիցների կողմից նկարագրված իրավիճակներից շատերը պայմանավորված չէին մուտքի խնդիրներով, այլ արհեստական ինտելեկտի հալյուցինացիաներով, և որ թերությունն այժմ շտկվել է։ Այնուամենայնիվ, գործակալությունը ինքը չկարողացավ որոշել, թե արդյոք Muse-ը փոխանցում էր այլ մարդկանց տվյալները օգտատերերին, թե՞ պարզապես կեղծում էր դրանք։ Մինչդեռ Signal-ի նախագահ Մերեդիթ Ուիթաքերը քննադատեց արտադրանքի թողարկումը՝ գործակալի թողարկումը անվանելով «տեխնոլոգիապես անխոհեմ»։.
Նախադեպեր տվյալների պաշտպանության ոլորտում
Meta միջադեպը տեղի ունեցավ արհեստական բանականության գաղտնիության վերաբերյալ այլ վեճերի ֆոնին: Նախկինում Իռլանդիայի տվյալների պաշտպանության հանձնաժողովին հաջողվել էր ստիպել Էլոն Մասկի Twitter-ին (X) դադարեցնել նեյրոնային ցանցերի մարզումը՝ օգտագործելով իր Grok Bot AI գործակալի կողմից հավաքված երրորդ կողմի տվյալները: Այդ դեպքում վիճելի տվյալները վերաբերում էին այլ օգտատերերի կողմից կիսվող մարդկանց մասին տեղեկատվությանը, օրինակ՝ վիրտուալ օգնականի միջոցով ընկերոջը ուղարկված արձակուրդային լուսանկարներին:.




Ավելացնել մեկնաբանություն
Մեկնաբանություն թողնելու համար մուտք գործած լինեք։