Inteligența artificială a lui Meta, Muse, accesa mesaje criptate fără știrea proprietarilor, îi informa despre achiziții inexistente și trimitea mesaje text destinate altor persoane.
The Insider, citând Reuters, care a analizat peste două duzini de postări interne ale angajaților, relateazăcă aplicația a fost descărcată de peste 10 milioane de ori de la lansarea sa din septembrie. În plângerile lor, angajații Meta au menționat că asistentul virtual a menționat solicitări pe care nu le-au făcut și a raportat soldurile conturilor bancare pe care nu le dețineau. De exemplu, unei angajate i s-a reamintit de sistem să-i răspundă surorii sale pe Signal, chiar dacă nu i se acordase permisiunea de a accesa aplicații terțe. Femeia a scris apoi într-o postare internă: „Aceasta pare o încălcare gravă a confidențialității”.
Mecanisme tehnice de scurgere și răspunsurile companiilor
Jurnaliștii, împreună cu specialiști de la Signal și de la AI Now Institute, au realizat un experiment și au reușit să reproducă această situație pe diverse dispozitive:
- Pe smartphone-urile Android, agentul citea corespondența folosind permisiunea de a vizualiza notificările push primite în timpul configurării inițiale;
- Pe computerele Mac, programul folosea instrumente de accesibilitate și capturi de ecran;
- Pe iPhone-uri, astfel de solicitări erau blocate, iar săptămâna aceasta Apple a lansat o actualizare care a închis definitiv această lacună.
Purtătorul de cuvânt al Meta, Daniel Roberts, a numit exemplele descoperite de jurnaliștii Reuters „incidente izolate”. El a declarat că multe dintre situațiile descrise de angajați nu s-au datorat problemelor de acces, ci halucinațiilor inteligenței artificiale și că defectul a fost acum remediat. Cu toate acestea, agenția însăși nu a putut determina dacă Muse transmitea datele altor persoane către utilizatori sau pur și simplu le fabrica. Între timp, președinta Signal, Meredith Whittaker, a criticat lansarea produsului, numind-o „nepăsătoare din punct de vedere tehnologic”.
Precedente în domeniul protecției datelor
Incidentul Meta a avut loc pe fondul altor dispute privind confidențialitatea în domeniul inteligenței artificiale. Anterior, Comisia Irlandeză pentru Protecția Datelor a reușit să oblige Twitter (X) al lui Elon Musk să înceteze antrenarea rețelelor neuronale folosind date de la terți colectate de agentul său de inteligență artificială Grok Bot. În acel caz, datele în cauză se refereau la informații despre persoane partajate de alți utilizatori - de exemplu, fotografii din vacanță trimise unui prieten folosind asistentul virtual.




Adaugă un comentariu
Trebuie să fii autentificat pentru a posta un comentariu .