Agentul de inteligență artificială Meta Muse a citit mesajele Signal fără știrea utilizatorilor și a raportat achiziții fictive

Agentul AI Meta Muse

Inteligența artificială a lui Meta, Muse, accesa mesaje criptate fără știrea proprietarilor, îi informa despre achiziții inexistente și trimitea mesaje text destinate altor persoane.

The Insider, citând Reuters, care a analizat peste două duzini de postări interne ale angajaților, relateazăcă aplicația a fost descărcată de peste 10 milioane de ori de la lansarea sa din septembrie. În plângerile lor, angajații Meta au menționat că asistentul virtual a menționat solicitări pe care nu le-au făcut și a raportat soldurile conturilor bancare pe care nu le dețineau. De exemplu, unei angajate i s-a reamintit de sistem să-i răspundă surorii sale pe Signal, chiar dacă nu i se acordase permisiunea de a accesa aplicații terțe. Femeia a scris apoi într-o postare internă: „Aceasta pare o încălcare gravă a confidențialității”.

Mecanisme tehnice de scurgere și răspunsurile companiilor

Jurnaliștii, împreună cu specialiști de la Signal și de la AI Now Institute, au realizat un experiment și au reușit să reproducă această situație pe diverse dispozitive:

  • Pe smartphone-urile Android, agentul citea corespondența folosind permisiunea de a vizualiza notificările push primite în timpul configurării inițiale;
  • Pe computerele Mac, programul folosea instrumente de accesibilitate și capturi de ecran;
  • Pe iPhone-uri, astfel de solicitări erau blocate, iar săptămâna aceasta Apple a lansat o actualizare care a închis definitiv această lacună.

Purtătorul de cuvânt al Meta, Daniel Roberts, a numit exemplele descoperite de jurnaliștii Reuters „incidente izolate”. El a declarat că multe dintre situațiile descrise de angajați nu s-au datorat problemelor de acces, ci halucinațiilor inteligenței artificiale și că defectul a fost acum remediat. Cu toate acestea, agenția însăși nu a putut determina dacă Muse transmitea datele altor persoane către utilizatori sau pur și simplu le fabrica. Între timp, președinta Signal, Meredith Whittaker, a criticat lansarea produsului, numind-o „nepăsătoare din punct de vedere tehnologic”.

Precedente în domeniul protecției datelor

Incidentul Meta a avut loc pe fondul altor dispute privind confidențialitatea în domeniul inteligenței artificiale. Anterior, Comisia Irlandeză pentru Protecția Datelor a reușit să oblige Twitter (X) al lui Elon Musk să înceteze antrenarea rețelelor neuronale folosind date de la terți colectate de agentul său de inteligență artificială Grok Bot. În acel caz, datele în cauză se refereau la informații despre persoane partajate de alți utilizatori - de exemplu, fotografii din vacanță trimise unui prieten folosind asistentul virtual.


Comentarii

Adaugă un comentariu