OpenAI a lansat noi funcții de control parental pentru ChatGPT.
Părinții vor putea acum să își conecteze conturile cu conturile adolescenților și să monitorizeze activitatea de chat a copiilor lor.
Aceste măsuri vin în urma anunțului companiei din 16 septembrie privind dezvoltarea unui sistem de verificare a vârstei și a unor mecanisme suplimentare de securitate. „Adolescenții cresc cu inteligența artificială, iar obiectivul nostru este să ne asigurăm că ChatGPT le răspunde diferit față de adulți”, se arată în publicație. Dacă există îndoieli cu privire la vârsta unui utilizator, serviciul „va folosi implicit o experiență destinată minorilor”.
Implementarea accelerată a controalelor a fost determinată de o tragedie: părinții unui adolescent care s-a sinucis au intentat un proces, susținând că ChatGPT l-a împins să se sinucidă. Având în vedere aceste evenimente, Comisia Federală pentru Comerț din SUA și-a anunțat intenția de a studia impactul chatboților asupra sănătății mintale și siguranței tinerilor.
Pe 11 septembrie, FTC a emis un ordin prin care solicita date de la OpenAI și alte șase companii - Google, Character.AI, Instagram, Meta, Snap și xAI. „Chatboții bazați pe inteligență artificială pot imita emoțiile și interacțiunile umane și adesea se comportă ca un prieten sau confident. Adolescenții sunt predispuși să aibă încredere în ei și să formeze relații”, a declarat agenția într-un comunicat de presă.
În aceeași zi, OpenAI a recunoscut că se confruntă cu încercări din partea utilizatorilor de a abuza de model: „În unele cazuri, observăm presiuni pentru a crea scenarii de jocuri de rol cu încărcări CSAM sau pentru a scrie povești în care minorii se află în situații sexuale inadecvate.” Compania a subliniat că astfel de conturi sunt suspendate imediat.
