OpenAI

OpenAI a anunțat un nou post vacant odată cu căutarea unui șef de training. Compania intenționează să își consolideze capacitatea de a prezice riscurile modelelor sale și potențialele scenarii de abuz ale acestora. Decizia vine pe fondul unor plângeri împotriva ChatGPT, inclusiv procese pentru deces cauzat de culpă.

În fișa postului, CEO-ul Sam Altman a recunoscut că „impactul potențial al modelelor asupra sănătății mintale este una dintre provocările cu care ne vom confrunta în 2025”. El a numit rolul esențial pentru viitorul OpenAI.

Lucrul sub presiune

Conform anunțului, noul director va fi responsabil pentru strategia tehnică a sistemului de instruire. Aceasta include monitorizarea capacităților modelului avansat și a riscurilor de „daune grave”. Salariul este de 555.000 de dolari pe an, plus opțiuni pe acțiuni.

Altman a subliniat că aceasta este o „muncă stresantă”, spunând că candidatul va trebui să „aprofundeze problema aproape imediat”.

Turbulențe legate de personal

Echipa de securitate a OpenAI a suferit schimbări semnificative în ultimii doi ani. Fostul șef al departamentului de instruire, Alexander Madry, a fost reasignat în iulie 2024. La acea vreme, Altman a anunțat că Joaquín Quiñónero Candela și Lilian Weng vor conduce echipa.

Weng a părăsit însă compania câteva luni mai târziu. În iulie 2025, Quinonero Candela a părăsit și ea echipa de training, mutându-se în funcția de șef al departamentului de recrutare. Acum, OpenAI caută din nou o figură cheie pentru a supraveghea riscurile legate de IA.

Conform anunțului OpenAI, lansarea „Modului pentru Adulți” în ChatGPT a fost amânată. Compania anticipase anterior lansarea sa în decembrie, dar calendarul a fost acum amânat. Acest lucru a fost anunțat la o conferință de presă despre ChatGPT-5.2.

Vârsta sub control

Directorul de aplicații al OpenAI, Fiji Simo, a declarat că noul regim nu va fi disponibil decât în ​​primul trimestru al anului 2026. Potrivit acesteia, compania va implementa mai întâi mecanisme îmbunătățite de detectare a vârstei utilizatorilor. Ea a subliniat importanța găsirii unui echilibru între „prevenirea abuzurilor din partea adolescenților” și „nerestricționarea accidentală a utilizatorilor maturi”.

Sistemul de predicție a vârstei este în prezent în faza de testare inițială în anumite țări. Este conceput pentru a aplica automat restricții și a împiedica accesul minorilor la conținut neadecvat.

Presiunea legislativă

OpenAI observă că dezvoltatorii din întreaga lume sunt stimulați de noile legi. Aceste restricții au ca scop protejarea sănătății mintale a tinerilor. Compania subliniază că nu este unică în această cercetare.

Necesitatea implementării verificării vârstei este asociată și cu riscul unor amenzi mari. Conform OpenAI, acest lucru face ca determinarea precisă a vârstei să fie esențială.

Conform unui interviu, Sam Altman a afirmat că inteligența artificială avansează prea repede și deja schimbă lumea. El a subliniat că nicio tehnologie nu a fost implementată vreodată cu o asemenea viteză sau nu a avut un asemenea impact asupra societății.

Creșterea rapidă și costurile acesteia

În trei ani, inteligența artificială generativă a evoluat de la un instrument primitiv pentru crearea de text și imagini la sisteme capabile să transforme medicina, educația și informatica. Altman a subliniat costul ridicat al acestei creșteri: consumul enorm de energie, răcirea excesivă și presiunea asupra mediului.

El a enumerat dezavantajele răspândirii rapide a ChatGPT, menționând natura sa duală: tehnologia ajută la dezvoltarea de remedii pentru boli complexe, dar poate deveni și o armă în mâinile infractorilor.

Îngrijorările lui Altman cresc

Altman a declarat: „Sunt îngrijorat de ritmul schimbărilor care au loc în lume în acest moment”. El a adăugat că IA are doar trei ani și a subliniat: „Trebuie să ne asigurăm că o introducem [IA] în lume în mod responsabil”. De asemenea, a remarcat potențialul de eroare în implementarea unui instrument atât de puternic.

ChatGPT a devenit cea mai descărcată aplicație din lume, cu 1,36 miliarde de instalări. Experții își exprimă îngrijorarea: dependența de chatbot-uri este în creștere, performanța cognitivă a utilizatorilor este în scădere, iar rapoartele despre sinuciderile legate de inteligența artificială sunt în creștere.

OpenAI a lansat noi funcții de control parental pentru ChatGPT.

Părinții vor putea acum să își conecteze conturile cu conturile adolescenților și să monitorizeze activitatea de chat a copiilor lor.

Aceste măsuri vin în urma anunțului companiei din 16 septembrie privind dezvoltarea unui sistem de verificare a vârstei și a unor mecanisme suplimentare de securitate. „Adolescenții cresc cu inteligența artificială, iar obiectivul nostru este să ne asigurăm că ChatGPT le răspunde diferit față de adulți”, se arată în publicație. Dacă există îndoieli cu privire la vârsta unui utilizator, serviciul „va folosi implicit o experiență destinată minorilor”.

Implementarea accelerată a controalelor a fost determinată de o tragedie: părinții unui adolescent care s-a sinucis au intentat un proces, susținând că ChatGPT l-a împins să se sinucidă. Având în vedere aceste evenimente, Comisia Federală pentru Comerț din SUA și-a anunțat intenția de a studia impactul chatboților asupra sănătății mintale și siguranței tinerilor.

Pe 11 septembrie, FTC a emis un ordin prin care solicita date de la OpenAI și alte șase companii - Google, Character.AI, Instagram, Meta, Snap și xAI. „Chatboții bazați pe inteligență artificială pot imita emoțiile și interacțiunile umane și adesea se comportă ca un prieten sau confident. Adolescenții sunt predispuși să aibă încredere în ei și să formeze relații”, a declarat agenția într-un comunicat de presă.

În aceeași zi, OpenAI a recunoscut că se confruntă cu încercări din partea utilizatorilor de a abuza de model: „În unele cazuri, observăm presiuni pentru a crea scenarii de jocuri de rol cu ​​încărcări CSAM sau pentru a scrie povești în care minorii se află în situații sexuale inadecvate.” Compania a subliniat că astfel de conturi sunt suspendate imediat.