riscuri

  • OpenAI angajează un director de risc în domeniul inteligenței artificiale

    OpenAI angajează un director de risc în domeniul inteligenței artificiale

    OpenAI a anunțat un nou post vacant odată cu căutarea unui șef de training. Compania intenționează să își consolideze capacitatea de a prezice riscurile modelelor sale și potențialele scenarii de abuz ale acestora. Decizia vine pe fondul unor plângeri împotriva ChatGPT, inclusiv procese pentru deces cauzat de culpă.

    În fișa postului, CEO-ul Sam Altman a recunoscut că „impactul potențial al modelelor asupra sănătății mintale este una dintre provocările cu care ne vom confrunta în 2025”. El a numit rolul esențial pentru viitorul OpenAI.

    Lucrul sub presiune

    Conform anunțului, noul director va fi responsabil pentru strategia tehnică a sistemului de instruire. Aceasta include monitorizarea capacităților modelului avansat și a riscurilor de „daune grave”. Salariul este de 555.000 de dolari pe an, plus opțiuni pe acțiuni.

    Altman a subliniat că aceasta este o „muncă stresantă”, spunând că candidatul va trebui să „aprofundeze problema aproape imediat”.

    Turbulențe legate de personal

    Echipa de securitate a OpenAI a suferit schimbări semnificative în ultimii doi ani. Fostul șef al departamentului de instruire, Alexander Madry, a fost reasignat în iulie 2024. La acea vreme, Altman a anunțat că Joaquín Quiñónero Candela și Lilian Weng vor conduce echipa.

    Weng a părăsit însă compania câteva luni mai târziu. În iulie 2025, Quinonero Candela a părăsit și ea echipa de training, mutându-se în funcția de șef al departamentului de recrutare. Acum, OpenAI caută din nou o figură cheie pentru a supraveghea riscurile legate de IA.

  • Altman despre inteligența artificială: „Sunt îngrijorat de ritmul schimbării”

    Altman despre inteligența artificială: „Sunt îngrijorat de ritmul schimbării”

    Conform unui interviu, Sam Altman a afirmat că inteligența artificială avansează prea repede și deja schimbă lumea. El a subliniat că nicio tehnologie nu a fost implementată vreodată cu o asemenea viteză sau nu a avut un asemenea impact asupra societății.

    Creșterea rapidă și costurile acesteia

    În trei ani, inteligența artificială generativă a evoluat de la un instrument primitiv pentru crearea de text și imagini la sisteme capabile să transforme medicina, educația și informatica. Altman a subliniat costul ridicat al acestei creșteri: consumul enorm de energie, răcirea excesivă și presiunea asupra mediului.

    El a enumerat dezavantajele răspândirii rapide a ChatGPT, menționând natura sa duală: tehnologia ajută la dezvoltarea de remedii pentru boli complexe, dar poate deveni și o armă în mâinile infractorilor.

    Robotul din seria T-800 din Terminator Genisys de la Paramount Pictures și Skydance Productions

    Îngrijorările lui Altman cresc

    Altman a declarat: „Sunt îngrijorat de ritmul schimbărilor care au loc în lume în acest moment”. El a adăugat că IA are doar trei ani și a subliniat: „Trebuie să ne asigurăm că o introducem [IA] în lume în mod responsabil”. De asemenea, a remarcat potențialul de eroare în implementarea unui instrument atât de puternic.

    ChatGPT a devenit cea mai descărcată aplicație din lume, cu 1,36 miliarde de instalări. Experții își exprimă îngrijorarea: dependența de chatbot-uri este în creștere, performanța cognitivă a utilizatorilor este în scădere, iar rapoartele despre sinuciderile legate de inteligența artificială sunt în creștere.