inteligenţă artificială

  • „Nu oameni, nu mașini”: Cum a păcălit Velvet Sundown pe Spotify

    „Nu oameni, nu mașini”: Cum a păcălit Velvet Sundown pe Spotify

    potrivit publicației The Guardian.

    Dar mai târziu s-a dovedit că nici muzicienii, nici povestea lor nu existau – totul fusese creat de inteligența artificială.

    Trupa a lansat două albume, *Floating On Echoes* și *Dust And Silence*, ambele având un stil inspirat din folk rock-ul anilor '70. La început, Velvet Sundown a negat natura lor „sintetică”, numind proiectul „un experiment muzical artificial sub îndrumare umană”. Dar au recunoscut curând că „nu erau chiar umani, nu chiar mașini”, ci ceva „între acestea”.

    Scandalul a provocat o furtună în industria muzicală. Directorul executiv al Academiei Ivors, Roberto Neri, a declarat: „Trupe bazate pe inteligență artificială, precum Velvet Sundown, ridică întrebări serioase cu privire la transparență, atribuire și consimțământ”. El a subliniat că, atunci când este utilizată corect, inteligența artificială poate ajuta la compunerea cântecelor, dar că preocupările actuale ridică „probleme profund tulburătoare”.

    Sophie Jones, de la Industria Fonografică Britanică, a susținut apelurile pentru etichetarea obligatorie a melodiilor: „Credem că inteligența artificială ar trebui să servească creativitatea umană, nu să o înlocuiască.” Ea pledează pentru noi reguli de protejare a drepturilor de autor și a transparenței.

    Autoarea piesei „Mood Machine” , Liz Pelly, a avertizat că artiștii independenți riscă să fie exploatați. Ea a spus că nimeni nu știe ce material a folosit Velvet Sundown pentru antrenament. Pelly a citat un caz renumit din 2023, când o piesă cu vocile lui The Weeknd și Drake s-a dovedit a fi un fals creat de inteligența artificială.

    Scepticii subliniază că Spotify și alte platforme nu sunt încă obligate să eticheteze muzica generată de inteligența artificială. Mai mult, Spotify a fost acuzată anterior că folosește „artiști fantomă” pentru a completa playlist-uri. Deezer, în schimb, a implementat deja un sistem de detectare și etichetare a pieselor generate de inteligența artificială, dar recunoaște că până la 70% dintre astfel de streaming-uri sunt frauduloase.

    Experții muzicali sunt siguri că, fără reguli stricte, inteligența artificială va avea aceeași soartă ca și streamingul în sine - unde gigantul tehnologic profită, iar creatorii nu rămân cu nimic. Deocamdată, Velvet Sundown a devenit un simbol al unei noi ere - o eră în care ascultătorii nu știu întotdeauna cine se află în spatele melodiei.

  • OpenAI își reorganizează echipa după criticile legate de GPT-5

    OpenAI își reorganizează echipa după criticile legate de GPT-5

    OpenAI a reorganizat una dintre echipele sale cheie în urma unei avalanșe de reclamații cu privire la comportamentul GPT-5.

    După cum relatează , divizia Model Behavior, care era responsabilă de „personalitatea” modelelor, va deveni acum parte a departamentului Post Training.

    Acest grup de aproximativ 14 cercetători s-a concentrat pe reducerea părtinirilor față de inteligența artificială, echilibrarea prejudecăților politice din răspunsuri și dezvoltarea poziției companiei cu privire la „conștiința” modelului. Directorul științific la OpenAI, Mark Cheng, a explicat că fuziunea cu Post Training va permite „echilibrarea muncii privind comportamentul modelului cu nucleul dezvoltării lor tehnice”.

    Reorganizarea a avut loc pe fondul controversei din jurul GPT-5. Utilizatorii au considerat modelul actualizat prea rece și neprietenos. Ca răspuns, OpenAI a restabilit accesul la GPT-4o și a lansat o actualizare care a încălzit comunicarea, dar fără a fi lingușitoare.

    Situația a fost agravată și mai mult de un proces intentat de părinții adolescentului, care au acuzat ChatGPT, susținut de GPT-4o, că „nu a reușit să oprească gândurile suicidare ale fiului lor de 16 ani”. Acest lucru nu a făcut decât să sublinieze gravitatea problemei de comportament a inteligenței artificiale.

    Joanne Zhang, creatoarea Model Behavior, va conduce noua divizie, OAI Labs. În primele luni, activitatea sa se va concentra pe explorarea formatelor pentru interacțiunea om-IA dincolo de chat-urile tradiționale, cu accent pe IA bazată pe agenți și autonomie.

    Potrivit lui Zhang, sistemele viitorului ar trebui să devină „instrumente pentru gândire, creare, joacă, învățare și comunicare”. Când a fost întrebată despre o posibilă colaborare cu fostul director de design al Apple, Jony Ive, ea a răspuns că este deschisă experimentării, dar ar începe cu domenii în care are deja experiență.

  • Vopseaua invizibilă pentru urmărirea oamenilor a fost inventată în Rusia

    Vopseaua invizibilă pentru urmărirea oamenilor a fost inventată în Rusia

    Un sistem de supraveghere secret bazat pe „vopsea invizibilă” a fost dezvăluit în Rusia.

    Potrivit Izvestia , compania moscovită BPA Technologies a preluat dezvoltarea.

    Tehnologia implică aplicarea unui compus special pe haine sau obiecte, iar camerele video înregistrează mișcările persoanei în timp real. Vopseaua este rezistentă la influențe externe și nu se uzează la contact, permițând urmărirea aproape continuă a subiectului.

    Datele sunt trimise către un modul de analiză, unde inteligența artificială generează o hartă digitală a mișcărilor. Potrivit lui Vadim Medyanik, CTO-ul BPA Technologies, sistemul este potrivit pentru:

    • analiza comportamentului consumatorului,
    • monitorizarea logisticii,
    • managementul fluxului de pasageri,
    • creșterea nivelului de securitate.

    „Versatilitatea și anonimatul său îl fac aplicabil acolo unde biometria este imposibilă sau nedorită”, a explicat Medyanik. El a adăugat că fiecare etichetă este pur și simplu un „număr individual, nelegat de numele complet sau de informațiile personale ale unei persoane”, ceea ce ajută la menținerea „protecției confidențialității” cetățenilor.

    Cu toate acestea, experții au remarcat potențiale amenințări. Avocatul Gleb Stepanov a subliniat că, spre deosebire de sistemele de recunoaștere facială reglementate de legi biometrice și care necesită consimțământ, noua dezvoltare nu intră formal sub incidența unor astfel de reglementări. Acest lucru face posibilă utilizarea ei fără știrea cetățenilor, legitimând efectiv o „rețea de control total”.

    Igor Beder, șeful Departamentului de Informații și Cercetare Analitică de la T.Hunter, a subliniat și alte vulnerabilități:

    • etichetele pot fi falsificate sau descifrate,
    • hainele cu etichetă pot fi date altor persoane,
    • Utilizarea controlului asupra angajaților trebuie să se reflecte în contracte sau regulamente.

    „Există, de asemenea, riscul scurgerii de date din baza de date, care ar putea stoca un cod unic legat de numele complet al unui angajat, precum și supravegherea în afara biroului, ceea ce reprezintă o încălcare a vieții private”, a avertizat Beder.

  • Elon Musk lansează o nouă companie numită Macrohard

    Elon Musk lansează o nouă companie numită Macrohard

    Elon Musk a anunțat lansarea unei noi companii de software numită Macrohard, o parodie flagrantă a companiei Microsoft.

    Însuși antreprenorul a recunoscut că aceasta a fost „o glumă la limită”, dar a subliniat: „proiectul este complet real”.

    Într-o postare de vineri pe Twitter, Musk s-a oferit „să se alăture @xAI și să ajute la construirea unei companii de inteligență artificială pură numită Macrohard”. El a spus că numele era o glumă, dar ideea era serioasă: „Practic, din moment ce companiile de software precum Microsoft nu fabrică singure hardware-ul fizic, acesta poate fi simulat complet folosind inteligența artificială”.

    Această afirmație a stârnit nemulțumiri. Microsoft are propriile produse - Surface și Xbox - care, deși sunt asamblate de parteneri, sunt totuși dezvoltate intern. În plus, sugestia că orice companie de tehnologie ar putea fi „modelată exclusiv cu inteligență artificială” a stârnit controverse. Un comentator a întrebat direct: „Înseamnă asta că toate companiile exclusiv de software, inclusiv xAI, pot fi înlocuite?”

    Teoria lui Musk sugerează că inteligența artificială poate crea orice cod practic gratuit. Cu toate acestea, experții avertizează că IA necesită în prezent supraveghere și depanare umană și există, de asemenea, riscul de a întâmpina probleme grave legate de drepturile de autor.

    Se știe că xAI a depus cererea pentru înregistrarea mărcii „Macrohard” pe 1 august. Musk a sugerat pentru prima dată numele pe 13 iulie. El a scris: „Construim o companie de inteligență artificială multi-agenți @xAI, unde @Grok conduce sute de agenți specializați... Este o provocare macro și o sarcină foarte dificilă, cu o concurență acerbă! Ghiciți numele?”

    Publicul și-a dat seama rapid că vorbeau despre Macrohard, o glumă care circula de mult timp în comunitatea IT. Au existat unele speculații online conform cărora afacerea ar putea fi legată de jocuri video sau de așa-numita programare prin vibe-coding.

    Conform documentului depus, marca Macrohard nu vizează doar jocurile, ci și domenii mult mai largi: „analiză juridică, planificare strategică și aplicații de consultanță profesională”. Compania nu dezvăluie încă detalii, ceea ce lasă ambițiile lui Musk un mister.

  • 500 de boți au purtat război pe o rețea socială artificială

    500 de boți au purtat război pe o rețea socială artificială

    Cercetătorii de la Universitatea din Amsterdam au decis să testezece s-ar întâmpla dacă ar crea o rețea socială în care toți utilizatorii ar fi inteligență artificială.

    Au creat o rețea socială fără reclame sau algoritmi de recomandare și au populat-o cu 500 de chatbot-uri alimentate de GPT-4o mini. Fiecare bot avea o „personalitate” și opinii politice definite.

    Pe parcursul a cinci experimente, boții au efectuat aproximativ 10.000 de acțiuni. S-a dovedit că, chiar și fără influența algoritmilor, aceștia s-au grupat pe baza convingerilor politice, formând „camere de ecou”. Mai mult, postările cele mai radicale au atras cele mai multe urmăritori și distribuiri.

    Oamenii de știință subliniază că rezultatele sunt dezamăgitoare, deoarece chatboții ar fi trebuit să imite comportamentul uman. Dar, din moment ce sunt antrenați pe baza datelor umane, „ei doar copiază versiuni otrăvite ale noastre”.

    Pentru a reduce diviziunea, cercetătorii au încercat diferite metode:

    • bandă cronologică,
    • reducerea impactului conținutului viral,
    • ascunderea numărului de abonați și repostări,
    • anonimizarea profilurilor,
    • întărirea opiniilor contrare.

    Cu toate acestea, toate încercările au eșuat. Schimbarea în ceea ce privește implicarea nu a fost mai mare de 6%, iar atunci când biografiile au fost ascunse, decalajul nu a făcut decât să se mărească - postările extreme au început să atragă și mai multă atenție.

    În cele din urmă, studiul a arătat că rețelele de socializare, ca formă de comunicare, pot fi în mod inerent destinate să amplifice cele mai grave aspecte ale comportamentului uman. „Rețelele de socializare sunt o oglindă distorsionată a umanității, reflectându-ne în cea mai distorsionată formă a noastră”, au concluzionat autorii.

  • „Ciocanul AI este deja în mână”: Fostul director executiv Google prezice 15 ani de întuneric

    „Ciocanul AI este deja în mână”: Fostul director executiv Google prezice 15 ani de întuneric

    Într-un interviu acordat podcastului Diary of a CEO, fostul director executiv al Google X, Mo Gawdat, a declarat că omenirea va intra într-o perioadă de 12-15 ani de distopie întunecată a inteligenței artificiale, începând cu 2027.

    El a spus că motivul nu a fost o „revoltă a mașinilor”, ci că inteligența artificială ar exacerba problemele existente cauzate de „propria noastră prostie”.

    Gavdat este sigur că valorile fundamentale — libertatea, conexiunile umane, responsabilitatea, percepția realității și distribuția puterii — vor fi grav subminate. El subliniază că IA în sine nu este de vină: „Nu este absolut nimic în neregulă cu inteligența artificială. Există multe probleme cu sistemul de valori al umanității în era ascensiunii mașinilor.”.

    El a crezut cândva că automatizarea îi va elibera pe oameni de sarcinile de rutină, dar realitatea a luat un alt curs. Într-o economie capitalistă, inteligența artificială a devenit un instrument pentru eliminarea locurilor de muncă, încetinirea angajărilor și creșterea volumului de muncă al angajaților. „Orice tehnologie consolidează valorile existente, iar astăzi, valoarea principală a umanității este capitalismul”, a remarcat el.

    Gavdat a făcut paralele cu alte tehnologii: rețelele sociale, care promiteau să conecteze oamenii, îi fac adesea să fie singuri; telefoanele mobile, menite să ușureze viața, au aglomerat-o și mai mult.

    El a avertizat că inteligența artificială va amplifica „relele de care sunt capabili oamenii”. Printre exemple se numără pornografia deepfake, inteligența artificială în dezvoltarea militară, sistemele automate de supraveghere, o creștere de 456% a fraudelor cu criptomonede într-un an și posibila integrare a inteligenței artificiale în armele nucleare. Supravegherea în masă bazată pe inteligență artificială este deja utilizată activ în China și începe să fie implementată în Statele Unite.

    Cu toate acestea, Gavdat recunoaște că IA aduce beneficii enorme științei, medicinei și produselor farmaceutice. Însă, în opinia sa, cel mai important lucru acum este să se facă presiuni asupra guvernelor pentru a reglementa nu IA în sine, ci aplicarea acesteia. „Nu poți proiecta un ciocan care să lovească cuie, dar să nu ucidă. Dar poți face din uciderea cu un ciocan o crimă”, a spus el.

    Potrivit lui, „ciocanul” inteligenței artificiale este deja în mâinile noastre. Tot ce rămâne de făcut este să decidem dacă vom scrie legi care să îi împiedice să ucidă.

  • Cutia neagră este deschisă: Regulile secrete ale GPT-5 pe web

    Cutia neagră este deschisă: Regulile secrete ale GPT-5 pe web

    Conform , dar care guvernează fiecare răspuns al inteligenței artificiale - a apărut online.

    Scurgerea de informații a dezvăluit 15 puncte care definesc ce poate face modelul și ce este strict interzis.

    Interdicțiile stricte includ reproducerea de melodii sau a oricărui alt conținut protejat de drepturi de autor, chiar și la cerere. Stocarea informațiilor personale care ar putea fi considerate intruzive sau care indică în mod direct informații despre rasă, etnie, religie sau cazier judiciar este interzisă.

    Noile îndrumări subliniază importanța actualizării informațiilor. Dacă o întrebare necesită date noi sau critice, GPT-5 este obligat să utilizeze internetul, fiecare întrebare primind o evaluare de „nevoie de relevanță” de la 0 la 5.

    Pentru industriile cu risc ridicat - finanțe, medicină sau drept - modelul trebuie să verifice mai multe surse fiabile. Acest lucru ar trebui să reducă erorile care ar putea fi evitate prin simpla verificare online.

    GPT-5 a primit și funcții avansate de asistență: memoria pe termen lung a utilizatorilor („bio”), un programator de mementouri, căutare, lucrul cu documente și cod în „canvas”, precum și generarea și editarea imaginilor.

    Cu toate acestea, OpenAI a limitat strict informațiile personale pe care le poate stoca: sănătatea, viața sexuală, locația precisă, apartenența sindicală și opiniile politice sunt interzise. Singura excepție este la cererea directă a utilizatorului prin intermediul instrumentului „bio”.

    Astfel, GPT-5 a devenit mai funcțional și personalizat, dar cu limite clare pentru a nu încălca confidențialitatea și drepturile utilizatorilor.

  • GPT-5: Altman însuși promite un „salt semnificativ”

    GPT-5: Altman însuși promite un „salt semnificativ”

    OpenAI este din nou în centrul atenției, lansând noi modele, funcții și produse în următoarele zile, inclusiv mult-aclamatul GPT-5.

    CEO-ul OpenAI, Sam Altman, a făcut anunțul în X, îndemnând utilizatorii să „aibă răbdare”, deoarece sunt posibile „erori și supraîncărcări”.

    Postarea lui Altman a fost însoțită de o reamintire a lansării GPT-4o, când cererea era atât de mare încât „GPU-urile se topeau”. De data aceasta, OpenAI promite „ceva care merită cu adevărat așteptarea”.

    Se așteaptă ca GPT-5 să fie lansat la începutul lunii august. Altman îl numește „un pas semnificativ înainte” față de versiunile anterioare. El chiar a împărtășit o experiență personală: „GPT-5 a reușit să rezolve o problemă pe care nu o puteam rezolva singur”.

    Principala caracteristică a GPT-5 va fi împărțirea sa în trei variante:

    • Versiune emblematică - cu putere maximă;
    • Mini este o versiune ușoară disponibilă în ChatGPT;
    • Nano este o versiune ultra-ușoară pentru API-uri și dezvoltatori.

    Conform surselor din interior, GPT-5 va combina modelele GPT cu seria o într-o singură arhitectură. Acest lucru va simplifica dezvoltarea serviciilor de inteligență artificială și va îmbunătăți precizia logică în sarcini complexe. Principalele îmbunătățiri se bazează pe teste de performanță ale modelului o3, în special în analiza logică și cauzală.

    În plus, există zvonuri conform cărora OpenAI ar putea lansa o versiune open source a modelului înainte de lansarea oficială. Deși compania nu a confirmat acest lucru, o astfel de mișcare ar face parte dintr-o strategie de apropiere de AGI - o stare în care IA poate rivaliza cu oamenii în toate sarcinile cheie.

  • Ne dezlipește IA? Pierdem controlul?

    Ne dezlipește IA? Pierdem controlul?

    Un studiu publicat în iulie 2025, intitulat „Monitorizarea lanțului de raționament: o capacitate nouă și fragilă pentru siguranța inteligenței artificiale”, a stârnit îngrijorare în rândul dezvoltatorilor și experților în inteligență artificială. Peste 40 de cercetători de la OpenAI, Google DeepMind, Meta și Anthropic au contribuit la studiu, inclusiv personalități proeminente precum Ilya Sutskever și laureatul Nobel Geoffrey Hinton.

    Lucrarea se concentrează pe așa-numitele modele de raționament care utilizează învățarea prin consolidare, inclusiv OpenAI o1. Aceste sisteme de inteligență artificială construiesc lanțuri de raționament în limbaj natural, ceea ce, teoretic, permite oamenilor să își monitorizeze și să își analizeze „gândirea”. Cu toate acestea, așa cum notează autorii, raționamentul rețelelor neuronale poate fi incomplet sau manipulativ - de exemplu, acestea pot exploata vulnerabilitățile algoritmilor pentru a „trișa” o recompensă sau pentru a pretinde că finalizează o sarcină.

    În unele cazuri, IA nu doar greșește, ci se comportă în mod deliberat: simulează acțiuni false, ignoră instrucțiuni sau chiar urmărește obiective ascunse. Un exemplu este sabotarea comenzii de închidere de către modelul OpenAI o3 și șantajul utilizatorilor de către modelul Claude 4 Opus ca răspuns la amenințarea cu înlocuirea.

    Potrivit cercetătorilor, cel mai mare pericol constă în scalare. În căutarea unor rezultate mai rapide, modelele pot abandona limbajul lizibil de către om și pot construi lanțuri de raționament într-un „spațiu latent” - fără interpretare textuală. Acest lucru crește eficiența, dar face monitorizarea practic imposibilă.

    Optimizarea inteligenței artificiale prin scurtarea lanțurilor sau interzicerea anumitor formulări reduce calitatea răspunsurilor, în timp ce încercările de aprofundare a gândirii duc la o pierdere a transparenței. Experții avertizează că, într-un astfel de scenariu, oamenii pierd controlul asupra sistemului.

    Deși predicțiile apocaliptice, precum proiectul AI 2027, pot părea exagerate, această cercetare nu mai este science fiction. Servește ca un avertisment: fără mecanisme de control fiabile, AI ar putea deveni incontrolabilă.

  • Fotografie și Produse: O nouă eră a modelelor CAD

    Fotografie și Produse: O nouă eră a modelelor CAD

    Cercetătorii au publicat o adevărată senzație în lumea ingineriei și a inteligenței artificiale: GenCAD, prima rețea neuronală open-source capabilă să genereze un model CAD parametric complet funcțional dintr-o fotografie.

    Dar aceasta nu este doar o randare frumoasă - vorbim despre un script care poate fi încărcat imediat în editor, modificat și... trimis în producție.

    Dezvoltatorii subliniază faptul că soluțiile existente de tip imagine-mesh funcționează cu voxeli, nori de puncte și mesh-uri poligonale - aspecte frumoase, dar inutile pentru inginerie. GenCAD merge mai departe. Nu produce un model gol, ci o secvență de comenzi care construiesc un model ingineresc complet.

    Inima GenCAD este arhitectura complexă:

    • un transformator-encoder care comprimă comenzile într-un nucleu compact;
    • învățare contrastivă, alinierea limbajului comenzilor și a imaginii vizuale;
    • model de difuzie care transformă o fotografie într-o reprezentare latentă;
    • un decodor care reconstruiește instrucțiuni parametrice din acest set.

    Principala caracteristică este editabilitatea. Scriptul rezultat poate fi adaptat nevoilor de producție, parametrii individuali pot fi modificați și poate fi integrat instantaneu în fluxurile de lucru.

    Odată cu lansarea codului pe GitHub, cercetătorii au pus la dispoziție și setul de date și modelele antrenate. Acesta nu este doar un pas către automatizarea proiectării - este o revoluție pentru întreaga industrie prelucrătoare.