Compania americană de tehnologie Anthropic, dezvoltatorul familiei de rețele neuronale Claude, a lansat un apel oficial către cele mai importante laboratoare din lume pentru a întrerupe sau a încetini ritmul dezvoltării inteligenței artificiale.
Această inițiativă neașteptată a liderilor din industria IT a fost relatată de agenția de știri Interfax, citând o declarație de misiune a cofondatorului companiei, Jack Clark, și a directorului general al Institutului Antropologic, Marina Favaro. Conducerea corporației avertizează că tehnologiile se apropie rapid de stadiul de „auto-îmbunătățire recursivă” - capacitatea sistemelor de a evolua fără intervenție umană. Experții notează că inteligența artificială va putea în curând să proiecteze autonom noi versiuni ale sale, creând riscuri imprevizibile pentru societate.
Autorii lucrării publicate subliniază provocările inevitabile cu care se vor confrunta instituțiile publice existente în cazul unui avans tehnologic necontrolat. Raportul subliniază: „Dacă acest proces continuă, atunci, având suficientă putere de calcul, ar putea duce la apariția unui sistem de inteligență artificială capabil să proiecteze și să dezvolte autonom următoarea sa versiune. Aceasta se numește auto-îmbunătățire recursivă. Nu am ajuns încă în această etapă, iar auto-îmbunătățirea recursivă nu este inevitabilă. Cu toate acestea, ea ar putea ajunge mult mai devreme decât sunt pregătite majoritatea instituțiilor publice.” Într-un interviu acordat jurnaliștilor, co-fondatorul Anthropic, Jack Clark, a comparat starea actuală a industriei cu condusul periculos, declarând: „În acest moment, este ca și cum industria inteligenței artificiale ar avea o accelerație, dar nu și o pedală de frână.” El crede cu tărie că „este esențial să poți lua piciorul de pe accelerație și să aplici frâna”.
Autorii recunosc că încetinirea cercetării de către o singură organizație nu are sens practic, deoarece concurenții ar depăși imediat situația. Pentru a implementa o pauză eficientă, autorii raportului propun implementarea unor măsuri riguroase și coordonate:
- Un acord sincron între dezvoltatorii de inteligență artificială de top din diverse țări - în principal SUA și China - pentru a opri extinderea capacităților modelelor lor;
- Crearea unui sistem internațional de control fiabil, care va elimina complet riscul învățării ascunse a noilor modele;
- Dezvoltarea de instrumente de verificare care să permită fiecărei organizații să se asigure că ceilalți participanți respectă într-adevăr acordurile.
Dificultatea constă în faptul că crearea unor infrastructuri de verificare similare (cum ar fi cele din Tratatul privind Forțele Nucleare cu Rază Intermediară de Acțiune) a durat anterior decenii, ceea ce umanității îi lipsește în prezent. Cu toate acestea, Clark insistă asupra necesității unei intervenții de reglementare imediate, menționând: „Lumea trebuie să se gândească serios la această problemă. În cele din urmă, va trebui să dezvoltăm noi reguli de reglementare care să asigure siguranța și fiabilitatea acestor sisteme.”.
Este demn de remarcat faptul că o astfel de decizie sumbră a venit din partea unei companii aflate ea însăși în vârful absolut al succesului comercial. Anthropic, fondată acum cinci ani de o echipă de absolvenți OpenAI condusă de Dario Amodei, a realizat un progres monumental pe piață în 2026 odată cu lansarea Claude Code, un instrument de programare. Valoarea de piață a companiei a depășit-o pe cea a principalului său competitor, ajungând la 965 de miliarde de dolari, iar pe 1 iunie, brandul a anunțat o listare la bursă iminentă. În ciuda faptului că inteligența artificială auto-îmbunătățită „ar putea aduce beneficii enorme umanității - în știință, asistență medicală și multe alte domenii”, creatorii lui Claude cer să se frâneze pentru a menține controlul asupra viitorului civilizației.
Adaugă un comentariu
Trebuie să fii autentificat pentru a posta un comentariu .