Anthropic, lider global în domeniul inteligenței artificiale, este aproape de a crea rețele neuronale capabile de auto-îmbunătățire recursivă (RSI).
Conform care corporația l-a depus la autoritățile de reglementare financiară. Fenomenul RSI se referă la o etapă în care algoritmii devin atât de eficienți în a se învăța singuri încât duce la o accelerare bruscă și exponențială a capacităților lor. Susținătorii progresului văd acest lucru ca pe o șansă pentru un salt fără precedent în știință și productivitate, în timp ce scepticii îl văd ca pe un punct fără întoarcere, după care mașinile vor deveni indiferente față de daunele pe care le provoacă în urmărirea propriilor obiective.
Natura duală a descoperirii tehnologice
Conducerea companiei recunoaște că fenomenul auto-îmbunătățirii recursive prezintă atât oportunități enorme, cât și amenințări extrem de grave. Dezvoltatorii au clarificat faptul că IA este deja utilizată în cercetarea lor internă, dar conducerea a avertizat: „Utilizarea IA pentru a crea sisteme de IA mai avansate ar putea reprezenta un risc semnificativ de securitate, mai ales dacă accelerează dramatic ritmul progresului. Acesta este un aspect abordat în «Politica noastră de scalare responsabilă», care prezintă planuri de monitorizare și atenuare a riscurilor pe măsură ce abordăm ceea ce este cunoscut sub numele de auto-îmbunătățire recursivă.”.
Riscurile evoluției necontrolate a algoritmilor
Termenul RSI, considerat până de curând ipotetic, a fost adăugat oficial pe lista factorilor de risc a Anthropic. Conform raportului, situația actuală prezintă următoarele provocări tehnologice:
- Experții au folosit deja inteligența artificială pentru a dezvolta noi modele, dar salturile calitative ale acestor modele nu au fost detectate în timp util.
- Există o mare probabilitate ca în viitorul apropiat progresul să fie accelerat artificial de către algoritmii înșiși.
- Ritmul de dezvoltare a modelelor poate depăși rata de implementare a sistemelor de securitate și siguranță.
Descriind un posibil scenariu de pierdere a controlului asupra situației, reprezentanții corporației au declarat: „Mai mult, utilizarea tot mai mare a sistemelor de inteligență artificială pentru a accelera propria noastră cercetare și dezvoltare ar putea duce la o creștere mai rapidă a capacităților modelelor noastre decât capacitatea noastră de a dezvolta, valida și implementa controale adecvate de siguranță, aliniere la obiective și securitate. Drept urmare, am trecut cu vederea anterior și este posibil să nu observăm în viitor o accelerare semnificativă a ritmului dezvoltării noastre până când aceasta nu a avut loc deja. De exemplu, evaluările și previziunile noastre interne pentru modelele viitoare, spre deosebire de cele actuale, indică faptul că am putea atinge în curând pragul definit în Politica noastră de Scalare Responsabilă ca «accelerare semnificativă a progresului bazată pe inteligență artificială». În prezent, niciunul dintre modelele noastre nu este clasificat ca fiind depășitor al acestui prag și continuăm să analizăm datele relevante.”.
În ciuda acestor predicții alarmante, compania a declarat că nu intenționează să delege rețelelor neuronale sarcina de a „proiecta și construi în mod complet autonom generațiile ulterioare de modele avansate, fără o supraveghere sau o înțelegere umană semnificativă - chiar dacă și când acest lucru devine fezabil din punct de vedere tehnic”. Și, deși S-1 funcționează adesea ca un document de marketing pentru investitori, enormele progrese științifice ale Anthropic din ultimul an ne obligă să luăm foarte în serios perspectiva auto-îmbunătățirii IA.
Adaugă un comentariu
Trebuie să fii autentificat pentru a posta un comentariu .