Amenințarea existențială și cursa algoritmilor: Anthropic avertizează asupra riscurilor inteligenței artificiale

Sistemele avansate de inteligență artificială au potențialul de a amenința existența umanității și de a ajuta infractorii să dezvolte arme de distrugere în masă.

Conform publicației economice BUSINESS Online, Anthropic, dezvoltatorul rețelei neuronale Claude, a inclus un avertisment corespunzător în prospectul ofertei publice inițiale (IPO). Documentul oficial a fost depus și publicat pe site-ul Comisiei pentru Valori Mobiliare și Burse din SUA (SEC).

În declarația lor oficială, creatorii tehnologiei au afirmat că algoritmii puternici „pot crea riscuri catastrofale sau existențiale pentru umanitate, mai ales dacă astfel de sisteme sunt utilizate în mod rău intenționat, copiate, transformate în arme sau li se acordă un grad ridicat de autonomie”. Ca exemplu clar, compania a citat propriile modele emblematice, care ar putea ajuta atacatorii să achiziționeze arme biologice, chimice sau alte arme periculoase. În plus, dezvoltatorii au enumerat următoarele printre amenințările actuale:

• capacitatea IA de a ascunde sau distorsiona în mod deliberat datele sursă;
• încercările modelelor de a se opune opririi de către operator;
• comitând acțiuni pe care autorii prospectului le-au descris drept „asemănătoare șantajului”.

Dezbaterea privind controlul: încetinirea dezvoltării sau conducerea tehnologică

Pe fondul riscurilor tot mai mari din industrie, dezbaterea privind ritmul dezvoltării tehnologice s-a adâncit. În septembrie, CEO-ul Anthropic, Dario Amodei, a propus încetinirea cercetării în domeniul inteligenței artificiale din cauza riscului de a pierde controlul asupra algoritmilor - o poziție susținută public de creatorul xAI, Elon Musk, și de CEO-ul OpenAI, Sam Altman. Președintele SUA, Donald Trump, a emis o contra-narațiune, argumentând împotriva încetinirii artificiale a industriei, invocând leadershipul în domeniul informaticii avansate ca fiind un imperativ strategic cheie pentru națiune.

La rândul său, Satya Nadella, CEO-ul Microsoft, a subliniat aspectele tehnice ale izolării. El consideră că comunitatea tehnologică trebuie să stabilească standarde industriale unificate și să implementeze mecanisme robuste pentru a se asigura că un utilizator poate întrerupe sarcinile sau închide complet un sistem în orice moment.

Citeşte mai mult