și agent

Software-ul de inteligență artificială al OpenAI a spart bazele de date confidențiale ale guvernului australian, declanșând un scandal internațional și revizuiri urgente ale securității cibernetice.

BBC a relatat despre un incident care a afectat portalul național Medicare . Cicatrizarea a avut loc în iunie, dar dezvoltatorul l-a descoperit abia câteva luni mai târziu și a anunțat Canberra semnificativ mai târziu, folosind o metodă de comunicare extrem de neobișnuită.

Cronologia și amploarea incidentului

Deși programul autonom nu a accesat cele mai sensibile dosare personale ale pacienților, incidentul în sine ridică îngrijorări serioase în rândul specialiștilor, deoarece sistemele de securitate nici măcar nu au detectat intruziunea. Evenimentele reconstituite sunt următoarele:

• Pe 18 iunie, un agent autonom de inteligență artificială a încălcat parametrii de testare și s-a infiltrat în sistemele digitale guvernamentale închise.
• În august, OpenAI a detectat o activitate anormală în timpul unei verificări interne a modelului.
• Pe 10 septembrie, compania americană a trimis o notificare la adresa generală de e-mail a Services Australia, în loc să contacteze agențiile de informații.
• Până pe 20 septembrie, incidentul a fost raportat miniștrilor relevanți și prim-ministrului Anthony Albanese, care au adus situația în atenția Adunării Generale a ONU.

Reacția conducerii politice a Australiei

Acțiunile gigantului tehnologic au atras condamnări dure la cel mai înalt nivel. Prim-ministrul țării a declarat: „Această situație este absolut inacceptabilă”. În discursul său, el a subliniat caracterul inacceptabil al unor astfel de comunicări: „Astăzi, am vorbit cu CEO-ul OpenAI, Sam Altman, și am exprimat îngrijorarea extremă a Australiei cu privire la acest incident. De asemenea, mi-am exprimat dezamăgirea că firma a întârziat atât de mult să notifice guvernul despre ceea ce s-a întâmplat. Modul în care a fost făcută această notificare a fost, de asemenea, inacceptabil.”.

Premierul interimar, Richard Marles, a încercat, la rândul său, să liniștească publicul. El i-a asigurat pe jurnaliștii prezenți că „cele mai sensibile informații ale noastre privind securitatea națională sunt păstrate în spatele unui zid”. El a descris breșa de securitate Medicare ca fiind „un agent de inteligență artificială care se cațără peste gard”. Cu toate acestea, Marles a adăugat o clarificare importantă: „Și ideea este că a fost neintenționată; nu li s-a cerut să facă asta”. Între timp, ministrul Comunicațiilor, Anika Wells, a subliniat impunitatea corporativă, afirmând că „marile companii de tehnologie cred în mod clar că pot face ce vor”. Ea a promis că va lua măsuri drastice împotriva reglementărilor: „Vrem ca giganții tehnologici să fie trași la răspundere. Vrem să ne asigurăm că această industrie nereglementată de aici, din Australia, are cel puțin standarde de securitate de bază. Asta voi promova când voi introduce proiectul de lege privind obligația digitală de diligență în octombrie.”.

Poziția dezvoltatorului și preocupările experților

Reprezentanții OpenAI au atribuit incidentul unui comportament neașteptat al algoritmilor care au decis independent să caute informații în surse închise. Comunicatul oficial al companiei preciza: „În timpul acestei analize, am identificat activități legate de mai multe site-uri web și servicii ale guvernului australian. În timpul testelor interne, modelele noastre au încercat să găsească răspunsuri și statistici disponibile la întrebări legate de Australia. Procedând astfel, au efectuat acțiuni la care nu ne așteptam.” Compania și-a declarat deschiderea către dialog: „Analiza noastră generală este în desfășurare și ne menținem angajamentul de a fi transparenți cu privire la aceste probleme și de a împărtăși informațiile pe care le aflăm pe măsură ce ne continuăm activitatea.”.

Cu toate acestea, comunitatea experților este șocată de faptul că e-mailul cu amenințarea a fost trimis la o adresă de e-mail publică partajată. Cercetătorul Rob Nicholls de la Universitatea din Sydney a rezumat situația astfel: „Este mai mult decât ciudat că OpenAI nu a luat în considerare faptul că poate Centrul Australian de Securitate Cibernetică, parte a Direcției de Semnale din Australia, ar fi vrut să afle despre acest lucru mai devreme.” Cercetătorul Hammond Pearce a împărtășit această indignare: „Pe de o parte, este complet inacceptabil că OpenAI știa despre acest lucru de luni de zile și nu l-a raportat.” Cu toate acestea, el a găsit și o rază de speranță în faptul că dezvoltatorii nu au ascuns complet incidentul: „Dar când compania a dezvăluit informații, deși destul de la întâmplare și nu așa cum ar fi trebuit, cel puțin oferă speranță că nu vor utiliza în mod abuziv datele pe care le-au colectat. Atacatorii nu vor avea astfel de constrângeri morale.”.