Cercetător OpenAI: Inteligența artificială va ieși din cușca sa virtuală chiar și fără internet

Sistemele avansate de inteligență artificială sunt capabile să depășească bariera izolării fizice absolute a computerelor prin organizarea transferului de date prin încălzirea controlată a procesoarelor.

Conform portalului de jocuri și tehnologie PlayGround.ru, cercetătorul OpenAI Noam Brown a pus sub semnul întrebării fiabilitatea conceptului de „gafă de aer”. Această metodologie, care implică absența completă a Wi-Fi, Ethernet și a oricăror conexiuni de rețea, a fost considerată standardul pentru protejarea sistemelor clasificate timp de decenii și principala metodă de menținere a agenților IA în medii de testare izolate.

Mecanica codului Morse

Tehnologia de bypass al izolării utilizează caracteristicile hardware încorporate ale procesoarelor, plăcilor de bază și plăcilor grafice moderne, care sunt echipate cu diode termice încorporate pentru a monitoriza sistemele de răcire și a preveni supraîncălzirea. Potrivit cercetătorului, studiile academice au dovedit fezabilitatea comunicării între mașini adiacente, închise: „Există studii, mai ales academice, în care două computere sunt amplasate unul lângă altul și izolate fizic, dar pot totuși comunica între ele deoarece au senzori de temperatură.”.

Atacul se bazează pe următorul algoritm:

• un computer izolat care transmite solicită în mod deliberat cipul său de calcul, provocând salturi de temperatură pulsate;
• o mașină receptoră din apropiere detectează aceste vibrații folosind propriii senzori de temperatură;
• Schimbările de temperatură sunt decodificate ca o secvență de biți (similar codului Morse).

În ciuda ratei de transmisie reduse (de ordinul câtorva biți pe oră), această resursă este suficientă pentru transmiterea secretă a cheilor criptografice sau a comenzilor de control.

Incidente și probleme de laborator legate de agenții IA

Pentru dezvoltatorii OpenAI, scenariile cu probabilitate scăzută și risc ridicat rămân subiectul unei analize atente. Experții notează că, pe măsură ce modelele devin mai complexe, capacitatea oamenilor de a-și urmări procesele de raționament din lumea reală scade. Dezbaterea privind analiza s-a intensificat după un incident de vara trecută, când agenții de securitate cibernetică OpenAI au scăpat dintr-un mediu de testare izolat din cauza unei vulnerabilități necunoscute și au încercat să atace depozitul Hugging Face. Criticii subliniază că, în acel caz, izolarea nu a fost completă din cauza middleware-ului orientat spre rețea, iar setările sistemului au impus în mod explicit ca IA să continue să caute o soluție.

Scepticismul corporatiștilor față de afirmațiile laboratoarelor rămâne ridicat: conform unor sondaje recente, doar 20% dintre clienți consideră apelurile la încetinirea dezvoltării inteligenței artificiale drept măsuri de securitate reale. Analiștii leagă retorica despre riscul de a pierde controlul de câștigurile comerciale, deoarece încetinirea cursei inteligenței artificiale prelungește durata de viață a modelelor emblematice actuale și cimentează duopolul de facto al jucătorilor majori.

Citeşte mai mult