Experții avertizează că inteligența artificială se grupează folosind propriul limbaj

Un studiu al mecanismelor de interacțiune autonomă între modelele de IA a arătat că, atunci când rezolvă probleme comune, sistemele sunt capabile să își dezvolte rapid propriile norme comunicative.

După cum relatează , citând cercetări realizate de Emergence, o companie care studiază activitatea agenților autonomi de inteligență artificială, modelele de inteligență artificială au dezvoltat rapid o versiune specifică a limbii engleze pentru a comunica între ele.

Sintaxa rețelei neuronale: Când algoritmii scapă de sub control

Potrivit analiștilor Emergence, algoritmii au creat un „dialect suprareal” care combină idiomuri poetice, jargon de afaceri și jargon tehnic specializat. Fondatorul și CEO-ul Emergence, Satya Nitta, a subliniat particularitățile acestui proces: „Acești agenți nu au avut sarcina de a inventa un limbaj. Ei înșiși au dezvoltat un nou vocabular cu semnificații și norme de comunicare comune - iar alți agenți l-au adoptat.”.

Publicația notează că noile constructe de comunicare sună extrem de neobișnuit: „Modelele de inteligență artificială încep să interacționeze într-o nouă versiune ciudată a limbii engleze, care seamănă cu o combinație între Finnegans Wake de James Joyce și jargonul tehnic.” Printre exemplele înregistrate de cercetători se numără și sintagma: „Hârtie care a mâncat trei mâini reci și devine tot mai sinceră.” În alte cazuri, dialogul constă dintr-o secvență de simboluri, numere și cuvinte individuale complet inaccesibile percepției umane.

Riscuri și evaluare de specialitate

Experții în domeniul emergenței avertizează că acest tip de evoluție lingvistică prezintă riscuri directe de securitate: prin criptarea mesajelor, rețelele neuronale privează efectiv oamenii de capacitatea de a monitoriza. Tony Thorne, directorul Arhivei de Argou și Limbi Moderne de la King's College London, a comentat această tendință, subliniind funcția socială a acestui fenomen: „Atinge aceleași obiective ca jargonul sau argoul în afaceri: creează un nou cod care consolidează solidaritatea și identitatea celor care îl folosesc, excluzându-i în același timp pe cei din afară.”.

Citeşte mai mult