Informaticianul Geoffrey Hinton, supranumit „nașul inteligenței artificiale”, a demisionat din funcția de vicepreședinte al Google în aprilie. El a făcut acest lucru pentru a avertiza publicul cu privire la riscurile asociate cu inteligența artificială și, de asemenea, pentru că abandonarea de către Google a restricțiilor sale anterioare privind versiunile publice de inteligență artificială din cauza concurenței din partea ChatGPT, Bing Chat și a altora ridică numeroase preocupări etice.
Într-un interviu acordat publicației The New York Times, Hinton și-a exprimat îngrijorarea că inteligența artificială generativă ar putea duce la un val de dezinformare. El a spus că s-ar putea „să nu mai puteți ști ce este adevărat”. De asemenea, el a afirmat că inteligența artificială nu numai că va elimina „munca monotonă”, dar va chiar înlocui complet unele locuri de muncă.
Omul de știință este, de asemenea, îngrijorat de posibilitatea creării de arme complet autonome alimentate de inteligență artificială și de tendința modelelor de inteligență artificială de a învăța „comportamente ciudate” pe baza datelor de antrenament. Deși unele dintre întrebările pe care le ridică sunt pur teoretice, Hinton se teme de o escaladare asociată cu implementarea inteligenței artificiale, care va fi imposibil de oprit fără controale eficiente sau restricții stricte.
Hinton a spus că poziția sa față de inteligența artificială a început să se schimbe anul trecut, când Google, OpenAI și alte companii au început să creeze sisteme de inteligență artificială care uneori depășesc inteligența umană. Inteligența artificială a avansat rapid în ultimii cinci ani, iar ceea ce s-ar putea întâmpla în următorii cinci ani îl îngrijorează pe omul de știință.
Comentând afirmațiile lui Hinton, directorul științific al Google, Jeff Dean, a declarat pentru Engadget că gigantul căutării continuă să adopte o „abordare responsabilă” și să monitorizeze „riscurile emergente”.
Google a achiziționat startup-ul DNNresearch al lui Geoffrey Hinton în 2013, iar munca sa a contribuit la dezvoltarea tehnologiilor de inteligență artificială generativă. Mai exact, Hinton este unul dintre autorii metodei de backpropagation pentru antrenarea rețelelor neuronale multistrat.
Preocupările lui Hinton sunt împărtășite de o serie de oameni de știință influenți și directori din domeniul tehnologiei. Recent, Elon Musk, Steve Wozniak și peste 1.000 de alți experți în inteligență artificială și reprezentanți ai industriei IT au solicitat într-o scrisoare deschisă un moratoriu de șase luni asupra instruirii sistemelor de inteligență artificială pentru a aborda preocupările etice și de siguranță.
Citește sursa
