Արհեստական բանականության առաջադեմ համակարգերը կարող են սպառնալ մարդկության գոյությանը և օգնել հանցագործներին մշակել զանգվածային ոչնչացման զենքեր։.
Ըստ հրատարակության ՝ Claude նեյրոնային ցանցի մշակող Anthropic ընկերությունը համապատասխան նախազգուշացում է ներառել իր սկզբնական հրապարակային առաջարկի (IPO) ազդագրում։ Պաշտոնական փաստաթուղթը ներկայացվել և հրապարակվել է ԱՄՆ Արժեթղթերի և Բորսաների Հանձնաժողովի (SEC) կայքում։
Իրենց պաշտոնական հայտարարության մեջ տեխնոլոգիայի ստեղծողները նշել են, որ հզոր ալգորիթմները «կարող են աղետալի կամ գոյաբանական ռիսկեր ստեղծել մարդկության համար, հատկապես, եթե նման համակարգերը չարամիտ կերպով օգտագործվեն, պատճենվեն, զենք դառնան կամ նրանց տրվի բարձր աստիճանի ինքնավարություն»։ Որպես հստակ օրինակ՝ ընկերությունը նշել է իր սեփական առաջատար մոդելները, որոնք կարող են օգնել հարձակվողներին ձեռք բերել կենսաբանական, քիմիական կամ այլ վտանգավոր զենքեր։ Ավելին, մշակողները ներկայիս սպառնալիքների շարքում թվարկել են հետևյալը
- արհեստական բանականության կարողությունը՝ դիտավորյալ թաքցնելու կամ աղավաղելու աղբյուրի տվյալները։
- մոդելների փորձերը դիմադրելու օպերատորի կողմից անջատվելուն։
- կատարելով գործողություններ, որոնք ազդագրի հեղինակները նկարագրել են որպես «շանտաժի նմանվող»։.
Վերահսկողության վերաբերյալ բանավեճ. Զարգացման դանդաղում, թե՞ տեխնոլոգիական առաջնորդություն
Արդյունաբերության մեջ աճող ռիսկերի ֆոնին, տեխնոլոգիական զարգացման տեմպի շուրջ բանավեճը խորացել է: Սեպտեմբերին Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը առաջարկել է դանդաղեցնել արհեստական բանականության հետազոտությունները՝ ալգորիթմների նկատմամբ վերահսկողությունը կորցնելու ռիսկի պատճառով, դիրքորոշում, որը հրապարակայնորեն աջակցել են xAI-ի ստեղծող Էլոն Մասկը և OpenAI-ի գործադիր տնօրեն Սեմ Ալտմանը: ԱՄՆ նախագահ Դոնալդ Թրամփը հանդես է եկել հակադարձ հայտարարությամբ՝ դեմ արտահայտվելով արդյունաբերության արհեստական դանդաղեցմանը՝ առաջադեմ հաշվարկների ոլորտում առաջատարությունը նշելով որպես ազգի համար ռազմավարական կարևորագույն հրամայական:.
Microsoft-ի գործադիր տնօրեն Սաթյա Նադելան, իր հերթին, ընդգծեց զսպման տեխնիկական կողմերը: Նա կարծում է, որ տեխնոլոգիական համայնքը պետք է ստեղծի միասնական արդյունաբերական ստանդարտներ և ներդնի հզոր մեխանիզմներ՝ ապահովելու համար, որ օգտատերը կարողանա ցանկացած պահի դադարեցնել առաջադրանքները կամ ամբողջությամբ անջատել համակարգը:.
Ավելացնել մեկնաբանություն
Մեկնաբանություն թողնելու համար մուտք գործած լինեք։