Արհեստական բանականության ոլորտի համաշխարհային առաջատար Anthropic ընկերությունը մոտ է ռեկուրսիվ ինքնակատարելագործման (RSI) ունակ նեյրոնային ցանցերի ստեղծմանը։.
3DNews- ի փոխանցմամբ ՝ այս տեղեկատվությունը վերցված է ֆինանսական կարգավորող մարմիններին կորպորացիայի կողմից ներկայացված S-1/A փոփոխված ձևաթղթից։ RSI երևույթը վերաբերում է այն փուլին, երբ ալգորիթմները այնքան արդյունավետ են դառնում ինքնուրույն սովորելու հարցում, որ դա հանգեցնում է նրանց կարողությունների կտրուկ, էքսպոնենցիալ արագացման։ Առաջընթացի կողմնակիցները սա տեսնում են որպես գիտության և արտադրողականության աննախադեպ թռիչքի հնարավորություն, մինչդեռ սկեպտիկները այն տեսնում են որպես անդարձելի կետ, որից հետո մեքենաները կդառնան անտարբեր իրենց սեփական նպատակներին հասնելու համար պատճառած վնասի նկատմամբ։
Տեխնոլոգիական առաջընթացի երկակի բնույթը
Ընկերության ղեկավարությունը ընդունում է, որ ռեկուրսիվ ինքնակատարելագործման երևույթը ներկայացնում է ինչպես հսկայական հնարավորություններ, այնպես էլ չափազանց լուրջ սպառնալիքներ: Մշակողները պարզաբանեցին, որ արհեստական բանականությունն արդեն օգտագործվում է իրենց ներքին հետազոտություններում, սակայն ղեկավարությունը զգուշացրեց. «Ավելի առաջադեմ արհեստական բանական համակարգեր ստեղծելու համար արհեստական բանականության օգտագործումը կարող է զգալի անվտանգության ռիսկ ներկայացնել, հատկապես, եթե այն զգալիորեն արագացնի առաջընթացի տեմպը: Սա մեր «Պատասխանատու մասշտաբավորման քաղաքականության» մեջ քննարկվող ասպեկտներից մեկն է, որը ուրվագծում է ռիսկերի մոնիթորինգի և մեղմացման ծրագրերը, երբ մենք մոտենում ենք այսպես կոչված ռեկուրսիվ ինքնակատարելագործմանը»:.
Ալգորիթմների անվերահսկելի զարգացման ռիսկերը
Մինչև վերջերս ենթադրական համարվող RSI տերմինը պաշտոնապես ավելացվել է Anthropic-ի ռիսկի գործոնների ցանկին: Հաշվետվության համաձայն՝ ներկայիս իրավիճակը ներկայացնում է հետևյալ տեխնոլոգիական մարտահրավերները
- Մասնագետներն արդեն օգտագործել են արհեստական բանականությունը նոր մոդելներ մշակելու համար, սակայն այդ մոդելներում որակական թռիչքները ժամանակին չեն հայտնաբերվել։.
- Մեծ հավանականություն կա, որ մոտ ապագայում առաջընթացը արհեստականորեն կարագացվի հենց ալգորիթմների կողմից։.
- Մոդելների մշակման տեմպը կարող է գերազանցել անվտանգության և պաշտպանության համակարգերի ներդրման տեմպը։.
Նկարագրելով իրավիճակի նկատմամբ վերահսկողությունը կորցնելու հնարավոր սցենարը՝ կորպորացիայի ներկայացուցիչները նշել են. «Ավելին, մեր սեփական հետազոտություններն ու մշակումները արագացնելու համար արհեստական ինտելեկտի համակարգերի օգտագործման աճը կարող է հանգեցնել մեր մոդելների կարողությունների ավելի արագ զարգացմանը, քան մեր կարողությունները՝ մշակելու, վավերացնելու և տեղակայելու համապատասխան անվտանգության, նպատակների համապատասխանեցման և անվտանգության վերահսկողությունը։ Արդյունքում, մենք նախկինում անտեսել ենք և ապագայում կարող ենք չնկատել մեր զարգացման տեմպի զգալի արագացումը, մինչև այն արդեն տեղի չունենա։ Օրինակ, ապագա մոդելների մեր ներքին գնահատականներն ու կանխատեսումները, ի տարբերություն մեր ներկայիսների, ցույց են տալիս, որ մենք շուտով կարող ենք հասնել մեր պատասխանատու մասշտաբավորման քաղաքականության մեջ սահմանված շեմին, որպես «արհեստական ինտելեկտի կողմից պայմանավորված առաջընթացի զգալի արագացում»։ Ներկայումս մեր մոդելներից ոչ մեկը չի դասակարգվում որպես այս շեմը հատած, և մենք շարունակում ենք վերլուծել համապատասխան տվյալները»։.
Այս մտահոգիչ կանխատեսումներին չնայած, ընկերությունը հայտարարեց, որ չի մտադիրվում նեյրոնային ցանցերին հանձնարարել «լիովին ինքնուրույն նախագծել և կառուցել առաջադեմ մոդելների հաջորդ սերունդները՝ առանց իմաստալից մարդկային հսկողության կամ հասկացողության, նույնիսկ եթե և երբ դա տեխնիկապես հնարավոր դառնա»։ Եվ չնայած S-1-ը հաճախ ծառայում է որպես մարքեթինգային փաստաթուղթ ներդրողների համար, Anthropic-ի վերջին տարվա ընթացքում ձեռք բերված հսկայական գիտական առաջընթացը մեզ ստիպում է շատ լուրջ վերաբերվել ինքնակատարելագործվող արհեստական բանականության հեռանկարին։.
Ավելացնել մեկնաբանություն
Մեկնաբանություն թողնելու համար մուտք գործած լինեք։