Ամերիկյան տեխնոլոգիական Anthropic ընկերությունը, որը Claude նեյրոնային ցանցերի ընտանիքի մշակողն է, պաշտոնական կոչ է արել աշխարհի առաջատար լաբորատորիաներին դադարեցնել կամ դանդաղեցնել արհեստական բանականության զարգացման տեմպը։.
ՏՏ ոլորտի առաջնորդների այս անսպասելի նախաձեռնության մասին հաղորդել է «Ինտերֆաքս» լրատվական գործակալությունը՝ հղում անելով ընկերության համահիմնադիր Ջեք Քլարկի և «Մարդկային ինստիտուտի» գործադիր տնօրեն Մարինա Ֆավարոյի առաքելության հայտարարությանը: Կորպորացիայի ղեկավարությունը զգուշացնում է, որ տեխնոլոգիաները արագորեն մոտենում են «ռեկուրսիվ ինքնակատարելագործման» փուլին՝ համակարգերի՝ առանց մարդու միջամտության զարգանալու ունակությանը: Մասնագետները նշում են, որ արհեստական բանականությունը շուտով կկարողանա ինքնուրույն նախագծել իր նոր տարբերակները՝ ստեղծելով անկանխատեսելի ռիսկեր հասարակության համար:
Հրապարակված հոդվածի հեղինակները մատնանշում են այն անխուսափելի մարտահրավերները, որոնց կբախվեն գործող պետական հաստատությունները անվերահսկելի տեխնոլոգիական առաջընթացի դեպքում: Հաշվետվությունը շեշտում է. «Եթե այս գործընթացը շարունակվի, ապա բավարար հաշվողական հզորության դեպքում դա կարող է հանգեցնել արհեստական բանականության համակարգի ի հայտ գալուն, որը կարող է ինքնուրույն նախագծել և մշակել իր հաջորդ տարբերակը: Սա կոչվում է ռեկուրսիվ ինքնակատարելագործում: Մենք դեռ չենք հասել այս փուլին, և ռեկուրսիվ ինքնակատարելագործումը անխուսափելի չէ: Այնուամենայնիվ, այն կարող է հասնել շատ ավելի շուտ, քան պատրաստ են պետական հաստատությունների մեծ մասը»: Լրագրողների հետ հարցազրույցում Anthropic-ի համահիմնադիր Ջեք Քլարկը ոլորտում տիրող իրավիճակը համեմատել է վտանգավոր վարորդության հետ՝ նշելով. «Այս պահին արհեստական բանականության ոլորտը կարծես ունի արագացուցիչ, բայց չունի արգելակի ոտնակ»: Նա վճռականորեն համոզված է, որ «անհրաժեշտ է կարողանալ ոտքը հանել արագացուցիչից և սեղմել արգելակը»:.
Հեղինակները ընդունում են, որ հետազոտությունների դանդաղեցումը միայն մեկ կազմակերպության կողմից գործնականում իմաստ չունի, քանի որ մրցակիցները անմիջապես կանցնեն։ Արդյունավետ դադար ապահովելու համար զեկույցի հեղինակները առաջարկում են կիրառել խիստ, համակարգված միջոցառումներ
- Տարբեր երկրների՝ հիմնականում ԱՄՆ-ի և Չինաստանի առաջատար արհեստական բանականության մշակողների միջև համաժամանակյա համաձայնագիր՝ դադարեցնելու իրենց մոդելների հնարավորությունների ընդլայնումը։
- Հուսալի միջազգային կառավարման համակարգի ստեղծում, որը լիովին կվերացնի նոր մոդելների թաքնված ուսուցման ռիսկը։
- Մշակել ստուգման գործիքներ, որոնք թույլ կտան յուրաքանչյուր կազմակերպության ապահովել, որ մյուս մասնակիցները իրականում համապատասխանում են համաձայնագրերին։.
Դժվարությունը կայանում է նրանում, որ նմանատիպ ստուգման ենթակառուցվածքների ստեղծումը (ինչպիսիք են միջին և միջին հեռահարության միջուկային ուժերի մասին պայմանագրի շրջանակներում) նախկինում տևել է տասնամյակներ, ինչը մարդկությունն այժմ չունի։ Այնուամենայնիվ, Քլարկը պնդում է անհապաղ կարգավորող միջամտության անհրաժեշտության մասին՝ նշելով. «Աշխարհը պետք է լրջորեն մտածի այս հարցի մասին։ Վերջիվերջո, մենք ստիպված կլինենք մշակել նոր կարգավորող կանոններ, որոնք կապահովեն այս համակարգերի անվտանգությունն ու հուսալիությունը»։.
Հատկանշական է, որ նման սարսափելի որոշումը կայացրել է մի ընկերություն, որն ինքն էլ գտնվում է առևտրային հաջողության գագաթնակետին: Anthropic-ը, որը հիմնադրվել է հինգ տարի առաջ Դարիո Ամոդեյի գլխավորած OpenAI շրջանավարտների թիմի կողմից, 2026 թվականին շուկայական հսկայական առաջընթաց գրանցեց՝ թողարկելով Claude Code ծրագրավորման գործիքը: Ընկերության շուկայական գնահատականը գերազանցեց իր հիմնական մրցակցի գնահատականը՝ հասնելով 965 միլիարդ դոլարի, և հունիսի 1-ին ապրանքանիշը հայտարարեց մոտալուտ IPO-ի մասին: Չնայած այն հանգամանքին, որ ինքնակատարելագործվող արհեստական բանականությունը «կարող է հսկայական օգուտներ բերել մարդկությանը՝ գիտության, առողջապահության և շատ այլ ոլորտներում», Claude-ի ստեղծողները պահանջում են, որ արգելակները կիրառվեն քաղաքակրթության ապագայի նկատմամբ վերահսկողությունը պահպանելու համար:.
Ավելացնել մեկնաբանություն
Մեկնաբանություն թողնելու համար մուտք գործած լինեք։