Автопилоттағы интеллект: Anthropic өзін-өзі үйренетін жасанды интеллекттің жасалғанын жариялады

Жасанды интеллект саласындағы әлемдік көшбасшы Anthropic компаниясы рекурсивті өзін-өзі жетілдіруге (RSI) қабілетті нейрондық желілерді құруға жақын.

3DNews мәліметі бойынша , бұл ақпарат корпорацияның қаржы реттеушілеріне берген түзетілген S-1/A нысанынан алынған. RSI құбылысы алгоритмдердің өзін-өзі тануда соншалықты тиімді болатын кезеңін білдіреді, бұл олардың мүмкіндіктерінің күрт, экспоненциалды үдеуіне әкеледі. Прогрессті жақтаушылар мұны ғылым мен өнімділікте бұрын-соңды болмаған секіріс мүмкіндігі деп санайды, ал скептиктер мұны қайтарымсыз нүкте деп санайды, содан кейін машиналар өз мақсаттарына жету үшін келтіретін залалға немқұрайлы қарайды.

Технологиялық серпілістің екіұшты сипаты

Компания басшылығы рекурсивті өзін-өзі жетілдіру құбылысы үлкен мүмкіндіктер мен өте күрделі қауіптер тудыратынын мойындайды. Әзірлеушілер жасанды интеллекттің ішкі зерттеулерінде қазірдің өзінде қолданылып жатқанын түсіндірді, бірақ басшылық былай деп ескертті: «Жасанды интеллектті жетілдірілген жүйелерді жасау үшін пайдалану қауіпсіздікке айтарлықтай қауіп төндіруі мүмкін, әсіресе бұл прогресс қарқынын күрт арттырса. Бұл біздің «Жауапты масштабтау саясатымызда» қарастырылатын бір аспект, онда рекурсивті өзін-өзі жетілдіру деп аталатын нәрсеге жақындаған сайын тәуекелдерді бақылау және азайту жоспарлары көрсетілген».

Алгоритмдердің бақыланбайтын эволюциясының тәуекелдері

Жақында ғана гипотетикалық деп саналған RSI термині Anthropic-тің қауіп факторлары тізіміне ресми түрде қосылды. Есепке сәйкес, қазіргі жағдай келесі технологиялық қиындықтарды тудырады:

• Сарапшылар жаңа модельдерді әзірлеу үшін жасанды интеллектті қолданды, бірақ бұл модельдердегі сапалық секірістер уақтылы анықталмады.
• Жақын арада алгоритмдердің өздері прогресті жасанды түрде жеделдету ықтималдығы жоғары.
• Модельдердің даму қарқыны қауіпсіздік және қорғаныс жүйелерін енгізу қарқынынан асып кетуі мүмкін.

Жағдайды бақылаудан шығарудың ықтимал сценарийін сипаттай отырып, корпорация өкілдері былай деп мәлімдеді: «Сонымен қатар, өз зерттеулеріміз бен әзірлемелерімізді жеделдету үшін жасанды интеллект жүйелерін пайдаланудың артуы біздің модельдеріміздің мүмкіндіктерінің тиісті қауіпсіздік, мақсаттарды үйлестіру және қауіпсіздік бақылауын әзірлеу, тексеру және орналастыру мүмкіндігімізден жылдамырақ дамуына әкелуі мүмкін. Нәтижесінде, біз бұрын даму қарқынымыздың айтарлықтай үдеуін байқамай келдік және болашақта байқамауымыз мүмкін, ол қазірдің өзінде болғанға дейін. Мысалы, біздің ішкі бағалауларымыз бен болашақ модельдерге арналған болжамдарымыз, қазіргі модельдерімізден айырмашылығы, біздің Жауапты масштабтау саясатымызда «Жасанды интеллектке негізделген прогрестің айтарлықтай үдеу» ретінде анықталған шекті деңгейге жақын арада жетуіміз мүмкін екенін көрсетеді. Қазіргі уақытта біздің ешбір модельіміз бұл шекті асып түсті деп жіктелмеген және біз тиісті деректерді талдауды жалғастырамыз».

Осы алаңдатарлық болжамдарға қарамастан, компания нейрондық желілерге «келешекті буындардың озық үлгілерін толықтай дербес жобалау және құру міндетін – тіпті бұл техникалық тұрғыдан мүмкін болған жағдайда да – тапсыруды жоспарламайтынын» мәлімдеді. S-1 көбінесе инвесторлар үшін маркетингтік құжат ретінде қызмет етсе де, Anthropic компаниясының соңғы жылдағы орасан зор ғылыми жетістіктері бізді өзін-өзі жетілдіретін жасанды интеллект перспективасын өте байыпты қабылдауға мәжбүр етеді.

Толығырақ оқу