Claude тұқымдас нейрондық желілерін әзірлеуші америкалық Anthropic технологиялық компаниясы әлемдегі жетекші зертханаларға жасанды интеллекттің даму қарқынын тоқтатуға немесе баяулатуға ресми түрде үндеу тастады.
IT саласының көшбасшыларының бұл күтпеген бастамасы туралы хабарлады . Корпорация басшылығы технологиялардың «рекурсивті өзін-өзі жетілдіру» кезеңіне, яғни жүйелердің адамның араласуынсыз эволюциялану қабілетіне тез жақындап келе жатқанын ескертеді. Сарапшылар жасанды интеллект жақын арада өзінің жаңа нұсқаларын дербес түрде жобалай алатынын, бұл қоғам үшін болжанбайтын қауіптер тудыратынын атап өтеді.
Жарияланған мақаланың авторлары бақылаусыз технологиялық даму жағдайында қолданыстағы мемлекеттік мекемелер кездесетін сөзсіз қиындықтарға назар аударады. Есепте былай деп атап өтіледі: «Егер бұл процесс жалғаса берсе, онда жеткілікті есептеу қуаты болған жағдайда, бұл келесі нұсқасын өздігінен жобалауға және әзірлеуге қабілетті жасанды интеллект жүйесінің пайда болуына әкелуі мүмкін. Бұл рекурсивті өзін-өзі жетілдіру деп аталады. Біз әлі бұл кезеңге жеткен жоқпыз, ал рекурсивті өзін-өзі жетілдіру сөзсіз емес. Дегенмен, ол көптеген мемлекеттік мекемелер дайын болғаннан әлдеқайда ертерек пайда болуы мүмкін». Журналистерге берген сұхбатында Anthropic компаниясының негізін қалаушы Джек Кларк саланың қазіргі жағдайын қауіпті жүргізумен салыстырып, былай деді: «Қазіргі уақытта жасанды интеллект саласында газ педалі бар, бірақ тежегіш педалі жоқ сияқты». Ол «газ педалінен аяғыңызды алып, тежегішті басудың маңыздылығына» сенімді.
Авторлар бір ғана ұйымның зерттеулерді баяулатуының ешқандай практикалық мағынасы жоқ екенін мойындайды, себебі бәсекелестер бірден секіріп кетеді. Тиімді үзіліс жасау үшін есеп авторлары қатаң, үйлестірілген шараларды енгізуді ұсынады:
- Әртүрлі елдердегі, ең алдымен АҚШ пен Қытайдағы жетекші жасанды интеллект әзірлеушілерінің өз модельдерінің мүмкіндіктерін кеңейтуді тоқтату туралы синхронды келісімі;
- Жаңа модельдерді жасырын үйрену қаупін толығымен жоятын сенімді халықаралық бақылау жүйесін құру;
- Әрбір ұйымға басқа қатысушылардың келісімдерді іс жүзінде орындап жатқанына көз жеткізуге мүмкіндік беретін тексеру құралдарын әзірлеу.
Қиындық мынада: ұқсас тексеру инфрақұрылымдарын (мысалы, Орта қашықтықтағы ядролық күштер туралы шарттағыдай) құру бұрын ондаған жылдарға созылған, ал қазіргі уақытта адамзатта мұндай мүмкіндік жоқ. Соған қарамастан, Кларк дереу реттеуші араласу қажеттілігін талап етіп, «Әлем бұл мәселе туралы байыпты ойлануы керек. Сайып келгенде, біз бұл жүйелердің қауіпсіздігі мен сенімділігін қамтамасыз ететін жаңа реттеуші ережелерді әзірлеуге мәжбүр боламыз» деп атап өтті.
Мұндай қиын шешімнің өзі коммерциялық табыстың шыңында тұрған компаниядан келгені атап өтілген. Бес жыл бұрын Дарио Амодей бастаған OpenAI түлектерінің командасы құрған Anthropic компаниясы 2026 жылы бағдарламалау құралы Claude Code шығарылымымен нарықта үлкен жетістікке жетті. Компанияның нарықтық бағасы негізгі бәсекелесінің бағасынан асып түсіп, 965 миллиард долларға жетті, ал 1 маусымда бренд жақын арада IPO жариялайтынын жариялады. Өзін-өзі жетілдіретін жасанды интеллект «адамзатқа – ғылымда, денсаулық сақтауда және басқа да көптеген салаларда үлкен пайда әкелуі мүмкін» дегенге қарамастан, Claude компаниясының жасаушылары өркениеттің болашағын бақылауда ұстау үшін тежегіштерді қолдануды талап етеді.
Пікір қосу
Пікір қалдыру үшін жүйеге кіруіңіз.