Экзистенциалды қауіп және алгоритм жарысы: антропология жасанды интеллекттің қауіптері туралы ескертеді

Жасанды интеллекттің озық жүйелері адамзаттың өміріне қауіп төндіріп, қылмыскерлерге жаппай қырып-жою қаруын жасауға көмектесу мүмкіндігіне ие.

BUSINESS Online іскерлік басылымының мәліметі бойынша , Claude нейрондық желісін әзірлеуші ​​Anthropic компаниясы өзінің бастапқы көпшілікке ұсыну (IPO) проспектісіне тиісті ескерту енгізді. Ресми құжат АҚШ Бағалы қағаздар және биржа комиссиясының (SEC) веб-сайтында тіркеліп, жарияланды.

Ресми мәлімдемесінде технологияны жасаушылар қуатты алгоритмдер «адамзат үшін апатты немесе экзистенциалды қауіптер тудыруы мүмкін, әсіресе мұндай жүйелер зиянды мақсатта пайдаланылса, көшірілсе, қаруландырылса немесе жоғары дәрежелі автономия берілсе» деп мәлімдеді. Нақты мысал ретінде компания шабуылдаушыларға биологиялық, химиялық немесе басқа да қауіпті қаруларды алуға көмектесетін өзінің флагмандық модельдерін келтірді. Сонымен қатар, әзірлеушілер ағымдағы қауіптердің қатарына мыналарды жатқызды:

• жасанды интеллекттің бастапқы деректерді әдейі жасыру немесе бұрмалау мүмкіндігі;
• модельдердің оператордың өшіруіне қарсы тұру әрекеттері;
• проспектінің авторлары «шантажға ұқсайтын» деп сипаттаған әрекеттерді жасау.

Бақылау туралы пікірталас: дамудың баяулауы немесе технологиялық көшбасшылық

Саладағы тәуекелдердің артуы аясында технологиялық даму қарқыны туралы пікірталас күшейе түсті. Қыркүйек айында Anthropic компаниясының бас директоры Дарио Амодей алгоритмдерді бақылауды жоғалту қаупіне байланысты жасанды интеллект зерттеулерін баяулатуды ұсынды — бұл ұстанымды xAI жасаушысы Илон Маск пен OpenAI компаниясының бас директоры Сэм Альтман ашық қолдады. АҚШ президенті Дональд Трамп қарсы пікір білдіріп, саланы жасанды түрде баяулатуға қарсы шығып, озық есептеулердегі көшбасшылықты ұлт үшін маңызды стратегиялық талап ретінде атап өтті.

Microsoft компаниясының бас директоры Сатья Наделла өз кезегінде шектеудің техникалық аспектілеріне баса назар аударды. Ол технологиялық қауымдастық бірыңғай салалық стандарттарды белгілеп, пайдаланушының кез келген уақытта тапсырмаларды тоқтата алатынына немесе жүйені толығымен өшіре алатынына көз жеткізу үшін сенімді тетіктерді енгізуі керек деп санайды.

Толығырақ оқу