тәуекелдер

OpenAI оқыту жетекшісін іздеу туралы жариялаған кезде жаңа бос орын жариялады. Компания өз модельдерінің тәуекелдерін және олардың ықтимал теріс пайдалану сценарийлерін болжау мүмкіндігін күшейтуді көздейді. Бұл шешім ChatGPT-ке қарсы шағымдар, соның ішінде адам өліміне қатысты сот істері аясында қабылданды.

Бас директор Сэм Альтман лауазымдық нұсқаулықта «модельдердің психикалық денсаулыққа ықтимал әсері 2025 жылы біз кездесетін қиындықтардың бірі» екенін мойындады. Ол бұл рөлді OpenAI болашағы үшін өте маңызды деп атады.

Қысыммен жұмыс істеу

Хабарландыруға сәйкес, жаңа директор оқыту жүйесінің техникалық стратегиясына жауапты болады. Бұған озық модель мүмкіндіктерін және «ауыр зиян» тәуекелдерін бақылау кіреді. Жалақы жылына 555 000 АҚШ долларын құрайды, сонымен қатар акцияларға опциондар бар.

Альтман бұл «стрессті жұмыс» екенін атап өтіп, үміткердің «мәселенің мәніне бірден үңілуі» керек екенін айтты.

Персоналдың турбуленттілігі

OpenAI қауіпсіздік тобы соңғы екі жылда айтарлықтай өзгерістерге ұшырады. Оқыту бөлімінің бұрынғы басшысы Александр Мадри 2024 жылдың шілдесінде қайта тағайындалды. Сол кезде Альтман Хоакин Киньёнеро Кандела мен Лилиан Венгтің команданы басқаратынын жариялады.

Алайда, бірнеше айдан кейін Венг компаниядан кетті. 2025 жылдың шілдесінде Кинонеро Кандела да оқыту тобынан кетіп, кадрларды іріктеу бөлімінің басшысы қызметіне ауысты. Енді OpenAI тағы да жасанды интеллект тәуекелдерін бақылайтын негізгі тұлғаны іздестіруде.

Жақында берген сұхбатындаСэм Альтман жасанды интеллект тым тез дамып келе жатқанын және әлемді өзгертіп жатқанын айтты. Ол ешбір технологияның мұндай жылдамдықпен енгізілмегенін немесе қоғамға мұндай әсер етпегенін атап өтті.

Жылдам өсу және оның шығындары

Үш жыл ішінде генеративті жасанды интеллект мәтін мен кескіндерді жасауға арналған қарапайым құралдан медицинаны, білім беруді және есептеуді түрлендіре алатын жүйелерге айналды. Альтман бұл өсімнің жоғары құнын атап өтті: үлкен энергия тұтыну, шамадан тыс салқындату және қоршаған ортаға қысым.

Ол ChatGPT-тің тез таралуының кемшіліктерін тізіп, оның қос сипатын атап өтті: технология күрделі ауруларды емдеуге көмектеседі, бірақ сонымен бірге қылмыскерлердің қолындағы қаруға айналуы мүмкін.

Альтманның алаңдаушылығы артып келеді

Альтман: «Мен қазіргі уақытта әлемде болып жатқан өзгерістердің қарқынына алаңдаймын», - деді. Ол жасанды интеллекттің небәрі үш жаста екенін қосып, «Біз оны [ЖИ] әлемге жауапкершілікпен енгізуіміз керек» деп атап өтті. Ол сондай-ақ мұндай қуатты құралды енгізуде қателіктер жіберу мүмкіндігін атап өтті.

ChatGPT әлемдегі ең көп жүктелген қолданбаға айналды, оның орнату саны 1,36 миллиардқа жетті. Сарапшылар алаңдаушылық білдіруде: чатботқа тәуелділік артып келеді, пайдаланушылардың когнитивтік көрсеткіштері төмендеп келеді және жасанды интеллектке байланысты суицидтер туралы хабарламалар көбейіп келеді.