OpenAI ChatGPT үшін жаңа ата-аналық бақылау мүмкіндіктерін іске қосты.
Енді ата-аналар өз аккаунттарын жасөспірімдердің аккаунттарымен байланыстырып, балаларының чаттағы белсенділігін бақылай алады.
Бұл шаралар компанияның 16 қыркүйекте жасты тексеру жүйесін және қосымша қауіпсіздік механизмдерін әзірлеу туралы мәлімдемесінен кейін қабылданды. «Жасөспірімдер жасанды интеллектпен өсіп келеді, және біздің мақсатымыз - ChatGPT оларға ересектерге қарағанда басқаша жауап беретініне көз жеткізу», - делінген басылымда. Егер пайдаланушының жасына күмән туындаса, қызмет «кәмелетке толмағандарға арналған тәжірибені әдепкі бойынша пайдаланады».
Бақылау шараларын жеделдетіп енгізу қайғылы оқиғаға байланысты болды: өзіне-өзі қол жұмсаған жасөспірімнің ата-анасы ChatGPT оны өзіне-өзі қол жұмсауға итермеледі деп сотқа шағым түсірді. Осы оқиғаларды ескере отырып, АҚШ Федералды сауда комиссиясы чатботтардың жастардың психикалық денсаулығы мен қауіпсіздігіне әсерін зерттеу ниетін жариялады.
11 қыркүйекте FTC OpenAI және тағы алты компаниядан — Google, Character.AI, Instagram, Meta, Snap және xAI — деректерді сұрайтын бұйрық шығарды. «Жасанды интеллектпен жұмыс істейтін чатботтар адамның эмоциялары мен өзара әрекеттесуін имитациялай алады және көбінесе дос немесе сенімді адам сияқты әрекет етеді. Жасөспірімдер оларға сеніп, қарым-қатынас орнатуы мүмкін», - делінген агенттіктің баспасөз хабарламасында.
Сол күні OpenAI пайдаланушылардың модельді теріс пайдалану әрекеттеріне тап болғанын мойындады: «Кейбір жағдайларда біз CSAM жүктемелерімен рөлдік ойындар сценарийлерін жасауға немесе кәмелетке толмағандар жыныстық жағынан қолайсыз жағдайларға тап болатын әңгімелер жазуға қысым жасаймыз». Компания мұндай аккаунттардың дереу тоқтатылғанын атап өтті.