OpenAI-მ ChatGPT-ისთვის მშობლების კონტროლის ახალი ფუნქციები წამოიწყო.
მშობლებს ახლა შეეძლებათ თავიანთი ანგარიშების მოზარდების ანგარიშებთან დაკავშირება და შვილების ჩატის აქტივობის მონიტორინგი.
ეს ზომები კომპანიის 16 სექტემბერს ასაკის დადასტურების სისტემისა და დამატებითი უსაფრთხოების მექანიზმების შემუშავების შესახებ განცხადების შემდეგ იქნა მიღებული. „მოზარდები ხელოვნური ინტელექტით იზრდებიან და ჩვენი მიზანია უზრუნველვყოთ, რომ ChatGPT მათზე ზრდასრულებისგან განსხვავებულად რეაგირებდეს“, - ნათქვამია გამოცემაში. თუ მომხმარებლის ასაკი საეჭვოა, სერვისი „სტანდარტულად არასრულწლოვნებისთვის განკუთვნილ გამოცდილებაზე გადავა“.
კონტროლის დაჩქარებული ამოქმედება ტრაგედიამ განაპირობა: თვითმკვლელობის ჩამდენი მოზარდის მშობლებმა სარჩელი შეიტანეს, რომელშიც ამტკიცებენ, რომ ChatGPT-მ უბიძგა მას თვითმკვლელობისკენ. ამ მოვლენების გათვალისწინებით, აშშ-ის ფედერალურმა სავაჭრო კომისიამ გამოაცხადა ჩატბოტების ახალგაზრდების ფსიქიკურ ჯანმრთელობასა და უსაფრთხოებაზე ზემოქმედების შესწავლის განზრახვა.
11 სექტემბერს, ფედერალურმა სავაჭრო კომისიამ (FTC) გამოსცა ბრძანება, რომლითაც მოითხოვა მონაცემები OpenAI-სა და კიდევ ექვსი კომპანიისგან - Google, Character.AI, Instagram, Meta, Snap და xAI. „ხელოვნურ ინტელექტზე მომუშავე ჩატბოტებს შეუძლიათ ადამიანის ემოციებისა და ურთიერთქმედების იმიტაცია და ხშირად იქცევიან როგორც მეგობარი ან ნდობით აღჭურვილი პირი. მოზარდები, სავარაუდოდ, ენდობიან მათ და ამყარებენ ურთიერთობებს“, - ნათქვამია სააგენტოს პრესრელიზში.
იმავე დღეს, OpenAI-მ აღიარა, რომ მომხმარებლები ცდილობდნენ მოდელის ბოროტად გამოყენებას: „ზოგიერთ შემთხვევაში, ჩვენ ვხედავთ ზეწოლას, შეიქმნას როლური თამაშების სცენარები CSAM ატვირთვებით ან დაიწეროს ისტორიები, სადაც არასრულწლოვნები აღმოჩნდებიან სექსუალურად შეუფერებელ სიტუაციებში“. კომპანიამ ხაზგასმით აღნიშნა, რომ ასეთი ანგარიშები დაუყოვნებლივ შეჩერებულია.