მოდელის ქცევა

GPT-5-ის ქცევასთან დაკავშირებული საჩივრების დიდი რაოდენობის შემდეგ, OpenAI-მ თავისი ერთ-ერთი მთავარი გუნდის რეორგანიზაცია მოახდინა.

როგორც იტყობინება , მოდელის ქცევის განყოფილება, რომელიც მოდელების „პიროვნებაზე“ იყო პასუხისმგებელი, ახლა პოსტ-ტრენინგის დეპარტამენტის ნაწილი გახდება.

დაახლოებით 14 მკვლევრისგან შემდგარი ეს ჯგუფი ფოკუსირებული იყო ხელოვნური ინტელექტის მიკერძოების შემცირებაზე, პასუხებში პოლიტიკური მიკერძოებების დაბალანსებასა და კომპანიის პოზიციის შემუშავებაზე მოდელის „ცნობიერების“ შესახებ. OpenAI-ის მთავარმა მეცნიერმა მარკ ჩენგმა განმარტა, რომ Post Training-თან შერწყმა საშუალებას მოგვცემს „დააბალანსოთ მოდელის ქცევაზე მუშაობა მათი ტექნიკური განვითარების ბირთვთან“.

რეორგანიზაცია GPT-5-ის გარშემო ატეხილი სკანდალის ფონზე მოხდა. მომხმარებლებმა განახლებული მოდელი ძალიან ცივი და არამეგობრული მიიჩნიეს. საპასუხოდ, OpenAI-მ აღადგინა GPT-40-ზე წვდომა და გამოუშვა განახლება, რომელმაც გააუმჯობესა მისი კომუნიკაცია, თუმცა არა მიმზიდველი.

სიტუაცია კიდევ უფრო გაამწვავა მოზარდის მშობლების მიერ შეტანილმა სარჩელმა, რომლებმაც GPT-4o-ზე მომუშავე ChatGPT დაადანაშაულეს „მათი 16 წლის შვილის სუიციდურ ფიქრებში ჩავარდნაში“. ამან მხოლოდ ხაზი გაუსვა ხელოვნური ინტელექტის ქცევის პრობლემის სიმძიმეს.

Model Behavior-ის შემქმნელი ჯოან ჟანგი ახალ განყოფილებას, OAI Labs-ს, უხელმძღვანელებს. პირველი თვეების განმავლობაში, მისი მუშაობა ტრადიციული ჩატების მიღმა ადამიანისა და ხელოვნური ინტელექტის ურთიერთქმედების ფორმატების შესწავლაზე იქნება ორიენტირებული, ყურადღება კი აგენტზე დაფუძნებულ ხელოვნურ ინტელექტსა და ავტონომიაზე იქნება გამახვილებული.

ჟანგის თქმით, მომავლის სისტემები უნდა იქცეს „აზროვნების, შექმნის, თამაშის, სწავლისა და კომუნიკაციის ინსტრუმენტებად“. როდესაც Apple-ის ყოფილ მთავარ დიზაინის დირექტორ ჯონი აივთან შესაძლო თანამშრომლობის შესახებ ჰკითხეს, მან უპასუხა, რომ ღია იყო ექსპერიმენტებისთვის, მაგრამ დაიწყებდა იმ სფეროებიდან, სადაც უკვე ჰქონდა გამოცდილება.