Компания OpenAI пошла на реорганизацию одной из ключевых команд после шквала жалоб на поведение GPT-5.
Как пишет TechCrunch, подразделение Model Behavior, отвечавшее за «личность» моделей, теперь станет частью отдела Post Training.
Эта группа численностью около 14 исследователей занималась снижением подобострастия ИИ, балансировкой политических предубеждений в ответах и выработкой позиции компании по вопросам «сознания» моделей. Главный научный сотрудник OpenAI Марк Чэн пояснил, что объединение с Post Training позволит «сбалансировать работу над поведением моделей с ядром их технической разработки».
Реорганизация произошла на фоне скандала вокруг GPT-5. Пользователи сочли обновлённую модель слишком холодной и недружелюбной. В ответ OpenAI вернула доступ к GPT-4o и выпустила обновление, сделавшее тон общения «теплее», но без заискивания.
Ситуация усугубилась судебным иском: родители подростка обвинили ChatGPT на базе GPT-4o в том, что он «не смог пресечь суицидальные мысли их 16-летнего сына». Это лишь подчеркнуло остроту проблемы поведения ИИ.
Создательница Model Behavior Джоанн Джанг возглавит новое подразделение OAI Labs. В первые месяцы его работа будет сосредоточена на исследовании форматов взаимодействия человека и ИИ за пределами привычных чатов, с упором на агентный ИИ и автономию.
По словам Джанг, будущие системы должны стать «инструментами для мышления, создания, игры, обучения и общения». На вопрос о возможном сотрудничестве с бывшим главным дизайнером Apple Джони Айвом она ответила, что открыта к экспериментам, но начнёт с направлений, где уже накоплен опыт.
Добавить комментарий
Для отправки комментария вам необходимо авторизоваться.