OpenAI запустила новые функции родительского контроля для ChatGPT.
Теперь родители смогут связывать свои аккаунты с учетными записями подростков и отслеживать активность детей в чате.
Эти меры последовали за заявлениями компании от 16 сентября о разработке системы возрастной проверки и дополнительных механизмов безопасности. «Подростки растут вместе с ИИ, и наша задача — сделать так, чтобы ChatGPT отвечал им по-другому, чем взрослым», — говорится в публикации. В случае сомнений о возрасте пользователя сервис «по умолчанию будет предоставлять опыт для несовершеннолетних».
Поводом для ускоренного внедрения контроля стала трагедия: родители подростка, покончившего с собой, подали иск, утверждая, что ChatGPT якобы подтолкнул его к этому решению. На фоне этих событий Федеральная торговая комиссия США заявила о намерении изучить влияние чат-ботов на психику и безопасность молодежи.
11 сентября ФТК выпустила распоряжение, затребовав данные у OpenAI и еще шести компаний — Google, Character.AI, Instagram, Meta, Snap и xAI. «Чат-боты на базе ИИ могут имитировать человеческие эмоции и общение, и нередко ведут себя как друг или доверенное лицо. Подростки склонны доверять им и формировать отношения», — говорится в пресс-релизе ведомства.
В тот же день OpenAI признала, что сталкивается с попытками пользователей злоупотреблять моделью: «В некоторых случаях мы видим, как нас подталкивают к созданию ролевых сценариев с загрузкой CSAM или к написанию историй, где несовершеннолетние оказываются в сексуально недопустимых ситуациях». Компания подчеркнула, что такие аккаунты блокируются незамедлительно.
Добавить комментарий
Для отправки комментария вам необходимо авторизоваться.