риски

О новой вакансии сообщила OpenAI, объявив поиск руководителя отдела подготовки. Компания намерена усилить прогнозирование рисков от своих моделей и сценариев их злоупотребления. Решение принято на фоне претензий к ChatGPT, включая иски о неправомерной смерти.

В описании вакансии глава компании Сэм Альтман признал: «потенциальное влияние моделей на психическое здоровье стало одной из проблем, с которой мы столкнулись в 2025 году». Он назвал эту роль критически важной для будущего OpenAI.

Работа под давлением

Согласно объявлению, новый руководитель будет отвечать за техническую стратегию системы подготовки. В задачу входит отслеживание передовых возможностей моделей и рисков «серьезного вреда». Зарплата составляет 555 тысяч долларов в год плюс акции.

Альтман отдельно подчеркнул, что это «стрессовая работа». По его словам, кандидату придется «погрузиться в самую суть практически сразу».

Кадровая турбулентность

За последние два года команда безопасности OpenAI сильно изменилась. Бывший глава подготовки Александр Мадры был переназначен в июле 2024 года. Тогда Альтман объявил, что направление возглавят Хоакин Киньонеро Кандела и Лилиан Венг.

Однако Венг покинула компанию спустя несколько месяцев. В июле 2025 года Киньонеро Кандела также ушел из команды подготовки, перейдя на позицию руководителя рекрутинга. Теперь OpenAI снова ищет ключевую фигуру для контроля рисков ИИ.

Согласно недавнему интервью, Сэм Альтман заявил, что развитие ИИ идет слишком быстро и уже меняет мир. Он подчеркнул, что ни одна технология ранее не внедрялась с такой скоростью и таким влиянием на общество.

Стремительный рост и его издержки

За три года генеративный ИИ превратился из примитивного инструмента создания текстов и картинок в системы, способные менять медицину, образование и вычислительную технику. Альтман напомнил о высокой цене этого роста: огромных энергозатратах, избыточном охлаждении и экологическом давлении.

Он перечислил недостатки стремительного распространения ChatGPT, отметив его двойственную природу: технология помогает разрабатывать лекарства от сложных заболеваний, но может стать оружием в руках злоумышленников.

Опасения Альтмана усиливаются

Альтман заявил: «Меня беспокоят темпы изменений, происходящих в мире прямо сейчас». Он добавил, что ИИ всего три года, и подчеркнул: «Мы должны убедиться, что мы представляем это [ИИ] миру ответственно». Он также отметил возможность ошибки при внедрении столь мощного инструмента.

ChatGPT стал самым скачиваемым приложением в мире, набрав 1,36 млрд установок. Эксперты выражают опасения: растет зависимость от чат-ботов, снижается когнитивная активность пользователей, а сообщения о самоубийствах, связанных с ИИ, участились.