Американская технологическая компания Anthropic, являющаяся разработчиком семейства нейросетей Claude, выступила с официальным призывом к ведущим лабораториям мира приостановить или замедлить темпы развития искусственного интеллекта.
Об этой неожиданной инициативе лидеров ИТ-индустрии сообщает информационное агентство Интерфакс, ссылаясь на программный манифест сооснователя компании Джека Кларка и руководителя Anthropic Institute Марины Фаваро. Руководство корпорации предупреждает, что технологии вплотную приблизились к этапу «рекурсивного самосовершенствования» — способности систем эволюционировать без человеческого участия. Эксперты констатируют, что в скором времени ИИ сможет автономно проектировать свои новые версии, создавая непредсказуемые риски для общества.
Авторы опубликованного материала указывают на неизбежные вызовы, с которыми столкнутся существующие государственные институты в случае неконтролируемого технологического скачка. В тексте доклада подчеркивается: «Если этот процесс продолжится, то при наличии достаточных вычислительных мощностей он может привести к появлению ИИ-системы, способной самостоятельно проектировать и разрабатывать свою следующую версию. Это называется рекурсивным самосовершенствованием. Мы еще не достигли этого этапа, и рекурсивное самосовершенствование не является неизбежным. Однако оно может наступить гораздо раньше, чем к этому будут готовы большинство общественных институтов». Сооснователь Anthropic Джек Кларк в интервью журналистам сравнил текущее положение дел в отрасли с опасной ездой, заявив: «Сейчас ситуация выглядит так, будто у индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза». По его твердому убеждению, «необходимо иметь возможность убрать ногу с педали газа и нажать на тормоз».
Разработчики признают, что замедление исследований силами лишь одной организации не имеет практического смысла, так как конкуренты мгновенно уйдут вперед. Для реализации эффективной паузы авторы доклада предлагают внедрить жесткие скоординированные меры:
- Синхронное согласие ведущих разработчиков ИИ в разных странах — прежде всего в США и Китае — остановить наращивание возможностей своих моделей;
- Создание надежной международной системы контроля, которая позволит полностью избежать риска скрытого обучения новых моделей;
- Разработка инструментов верификации, позволяющих каждой организации убедиться, что остальные участники действительно соблюдают договоренности.
Сложность заключается в том, что создание подобных инфраструктур верификации (например, как в Договоре о ликвидации ракет средней и меньшей дальности) ранее занимало десятилетия, которых у человечества сейчас нет. Тем не менее Кларк настаивает на необходимости немедленного вмешательства регуляторов, отметив: «Миру необходимо серьезно задуматься над этим вопросом. В конечном итоге нам придется разработать новые правила регулирования, которые позволят быть уверенными в безопасности и надежности этих систем».
Примечательно, что столь тревожный призыв прозвучал от компании, которая сама находится на абсолютном пике коммерческого успеха. Anthropic, созданная пять лет назад командой выходцев из OpenAI во главе с Дарио Амодеи, в 2026 году совершила грандиозный рыночный рывок благодаря выпуску инструментов для программирования Claude Code. Рыночная оценка компании превысила капитализацию ее главного конкурента и достигла 965 миллиардов долларов, а 1 июня бренд анонсировал скорый выход на биржу. Несмотря на то, что самосовершенствующийся ИИ «мог бы принести колоссальную пользу человечеству — в науке, здравоохранении и многих других областях», создатели Claude требуют нажать на тормоз ради сохранения контроля над будущим цивилизации.
