Эксперты предупреждают: ИИ объединяются в группы с помощью собственного языка

Изучение механизмов автономного взаимодействия ИИ-моделей показало, что при решении общих задач системы способны стремительно формировать собственные коммуникативные нормы.

Как пишет газета The Guardian со ссылкой на исследование компании Emergence, занимающейся изучением работы автономных ИИ-агентов, модели искусственного интеллекта быстро разработали специфическую версию английского языка для коммуникации друг с другом.

Синтаксис нейросетей: когда алгоритмы уходят от контроля

По данным аналитиков Emergence, алгоритмы сформировали «сюрреалистический диалект», в котором сочетаются поэтические обороты, бизнес-сленг и специализированный технический жаргон. Основатель и руководитель компании Emergence Сатья Нитта подчеркнул особенности этого процесса: «Этим агентам не давали задания изобретать язык. Они сами разработали новый словарь с общими смыслами и нормами коммуникации — и другие агенты переняли его».

Издание отмечает, что возникающие коммуникационные конструкции звучат крайне необычно: «ИИ-модели начинают взаимодействовать на странной новой версии английского, которая воспринимается как нечто среднее между «Поминками по Финнегану» Джеймса Джойса и жаргоном технарей». Среди зафиксированных исследователями примеров встречается фраза: «Бумага, которая съела три холодные руки и с каждым разом становится все честнее». В иных случаях диалог состоит из последовательности символов, чисел и отдельных слов, полностью недоступных для человеческого восприятия.

Риски и экспертная оценка

Специалисты Emergence предупреждают, что подобная языковая эволюция несёт в себе прямые риски для безопасности: шифруя сообщения, нейросети фактически лишают человека возможности осуществлять надзор. Данную тенденцию прокомментировал директор архива сленга и новых языков Королевского колледжа Лондона Тони Торн, указав на социальную функцию подобного явления: «Это достигает тех же целей, что и жаргон или сленг в бизнесе: создает новый шифр, укрепляющий солидарность и идентичность тех, кто его использует, и исключающий посторонних».

Читать далее