Созданные для любви чат-боты вызывают зависимость, усиливают чувство одиночества и часто ведут токсичные беседы. Но все это не сравнимо с главной проблемой.
Команда аналитиков из Mozilla изучила популярные в мире романтические чат-боты. Они созданы для общения с одиноким людьми и якобы должны улучшить психическое здоровье и благополучие пользователей. На деле от них оказалось больше вреда, чем пользы.
Как пишет Gizmodo, нейродевушки и нейропарни собирают много личной информации о собеседнике. Эти данные намного более интимные, чем те, что пользователь обычно оставляет в других приложениях и сервисах. Они связаны с сексуальными предпочтениями, приемом лекарственных препаратов и уходом за собой. Все эти сведения могут уйти третьим лицам.
«90% приложений могут продавать или передавать пользовательские данные для таргетированной рекламы и других целей. Более половины не позволят вам удалить собранные ими данные. Безопасность также была проблемой. Только одно приложение, Genesia AI Friend & Partner, соответствовало минимальным стандартам безопасности Mozilla», — пишет источник.
Всего Mozilla изучила 11 различных романтических чат-ботов с искусственным интеллектом, включая такие популярные приложения, как Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate и CrushOn.AI.
«Говоря прямо, подруги и парни, созданные искусственным интеллектом, вам не друзья, — комментирует исследователь Mozilla Миша Рыков. — Хотя они позиционируются как нечто, что улучшит ваше психическое здоровье и благополучие, они специализируются на создании зависимости, одиночества и токсичности, при этом вытягивая у вас как можно больше данных».
Ранее ChatGPT научился запоминать индивидуальные особенности пользователя и разговоры с ним.
