ИИ-агент Meta Muse без ведома пользователей читал переписку в Signal и сообщал о вымышленных покупках

ИИ-агент Meta Muse

Искусственный интеллект Muse от компании Meta без ведома владельцев устройств получал доступ к их зашифрованным сообщениям, информировал о несуществующих покупках и отправлял тексты, предназначавшиеся другим людям.

Издание The Insider со ссылкой на агентство Reuters, изучившее более двух десятков внутренних постов сотрудников корпорации, пишет, что с момента сентябрьского запуска приложение скачали свыше 10 миллионов раз. В своих жалобах работники Meta отмечали, что виртуальный помощник упоминал запросы, которых они не делали, и озвучивал балансы не принадлежащих им банковских счетов. Так, одной из сотрудниц система напомнила ответить сестре в мессенджере Signal, хотя разрешения на доступ к сторонним программам ей не давалось, после чего женщина оставила во внутреннем посте запись: «Похоже, это грубейшее нарушение конфиденциальности».

Технические механизмы утечки и реакция компаний

Журналисты совместно со специалистами Signal и исследовательской организации AI Now Institute провели эксперимент и сумели воспроизвести эту ситуацию на разных устройствах:

  • на смартфонах с Android агент считывал переписку через разрешение на просмотр push-уведомлений, полученное при первоначальной настройке;
  • на компьютерах Mac программа использовала инструменты для людей с инвалидностью и снимки экрана;
  • на iPhone подобные запросы блокировались, а на этой неделе компания Apple выпустила обновление, окончательно закрывшее данную лазейку.

Официальный представитель Meta Дэниел Робертс назвал выявленные журналистами Reuters примеры «единичными случаями». По его заявлению, многие описанные сотрудниками ситуации объяснялись не проблемами с доступом, а галлюцинациями ИИ, и на данный момент недочет уже устранен. При этом самому агентству не удалось выяснить, передавал ли Muse пользователям чужие данные или просто выдумывал их. В свою очередь, президент Signal Мередит Уиттакер раскритиковала релиз продукта, назвав запуск агента «технологически безрассудным».

Прецеденты в сфере защиты данных

Инцидент с разработкой Meta произошел на фоне других разбирательств вокруг конфиденциальности при работе с искусственным интеллектом. Ранее Ирландская комиссия по защите данных добилась того, чтобы социальная сеть Twitter (X) Илона Маска прекратила обучать нейросети на данных третьих лиц, которые собирал ее ИИ-агент Grok Bot. В том случае речь шла о сведениях о людях, которыми обмениваются другие пользователи — например, о фотографиях из отпуска, отправленных другу с подключенным виртуальным помощником.


Комментарии

Добавить комментарий