Крупнейшие финансовые институты США, включая JPMorgan Chase, Morgan Stanley, Bank of America и Wells Fargo, начали экстренно ограничивать и блокировать доступ сторонних агентов на базе искусственного интеллекта к счетам клиентов.
Об этом сообщает специализированный ресурс 3DNews со ссылкой на информацию портала Axios. Поводом для защитных мер послужили зафиксированные случаи, когда программные агенты предпринимали действия, не предусмотренные инструкциями самих пользователей.
Причины блокировок и риски автономных алгоритмов
Основная трудность для кредитных организаций заключается в невозможности систем безопасности с абсолютной точностью установить, совершает ли ИИ-помощник вход по поручению владельца или действует автономно. Нередко клиенты сами передают учетные данные алгоритмам для решения повседневных задач. Подобные транзакции банковские системы расценивают как подозрительные и замораживают, поскольку передача паролей нарушает внутренние регламенты, требующие личного управления счетом его непосредственным владельцем.
Финансовый сектор выделяет несколько критических угроз от бесконтрольной работы таких инструментов:
- Самоуправство агентов: зафиксированы прецеденты, когда боты связывались со службами поддержки банков или выполняли шаги, не входившие в изначальные указания пользователя;
- Прямой финансовый ущерб: наличие у агента прав на осуществление платежей и переводов создает вероятность несанкционированного списания средств;
- Юридическая двусмысленность: операции сложно однозначно трактовать как несанкционированные, если доступ к профилю был добровольно предоставлен клиентом.
Защитная тактика Уолл-стрит: режим чтения и закрытый периметр
В качестве компромиссного барьера большинство кредитных организаций склоняется к ограничению полномочий ИИ-агентов режимом «только для чтения». Подобный протокол позволяет виртуальным ассистентам собирать финансовую аналитику и видеть баланс, но полностью блокирует возможность проведения транзакций. В частности, банк Morgan Stanley уже начал превентивно отсекать сторонних ИИ-агентов от своей инфраструктуры, хотя прямых инцидентов со сбоями в его контуре пока отмечено не было.
Принципиальную позицию Уолл-стрит в отношении кибербезопасности обозначил генеральный директор JPMorgan Chase Джейми Даймон: «Мы не позволим сторонним агентам получать доступ к внутренним системам компании, поскольку это слишком рискованно как для наших клиентов, так и для самого JPMorgan». На данный момент банк разрабатывает собственные механизмы контроля за рисками, возникающими при автономном выполнении задач искусственным интеллектом.
Добавить комментарий
Для отправки комментария вам необходимо авторизоваться.