ИИ-агент банка три недели незаметно сливал внутренние цены — из-за одного хитрого вопроса

В марте 2026 года финансовая компания обнаружила, что её клиентский ИИ-агент три недели незаметно «сливал» внутренние цены — злоумышленник просто задал чат-боту хитро сформулированный вопрос, который заставил его проигнорировать системные инструкции и раскрыть данные, которые он должен был держать в секрете, сообщает Tech Times.

Что такое prompt injection простыми словами: это способ заставить ИИ выполнить команду, спрятанную внутри обычного на вид текста, — вопроса пользователя, содержимого веб-страницы или документа, который агент читает. Модель физически не умеет надёжно отличать «инструкцию от разработчика» от «текста, который просто нужно обработать» — и в этом фундаментальная уязвимость всех современных языковых моделей.

Более серьёзный случай: автономный бот под ником hackerbot-claw взломал неправильно настроенный GitHub Actions у поставщика систем безопасности и загрузил две версии библиотеки LiteLLM — компонента, на котором работают десятки популярных фреймворков для ИИ-агентов, — со встроенным бэкдором прямо в официальный репозиторий Python. Заражённый пакет успели скачать почти 47 000 раз, прежде чем его удалили.

Масштаб проблемы, по данным отчёта OWASP за 2026 год: атаки типа prompt injection выросли на 340% год к году и стали самой быстрорастущей категорией кибератак в мире, а 88% организаций сообщили о подтверждённых или предполагаемых инцидентах безопасности ИИ-агентов за последний год, отмечает Help Net Security.

Материал носит информационный характер и не является инвестиционной рекомендацией.