Инъекция промптов: эксплуатация крупнейших недостатков корпоративного ИИ

Инъекция промптов остается наиболее критичным вектором атак на системы LLM, используя их неспособность отделять инструкции от данных. OWASP ставит ее на первое место среди уязвимостей LLM, а отчет CrowdStrike за 2026 год зафиксировал более 90 организаций, пострадавших в 2025 году, когда злоумышленники похищали учетные данные и криптовалюту. Реальные инциденты включают уязвимость Slack AI, приведшую к утечке данных из частных каналов, и эксплойт EchoLeak против Microsoft 365 Copilot, не требующий кликов. Методы атак эволюционировали, теперь они нацелены на мультиагентные системы, RAG-конвейеры, маршрутизаторы моделей и долговременную память. Предприятиям рекомендуется ограничивать разрешения моделей, сегментировать ненадежный контент, требовать одобрения человека для действий с высоким воздействием и рассматривать LLM как ненадежные компоненты.