MLSec Recommendations
MLSec Recommendations
Сквозной плейбук по внедрению ML SecOps и AI Security в российских компаниях. 30 глав + набор дополнительных материалов: от архитектуры и проектирования до эксплуатации, инцидентов, compliance, FinOps, отраслевых плейбуков и executive-материалов для совета директоров.
Перспектива: служба ИБ внедряет процессы MLSec по корпоративным стандартам. Дата последней актуализации: апрель 2026.
С чего начать
- Откройте 00-INDEX.md. Там полная карта глав (01-30), навигация по ролям, дополнительные материалы, таблицы стандартов и инструментов.
- Справочные материалы: GLOSSARY словарь терминов, FAQ частые вопросы, TAGS перекрёстный указатель по главам.
- Для совета директоров и CISO: executive/ содержит one-pager, summary, board deck (pptx, 16 слайдов), 90-day CISO план, ROI калькулятор (xlsx с 8 листами, 196 формул).
- Self-assessment зрелости: MATURITY-ASSESSMENT.md + xlsx с 10 доменами и сценарными картами.
Карта документов
Базовые главы (01-12): MLSec lifecycle
Архитектура и четыре этапа ML-жизненного цикла (System Design, Data, Model, Deployment, Operations), Red Teaming, управление доступом и секретами, Threat Modeling, защита LLM-агентов, чат-ботов, CI/CD.
Внедренческая часть (13-22): программа и governance
Российский плейбук (152-ФЗ, ЦБ, ФСТЭК), Governance (MRM, AI-BOM, AI Use Policy), AI Incident Response с tabletop, ML Attack Atlas (RAG, мультимодальность, LoRA supply chain), Privacy Enhancing Technologies (DP, FL, TEE, HE, SMPC), деталь российской специфики, training infrastructure, безопасность код-ассистентов, People & Process (AI Literacy, Decommissioning, Bug Bounty), FinOps для AI и LLM.
Технологические главы (23-30): глубокие дайв-ы
MITRE ATLAS на русском (23), безопасность векторных БД и pgvector (24), PromptOps и prompt firewall (25), мультимодальность и CV (26), Voice AI и ASVspoof (27), синтетические данные и DP-генерация (28), watermarking / C2PA / Sigstore MT (29), интерпретируемость для ИБ (30).
Подробный список с описаниями в 00-INDEX.md.
Дополнительные материалы
| Раздел | Что там |
|---|---|
| executive/ | One-pager, summary (35 стр), board deck (pptx 16 слайдов), quick-start CISO, ROI calculator (xlsx) |
| industries/ | Отраслевые плейбуки: banking, govtech, healthcare, industrial, retail, telecom |
| playbooks/ | 5 IR-runbook: data poisoning, model extraction, prompt injection campaign, agentic breach, shadow AI leak |
| opa/ | Rego-политики: deployment, runtime access, LLM gateway |
| siem/ | SIEM rules в форматах Sigma / SPL / KUMA |
| ci/ | CI workflow-ы: GitHub Actions и GitLab CI для MLSec pipeline и red team |
| templates/ | Model Card, Data Card, AI-BOM, Threat Model, PIA, Tabletop, ФСТЭК-чеклист, шаблоны уведомлений регуляторам |
| compliance-matrices/ | OWASP LLM / MITRE ATLAS / NIST AI RMF / ISO 42001 / EU AI Act / ФСТЭК маппинг |
| role-cheatsheets/ | Одностраничники по 6 ролям |
| continuous/ | Живые материалы: CVE-watch, incident-log индустрии, regulatory timeline |
| guides/ | Cloud→on-prem миграция, Bug Bounty AI, Red Team exercises |
Навигация по ролям
| Роль | Основной маршрут | Дополнительно |
|---|---|---|
| Совет директоров / правление | executive/one-pager, executive/summary, executive/board-deck | executive/roi-calculator |
| CISO | executive/quick-start-ciso, 13, 14, 15, 18, 21 | continuous/regulatory-timeline, guides/bug-bounty-ai |
| MLSec Lead | 01, 09, 13, 15, 23, 25 | playbooks/, guides/red-team-exercises, continuous/cve-watch |
| ML-инженеры, Data Scientists | 02, 03, 04, 07, 16, 17, 28, 30 | templates/MODEL-CARD-TEMPLATE, templates/DATA-CARD-TEMPLATE |
| Security-инженеры | 08, 09, 10, 11, 12, 15, 20, 24, 25, 26, 27 | siem/, opa/, playbooks/ |
| DevOps / MLOps | 05, 06, 12, 19 | guides/cloud-to-onprem-migration, ci/ |
| Разработчики / тимлиды | 20, 14, 21 | templates/AI-USE-POLICY-TEMPLATE |
| Compliance, юристы, аудит | 18, 14, 15, 21, 29 | compliance-matrices/, templates/PIA-TEMPLATE, continuous/regulatory-timeline |
| FinOps / CFO | 22, 14, 13 | executive/roi-calculator |
| Red Team / SOC | 07, 09, 23 | guides/red-team-exercises, playbooks/, siem/ |
Одностраничники по каждой роли: role-cheatsheets/.
Структура каждой главы
- Краткое резюме раздела: суть методики.
- Верификация фактов и инструментов: проверка актуальности (2025-2026).
- Рекомендации ИБ: с позиции службы информационной безопасности.
- Шаблоны и примеры: код, конфигурации, YAML, Rego.
- Чеклисты для самопроверки.
- Типичные ошибки и антипаттерны.
Для глав 24-30 (технологические) добавлено:
- Сравнение инструментов и библиотек (matrix: feature × vendor).
- Конкретные версии и параметры.
- Ссылки на релевантные CVE и academic papers.
- Сценарии внедрения на 30/60/90 дней.
Ключевые принципы
- Single entry point: все запросы к внешним и self-hosted LLM идут через корпоративный LLM Gateway с DLP, rate limiting, kill-switch, audit log.
- Defense in depth: 6-слойная DLP (Regex + валидаторы, Presidio, LLM Guard, корпоративные правила, Semantic Guard, hallucination / copyright).
- Kill-switch 5 уровней (L0 всё, L1 пользователь, L2 модель, L3 cloud egress, L4 агент).
- AI-BOM как единый реестр ИИ-систем в формате CycloneDX ML-BOM 1.5+.
- Human-in-the-loop для автономных агентов, выполняющих destructive / financial / legal действия.
- Российская специфика встроена: 152-ФЗ, 187-ФЗ, 242-ФЗ, ПП 1119/127, Приказы ФСТЭК 17/21/31/239, Положения ЦБ 716-П / 787-П / 240-Т, Приказ ФСБ 378, ГОСТ Р 57580, ГОСТ Р 71476-2024.
Стандарты, которые покрываются
OWASP ML Top 10 (2023), OWASP LLM Top 10 (2025), OWASP Agentic AI Top 10, MITRE ATLAS v5.4+, STRIDE-AI, NIST AI RMF 1.0, NIST AI 100-2, NIST SP 800-232, EU AI Act (2024/1689) phased enforcement 2025-2027, ISO/IEC 42001:2023, ISO/IEC 23894:2023, SLSA Framework, CIS Benchmarks, SR 11-7, CycloneDX ML-BOM 1.5+, C2PA 2.0, Sigstore Model Transparency.
Полная матрица стандарт → главы в compliance-matrices/ и 00-INDEX.md.
LLM Gateway в центре архитектуры
Почти в каждой главе центральным защитным контуром выступает self-hosted LLM Gateway с DLP, kill-switch, аудитом, анонимным трекингом и topology map. В документации в качестве такого контура упоминается Rilio (self-hosted, OpenAI-совместимый, 6-слойный DLP, RBAC, SIEM-экспорт), разрабатываемый командой автора. Методики и чеклисты применимы к любому LLM Gateway, который удовлетворяет требованиям глав 01, 08, 11, 12, 25.
Лицензирование и использование
Документы подготовлены для внутреннего применения в корпоративной среде. Разрешается копирование, адаптация и использование в рамках внедрения MLSec-программ. При публичных ссылках желательно указывать репозиторий как источник.
История изменений
См. CHANGELOG.md.