MLSecRecommendations
Глава 31 · LLM и агенты

AI-агенты: обзор ветки и принцип наследования

~4 мин ≈ 4 мин осталось 970 словОбновлено 28 мая 2026 г.governanceAI-агентыдокументацияRACIреестр

AI-агенты: обзор ветки и принцип наследования

Версия: 1.0 · Обновлено: 2026-05-28 · Теги: AI-агенты, governance, документация, RACI, реестр · Tier: 1-4

TL;DR. Ветка про AI-агентов — это операционное дополнение к базовой документации, а не отдельный мир. Шесть документов закрывают: классификацию, безопасность, исполнение, инциденты, готовность к проду и обзор. Базовые требования (архитектура, оценка риска, реестр, RACI) остаются приоритетными.

1. Зачем отдельная ветка про агентов

Обычный AI-сценарий становится агентным, как только AI-система выходит за рамки одиночного запрос-ответа и начинает влиять на ход выполнения задачи или последующие действия. На практике достаточно одного из признаков:

  • многошаговое выполнение (модель планирует следующий шаг сама);
  • использование инструментов / коннекторов (поиск, файловые операции, API, базы данных);
  • память за пределами текущего взаимодействия;
  • вызов действий (запись, отправка, изменение состояния);
  • запуск по расписанию / событию без немедленной проверки человеком;
  • передача управления между моделями или между моделью и человеком.

[!warn] Агентность — это не свойство модели, а свойство сценария. Один и тот же LLM в чате — это обычный AI-сценарий; в обвязке с tool-calling и расписанием — уже агент.

Карта документов ветки

flowchart TD
    R[AI-AGENTS-README<br/>обзор, наследование]:::root
    OV[Operating Overlay<br/>классификация + реестр]:::op
    SEC[Security Overlay<br/>инструменты, память, согласование]:::sec
    RT[Runtime Procedure<br/>состояния, мониторинг, аварийное отключение]:::rt
    CHK[Production Readiness<br/>контрольный рубеж]:::chk
    IR[Incident Playbook<br/>первая реакция]:::ir

    R --> OV
    R --> SEC
    R --> RT
    R --> CHK
    R --> IR

    OV -.field references.-> SEC
    OV -.field references.-> RT
    RT -.signals.-> IR
    CHK -.gates.-> RT

    classDef root fill:#f59e0b,stroke:#d97706,color:#1b1d22
    classDef op fill:#10b981,stroke:#059669,color:#fff
    classDef sec fill:#ef4444,stroke:#dc2626,color:#fff
    classDef rt fill:#38bdf8,stroke:#0284c7,color:#fff
    classDef chk fill:#a78bfa,stroke:#7c3aed,color:#fff
    classDef ir fill:#fb7185,stroke:#e11d48,color:#fff

2. Принцип приоритета базовых документов

Ветка про агентов только усиливает базовые требования. Она не вводит:

  • новую таксономию рисков;
  • новый процесс подачи / оценки;
  • альтернативный реестр AI-систем;
  • параллельный стандарт безопасности;
  • собственную RACI-модель.
Базовый документ (источник истины) Что добавляет ветка про агентов
Архитектурный мастер Операционные уточнения для исполнения агента поверх существующей платформы
Положение об оценке AI-кейсов Поля описания агентного сценария + триггеры повторной оценки
Стандарт безопасности AI Меры для инструментов, границы действий, память, согласование, аудит
Реестр AI-систем Дополнение к карточке реестра для агентных сценариев
GenAI Development Policy Уточнения исполнения и промышленной эксплуатации только для агентов
RACI-матрица Сопоставление обязанностей агентного сценария с существующими ролями
LLM Firewall / Proxy требования Ожидания к согласованиям и подтверждениям при tool-вызовах

[!ru] В РФ-контексте базовыми считаются: внутренние политики ИБ, требования ФСТЭК по уровням защищённости ИСПДн, 152-ФЗ, 187-ФЗ для КИИ. Положения по AI-агентам не подменяют их — они их детализируют для случаев с tool-calling и автономностью.

3. Шесть документов ветки и когда читать каждый

# Документ Зачем Глава
1 README (этот раздел) Понять границу ветки и порядок чтения /ch/31-ai-agents-overview
2 Operating Overlay Классифицировать сценарий: агентный или нет, какой класс /ch/32-ai-agents-operating-overlay
3 Security Overlay Понять уточнения безопасности для tool-calling и памяти /ch/33-ai-agents-security-overlay
4 Runtime Procedure Запускать, мониторить, останавливать, аварийно гасить /ch/34-ai-agents-runtime-procedure
5 Incident Playbook Первые шаги при инъекции, утечке, отравлении памяти /ch/35-ai-agents-incident-playbook
6 Production Readiness Checklist Финальная проверка перед пилотом / промышленной эксплуатацией /ch/36-ai-agents-production-checklist

Рекомендуемый порядок чтения

  1. README — границы ветки.
  2. Operating Overlay — (агент / не агент) → класс → поля реестра.
  3. Действующее Положение об оценке — подача, риск, маршрут согласования.
  4. Security Overlay — что добавить к базовому стандарту безопасности.
  5. Runtime Procedure — пилот, прод, мониторинг.
  6. Production Readiness Checklist — рубеж перед прод-релизом или повторным согласованием.
  7. Incident Playbook — держать наготове.

4. Что НЕ относится к ветке про агентов

[!info] Если вы хотите изменить:

  • базовую архитектуру (шлюз, DLP, сетевые зоны) — это в architecture/;
  • политики разработки (что разрешено в GenAI) — это в policies/;
  • общий процесс инцидент-реагирования — это в основном IR;
  • базовый стандарт безопасности AI — это в standards/;

то ветка про агентов вам не подходит. Она добавляет только агент-специфичные дополнения поверх уже существующих процессов.

5. Технические артефакты (examples/)

Шесть документов снабжены минимальным набором заполняемых артефактов:

Артефакт Назначение
agent-action-policy.yaml Политика как код: делегированные полномочия, согласования, лимиты, аварийные меры
agent-registry-card-example.md Дополнение к карточке реестра для агентного сценария
agent-memory-governance-template.md Назначение памяти, срок хранения, удаление, выявление отравления
agent-delegated-authority-template.md Запись делегированных полномочий: что разрешено, что только с согласованием
agent-connector-card-template.md Карточка коннектора: владелец, область, лимиты, изоляция
agent-evidence-pack-template.md Пакет подтверждений для пилота / прода / изменения / отката
agent-security-evals-minimal.md Минимальный набор защитных проверок
prometheus-agent-alerts.yaml Иллюстративные правила Prometheus для агентных событий
siem-agent-queries.txt Вендор-независимые SIEM-запросы по схеме agent-runtime-events
runbook-connector-quarantine.md Изоляция коннектора, сдерживание, ротация учётных данных
agent-runtime-events.schema.json JSON Schema событий аудита исполнения
agent-runtime-events-examples.md Валидные и невалидные примеры событий
agent-approval-record.schema.json JSON Schema подтверждения согласования
agent-approval-record-examples.md Валидные и невалидные примеры записей согласования

Все артефакты — вендор-нейтральные. Они дают каркас, который надо адаптировать к конкретному стеку (Kubernetes / OpenShift / Yandex Cloud / on-prem).

6. Правила сопровождения

  • README — единственная навигационная карта ветки.
  • Любые расхождения между базовыми документами и веткой про агентов разрешаются в пользу базовых.
  • Любые расширения ветки идут в examples/ без создания отдельной контрольной модели.
  • Внешние стандарты (OWASP LLM Top 10, NIST AI RMF, ISO 42001) используются как рекомендации по реализации, не как самостоятельный источник политики.

[!ok] Главное правило ветки: «меньше — лучше». Если требование уже есть в базе — не дублируйте, ссылайтесь. Если расхождение — правится только agents-ветка.

Упоминается в (1)