Все статьи

Операционная модель

Агент не должен начинать работу, пока для неё не зарезервирован операционный контур

Автономной организации нужен протокол допуска работ между намерением агента и исполнением: сначала зарезервировать операционный контур, затем решать, можно ли начинать работу.

MP
Max PerfiljevFounder & CEO, AES · Архитектор автономных организаций
Read in English

Агент способен сформировать намерение и почти немедленно начать потреблять организационные ресурсы. Он может запустить длительное исследование, вызвать дорогие модели, запросить доступ к чувствительным данным, создать цепочку последующих задач или подготовить кампанию быстрее, чем будет назначена обычная встреча для согласования. Такая скорость полезна лишь тогда, когда организация в реальном времени способна решить, какую работу можно начинать и в каких операционных условиях.

Недостающая граница — это допуск работы. Прежде чем автономная организация позволит агенту исполнять предложенный запуск, она должна зарезервировать для него операционный контур и определить, можно ли начинать работу. Речь не об общем призыве добавить согласований. Это конкретный архитектурный контроль между формированием намерения и исполнением.

Намерение ещё не является рабочей нагрузкой

План агента недостаточен как вход для управления. Планы часто сформулированы естественным языком, меняются по ходу исполнения и неполно описывают операционные последствия. Управляемому рантайму нужен структурированный объект рабочей нагрузки: долговечное представление предлагаемой работы, которое могут проверить системы политик, планирования и аудита.

Как минимум такой объект должен содержать спонсора, цель, запрашиваемые возможности, классификации данных, ожидаемый ресурсный контур, класс риска, срок и критерии завершения. Ресурсный контур может включать доступную мощность моделей, вычисления, денежный лимит, слоты параллельных задач, использование внешних API или дефицитную мощность человеческой проверки. Это оценки, а не обещания. Не требуется безошибочно предсказать каждый токен, минуту или последствие. Нужно явно зафиксировать предполагаемое требование к организации до начала работы.

У структурированных запросов есть полезный прецедент в OAuth Rich Authorization Requests: этот стандарт позволяет выражать детальные требования к авторизации как структурированные данные, а не полагаться только на широкие строки scope. Здесь важен тот же принцип. «Исследовать отток клиентов» — это цель. Но это не исполнимый запрос на доступ, бюджет, обработку данных и вычислительные ресурсы.

Сначала резервирование, затем допуск

Инфраструктурные системы неслучайно отделяют подачу работы от допуска к её запуску. Контроллеры допуска Kubernetes обрабатывают запросы к API после аутентификации и авторизации, но до сохранения запрошенного ресурса; они могут изменить запрос или отклонить его. Kueue проводит ещё более чёткое различие: резервирование квоты блокирует ресурсы, нужные рабочей нагрузке, а допуск — это решение, разрешающее ей стартовать.

В документированном цикле Kueue сначала резервируются логические ресурсы, затем система ожидает настроенные проверки допуска, и запускает нагрузку только после их готовности. Это сильный архитектурный прецедент, но не готовая схема управления агентами. Вывод в том, что организация не должна считать успешное предложение разрешением начать. Сначала она выделяет мощность из определённого пула, затем завершает проверки, соответствующие данной работе.

Для автономной организации последовательность проста: аутентифицировать инициатора; дополнить объект нагрузки обязательными значениями по умолчанию; проверить политики и организационные инварианты; зарезервировать релевантные бюджеты или мощность; выполнить проверки допуска; затем допустить, поставить в очередь, ограничить, эскалировать или отклонить работу. Низкорисковый анализ может быть автоматически допущен в ограниченный контур моделей и данных. Предложение, затрагивающее закрытые данные, повышенные расходы или срочное операционное действие, может ожидать автоматической проверки, назначенного проверяющего или иного класса мощности.

Допуск отвечает на вопрос, может ли работа начаться в зарезервированном организационном контуре. Он не отвечает на вопрос, можно ли совершать каждый последующий бизнес-эффект.

Допуск не заменяет авторизацию в момент фиксации эффекта

Это различие принципиально. Допущенному агенту можно разрешить собрать свидетельства, подготовить рекомендацию или оформить транзакцию в пределах бюджета. Но это не даёт ему постоянного права перевести деньги, изменить запись клиента, опубликовать внешнее заявление или инициировать необратимое операционное изменение. Для таких последствий авторизация по-прежнему требуется в момент фиксации эффекта — с учётом текущих идентичности, политик, фактов и полномочий.

Без допуска организация узнаёт о конкуренции за ресурсы только после того, как агенты уже начали соперничать за мощность или получили доступ к чувствительным системам. Без авторизации в момент фиксации она выдаёт слишком широкие полномочия лишь потому, что запуск когда-то выглядел разумным. Эти две границы устраняют разные отказы. Допуск управляет началом работы и выделением дефицитного операционного контура. Авторизация в момент фиксации управляет бизнес-эффектом.

Бюджеты — это организационные контроли, а не только лимиты затрат

Бюджет может обозначать гораздо больше, чем деньги. Он способен ограничивать одновременный доступ к чувствительному набору данных, число внешних контактов, которые агент может подготовить, резервировать время аналитиков на проверку или ограничивать использование высокоприоритетной линии исполнения. ResourceQuota в Kubernetes аналогично фиксирует совокупные жёсткие лимиты и наблюдаемое использование, а области действия позволяют различать приоритет нагрузки. Архитектура Borg сочетает контроль допуска с упаковкой задач, избыточным резервированием и изоляцией производительности в общей вычислительной среде. Ни одна из этих систем не является моделью организационного управления, но обе показывают: общая мощность требует явного контроля, а не оптимистичного ожидания, что конкуренция разрешится сама.

Операционное следствие таково: организационный приоритет нужно намеренно отображать в политику планирования и бюджетов. Приоритет в очереди не равен автоматически важности для организации. Команда может назвать срочной любую задачу; агент может вывести срочность из слабого сигнала. Нужна управляемая связь между целью, спонсором, риском, сроком, классом сервиса и теми ресурсами, которые допускается резервировать. Иначе рантайм превращает простое утверждение в приоритет.

Резервированию нужны аренды, срок действия и сверка

Резервирование создаёт и собственный режим отказа: мощность может удерживаться работой, которая так и не началась. В документации Kubernetes отмечено, что учёт квоты является побочным эффектом допуска и требует высвобождения или сверки, поскольку более поздний контроллер всё ещё способен отклонить запрос. Kueue также освобождает зарезервированную квоту и возвращает нагрузку в очередь при временных сбоях допуска.

Поэтому рантайму агентов нужна явная семантика резервирования. У каждого резерва должны быть владелец, область действия, объём, срок аренды, правило продления, условие высвобождения и журнал переходов состояния. Если проверка допуска временно не прошла, система должна по политике решить, удерживать резерв, освобождать его или вернуть работу в очередь. Если инициатор исчез, аренда должна истечь. Если исполнение потребило меньше зарезервированного, остаток следует освободить. Если сбой рантайма создал неоднозначность, сверка должна сопоставить резервы с фактическим состоянием нагрузки и реальным потреблением.

Это не техническая уборка. Несверенная система резервов постепенно превращает номинально доступную мощность в недоступную, а затем побуждает операторов обходить её. Когда обход становится нормой, допуск перестаёт быть контролем и превращается в церемониальную очередь.

Допуск должен быть решением с наблюдаемыми исходами

Полезная запись о допуске не ограничивается формулой «одобрено» или «отклонено». Она фиксирует версию рабочей нагрузки, версию политики, оценённый класс риска, зарезервированный контур, обязательные проверки, решение, его причину, срок действия, а также идентичность проверяющего или автоматического контроля, сформировавшего решение. Она также фиксирует следующее состояние: допущено, поставлено в очередь, ограничено, эскалировано или отклонено.

Особого внимания заслуживает ограниченный режим. Не всякий запуск нужно принимать в запрошенном масштабе. Рантайм может допустить его с меньшим лимитом моделей, сниженной параллельностью, сокращённой областью данных, отложенным окном исполнения или требованием сначала подготовить план, не выполняя дальнейшую работу. Это часто операционно полезнее бинарной схемы «разрешить или запретить», если изменённый контур явно сообщён агенту и его спонсору.

Практическое правило

Не позволяйте агенту начинать значимую организационную работу лишь потому, что он может правдоподобно описать план. Требуйте представить объект рабочей нагрузки, зарезервировать ограниченный по смыслу контур и пройти проверки допуска до начала исполнения. Затем сохраняйте отдельную авторизацию для каждого значимого фиксируемого эффекта.

NIST AI Risk Management Framework предлагает определять, достигает ли система заявленной цели и следует ли продолжать разработку или развёртывание, а меры по риску приоритизировать с учётом воздействия, вероятности и доступных ресурсов или методов. Допуск работ задаёт этому принципу операционное место внутри автономной организации. Он превращает вопрос «следует ли этому продолжаться?» из эпизодического вопроса управления в повторяемое решение рантайма.

ПОСТРОИТЬ С AES

Превратите архитектуру в работающую компанию.

AES связывает стратегию, задачи, организационную память, знания, агентов, людей и согласования в единой среде исполнения.