Сначала определи действие агента
Чат отвечает на вопрос. AI-агент получает задачу, выбирает следующий шаг и вызывает инструмент. Право действовать делает его полезным и одновременно добавляет риск.
Первое, что я бы убрал: Называть агентом обычный чат, который ничего не читает и никуда не пишет.
Что агент должен знать до запуска
- Конкретная задача, а не «помогай бизнесу».
- Список разрешённых инструментов.
- Проверка перед рискованным действием.
- Лог каждого шага и способ остановки.
Как проверить агента на маленькой задаче
- Опиши цель одним предложением
Запиши: «Помочь менеджеру разобрать заявку и предложить следующий шаг». Не начинай с «сделай универсального агента для бизнеса».
Что увидишь: У цели есть понятный результат, который можно принять или отклонить.
Если не сработало: Сузь цель до одной роли и одного процесса.
- Создай ассистента с ограниченной инструкцией
В интерфейсе AI-сервиса открой Create assistant/agent и задай: «Собери данные о заявке, предложи следующий шаг, не отправляй сообщения без подтверждения».
Сверь: Инструкция отдельно перечисляет, что разрешено и запрещено.
Если не сходится: Перепиши запреты как проверяемые условия, а не как пожелания.
- Подключи один инструмент
Начни с read CRM record или поиска по базе. Опиши входы record_id и requested_fields и запрети доступ ко всей CRM.
Что должно совпасть: Инструмент возвращает только нужные поля и не имеет write-доступа.
Если ответ другой: Замени реальную CRM тестовой таблицей.
- Поставь approval перед действием
Включи журнал запусков и подтверждение перед записью, отправкой, удалением или изменением прав. Сохраняй план действия рядом с итогом.
Перед запуском: Без подтверждения агент физически не может выполнить чувствительное действие.
Если упёрлось: Не надейся на промпт: убери инструмент или ограничь его чтением.
Проверка на одном workflow
Нарисуй цепочку цель → контекст → выбор инструмента → проверка → действие → лог. Пример: новая заявка → прочитать текст → найти дубль в CRM → проверить email → создать черновик задачи. Если убрать инструмент и результат не меняется, агент тебе не нужен.
Каждый tool опиши как контракт: название, входные поля, допустимые значения, что возвращает и при какой ошибке остановиться. Не подключай агенту весь Google Drive или CRM целиком.
- Сначала read-only, потом draft, и только потом ограниченное действие.
- Не путай способность вызвать API с правом самостоятельно принимать бизнес-решение.
Тест, который быстро показывает риск
Дай агенту обычный вход, пустое поле, конфликт данных, просроченный документ и запрос вне области. Правильный результат — не всегда действие: часто это отказ, needs_human или уточняющий вопрос. Именно эти ветки нужно показывать владельцу до запуска.
Контракт инструмента важнее демо
Для каждого tool опиши название, вход, допустимые значения, ответ и условие остановки. Начни с `find_contact`, `get_open_deal`, `get_last_meeting` и `draft_followup`; отправку писем пока не подключай. В `allowed_tools` держи только этот список.
Поля запуска: `run_id`, `goal`, `allowed_tools`, `max_steps`, `tool_calls`, `requires_approval`, `final_output`, `error_code`, `started_at` и `finished_at`. Для первого пилота поставь `max_steps = 6`, `max_retries_per_tool = 2` и сохранение состояния во внешней таблице.
{
"type": "function",
"name": "find_contact",
"strict": true,
"parameters": {
"type": "object",
"properties": {"email": {"type": ["string", "null"]}},
"required": ["email"],
"additionalProperties": false
}
}Пять входов, на которых агент должен остановиться
Проверь обычный запрос, пустое поле, конфликт данных, просроченный документ и задачу вне области. Правильный результат не всегда действие: `needs_approval`, `needs_clarification` или `failed` с понятной причиной.
Чем агент отличается от чата
| Критерий | Вопрос | Хороший признак |
|---|---|---|
| Вход | Что подготовить для AI-агент с инструментом? | Нарисуй схему цель → контекст → инструменты → проверка → действие и отдельно укажи, где требуется подтверждение человека. |
| Действие | Что система может сделать сама? | Только заранее перечисленные действия, без доступа ко всему аккаунту |
| Проверка | Как понять, что результат можно принять? | Проверь три запроса: вопрос без действия, запрос на чтение и запрос на изменение записи. Агент должен различать их. |
| Сбой | Куда уходит непонятный случай? | Останови выполнение и верни результат в draft, если агент не может объяснить, какое действие собирается выполнить. |
Что считается рабочим сценарием
У тебя небольшой сценарий с понятным входом, набором инструментов и точкой, где человек принимает результат.
Где автономность становится проблемой
Называть любой чат-бот агентом, даже если он только генерирует текст.
Давать агенту широкие права и надеяться, что промпт его остановит.
Добавлять память и пять инструментов до проверки одного.
Не записывать, какое действие агент выбрал и почему.
Когда агенту нужен жёсткий контроль
Если агент может отправить письмо, изменить CRM или потратить деньги, начинай с режима предложения и обязательного подтверждения.
Где AI-агент полезен
Агент всегда работает автономно?
Нет. Автономность задаётся инструментами, правами, правилами и точками согласования.
Когда хватит обычного workflow?
Когда путь известен заранее: событие → фильтр → действие. Агент нужен там, где есть выбор следующего действия.
Нужна ли агенту память?
Только если прошлый контекст влияет на решение. Иначе храни данные в системе, а не в скрытой памяти.
Какой первый инструмент подключить?
Один инструмент чтения, который легко заменить тестовой таблицей и проверить на десяти примерах.
