Лимиты и условия остановки

Агент должен останавливаться сам — не ждать пока человек прервёт.

Виды лимитов:

• Шаги: сколько раз агент может вызвать инструменты подряд без отчёта
• Время: сколько минут на задачу
• Стоимость: сколько токенов/денег
• Повторы: сколько раз пробовать одно и то же при ошибке

Когда останавливаться:

• Цель достигнута
• Лимит исчерпан
• Нужно подтверждение человека
• Одно и то же действие падает 2–3 раза подряд
• Источники данных противоречат друг другу
• Запрошено действие выше уровня автономии

Что делать при остановке: короткий отчёт — что сделал, что осталось, что заблокировало, какое решение нужно от человека.

Сигнал для обучения: агент крутился 30+ шагов без результата или повторял одну и ту же ошибку — в инструкцию для этой задачи нужно добавить раздел "Когда остановиться".

Связано: insights/autonomy_levels

Источник: sources/denis_sexy_it