Почему AI-система дублирует заказы в первый же день

Первый же агент на боевой системе создал дубль заказа. Модель тут не виновата: она вызвала инструмент, запрос отвалился по таймауту, агент повторил — и нажал кнопку второй раз.

Каждый инструмент агента должен быть идемпотентным. Создание сущности принимает ключ идемпотентности, повтор с тем же ключом возвращает уже созданную запись, а не новую. Дешёвая страховка.

Второе: агент обязан видеть историю своих вызовов. Если в контексте нет результата прошлого вызова, он честно решит, что действие не произошло.

Третье: разрушительные операции — удалить, отправить, оплатить — по умолчанию недоступны, только через подтверждение человека.

Логика простая: агент — это ненадёжный клиент, к которому нужен надёжный API. Начните с идемпотентности, и половина «магических» багов исчезнет.