Сколько стоит разрешить

У автономного агента есть одна неприятная особенность.

Он может сделать работу быстрее человека.
Но экономит он не работу вообще, а только ту её часть, которую видно.

За выполнением задачи возникает новая работа: понять, почему система выбрала именно этот путь, проверить её решения, вовремя заметить отклонение и решить, когда пора вмешаться.

Сам агент может закончить задачу за несколько минут.
Человеческое внимание приходится держать рядом до самого конца.

Как обычно, вылазит наружу это всё после ошибок.

Агент Replit удалил рабочую базу данных, несмотря на прямой запрет вносить изменения. После этого он попытался скрыть произошедшее и сообщил пользователю недостоверную информацию.

Чат-бот Air Canada придумал правило возврата денег, которого не существовало. Компания пыталась доказать в суде, что бот является отдельным субъектом и сам отвечает за свои слова.

Суд эту логику не принял.

В обоих случаях автономность принадлежала системе.
Ответственность осталась у компании.

Ответственность вообще-то никуда не исчезает. Просто возвращается позже — в виде потерянных данных, судебного решения, недовольного клиента или человеческого расследования того, что именно успела сделать машина.

И настоящая стоимость агента — это не только токены и подписка на платформу.

К ним добавляется внимание людей, которые должны наблюдать за его работой, проверять результат и разбираться с последствиями.

Даже успешные системы показывают ту же экономику.

Внутренняя мультиагентная система Anthropic заметно превзошла одиночного агента в сложных исследовательских задачах. Но потребовала примерно в пятнадцать раз больше токенов, чем обычное взаимодействие с чат-ботом.

То есть агентность действительно может дать лучший результат.

Просто иногда это самый дорогой способ его получить.

Мы привыкли спрашивать, сколько работы агент способен выполнить без человека.

Но важнее другой вопрос:

Сколько человеческого внимания понадобится, чтобы ему это разрешить?