Я думаю, в ближайшие годы ценность продукта будет определяться не тем, насколько красиво он отвечает, а тем, можно ли безопасно поручить ему действие.
Спросить у модели идею письма — удобно. Поручить ей разобрать входящие, обновить CRM и подготовить счета — уже другой класс продукта. Здесь нужен не только интеллект, но и понятный контроль: что именно сделано, на каких данных, что можно отменить и где агент остановился.
Аргумент против: людям не хочется разбираться в логах и настройках. И это правда. Но контроль не обязан быть сложным. Как в банковском приложении: вы не изучаете платёжную систему, но видите сумму, получателя и можете подтвердить перевод.
Из этого следует практичный вывод. Если вы делаете продукт с AI, проектируйте не только промпт и чат. Сразу продумывайте предпросмотр действий, границы полномочий, историю решений и отмену изменений.
Если вы пользуетесь AI, выбирайте инструменты, которые не только «делают за вас», но и дают проверить результат. Доверие к агентам будет строиться именно так.