Когда говорят, что новые модели тормозят из-за безопасности, обычно представляют «опасный интеллект». На практике риск часто прозаичнее: агент удалил не тот файл, отправил не то письмо или поменял данные в проде.
Мой рабочий приём — лестница прав.
Сначала AI только читает: изучает репозиторий, логи, документацию. Затем предлагает план и список изменений. После подтверждения может создать ветку, написать код и тесты. Применять миграции, отправлять сообщения и трогать прод — только отдельным действием человека.
В промпте полезно явно задать границу:
Ты работаешь в режиме read-only.
Сначала опиши план, риски и список файлов.
Ничего не меняй без моего подтверждения.
Для необратимых действий подготовь команду, но не запускай её.Это не недоверие к AI. Так же устроена нормальная инженерия: у стажёра, разработчика и администратора разные ключи от системы.
Приём особенно нужен агентам с доступом к API, базе, почте и файловой системе. Не нужен для одноразового вопроса или черновика текста: там цена ошибки почти нулевая.
Хороший агент — не тот, кому дали все права. А тот, чьи права растут вместе с проверяемостью его работы.