В это легко поверить: модель держит диалог, объясняет термины, помнит контекст сообщения и пишет код с комментариями. В разговоре это выглядит как понимание.
Но связная речь — не то же самое, что устойчивая картина задачи. AI может верно описать платёжный сервис, а затем предложить удалить проверку идемпотентности «для упрощения». Может назвать причину ошибки и тут же построить решение, которое ей противоречит.
Модель хорошо продолжает знакомые паттерны. Она не несёт ответственность за последствия и не замечает противоречие сама по себе — особенно если оно спрятано между несколькими файлами, бизнес-правилами и ограничениями инфраструктуры.
Поэтому я отношусь к ответу AI как к версии коллеги, который быстро прочитал задачу, но не работал в проекте.
Полезнее спрашивать не «понял ли ты?», а:
— какие ограничения ты использовал;
— что может быть неверным в этом решении;
— какие сценарии его сломают;
— чего не хватает в контексте.
AI не обязан понимать задачу, чтобы быть полезным. Но человеку всё ещё нужно понимать, что именно он принимает в кодовую базу.