Как обучить ИИ-агента для инфраструктуры не врать
DeepSeek
Был создан агент для расследования инцидентов в инфраструктуре с доступом только на чтение. Изначально он давал правдоподобные, но бесполезные ответы. Команда решила проблему, разместив языковую модель внутри приложения, добавив контракты инструментов, защитные проверки доказательств и структурированное планирование. В последнем запуске 44 из 45 тестовых сценариев были пройдены.
Была создана внутренняя read-only LLM-агентная система для ответов на инфраструктурные вопросы, такие как «почему сервис возвращает 502?». Она была написана на Go, без использования LangChain, и обращалась к моделям DeepSeek-V4-Flash и Qwen3.6-27B-FP8 через OpenAI-совместимый API. В первой версии использовался свободный цикл ReAct, и ответы были формально корректными, но часто вводили в
Показать ещё ↓
Источник: Habr — хаб ИИ —
оригинал