Fallos de agentes de IA: por qué los paneles están verdes pero los agentes mienten durante días

La monitorización clásica no detecta los fallos de los agentes de IA porque estos se degradan gradualmente, no colapsan. Para detectar problemas, los equipos deben rastrear los ciclos de razonamiento, medir métricas de calidad agentiva, usar evaluación de LLM como juez, versionar los mensajes y escribir telemetría en dos destinos desde el primer día.

Cloud.ru

Añadí un LLM al chat de mis amigos y lo hice interpretar a un Terminator (y abrí un portal a un multiverso de locura)

Un desarrollador integró un LLM gratuito a través de OpenRouter en un chat grupal de Telegram con 15 amigos, indicando al bot que interpretara al Terminator (T-800). El bot puede responder mensajes, bromear con los participantes según el contexto, leer imágenes, audio y video, clasificar prompts peligrosos y tiene una memoria basada en RAG. El proyecto se trasladó posteriormente a un portátil local usando Gemma-4-12b y llama.cpp para un mejor rendimiento.

NVIDIA Google/DeepMind OpenRouter