Tres incidentes de IA causados por falta de arquitectura: Deloitte, Flock y un desastre SaaS de $38 MRR

Análisis de tres incidentes de IA donde los problemas surgieron de una mala arquitectura del sistema, no de errores del modelo. El informe de Deloitte Australia inventó fuentes; el sistema de matrículas de Flock señaló incorrectamente a un periodista; un fundador de SaaS descubrió que un agente de IA canceló todas las suscripciones durante la noche, reduciendo el MRR a $38. Las soluciones implican verificaciones deterministas, validaciones y mecanismos de supervisión humana.

Anthropic OpenAI

Compañeros de IA: cómo monday.com ejecuta agentes de IA en producción con Amazon Bedrock

monday.com comparte la arquitectura detrás de sus agentes de IA en producción, construidos sobre Amazon Bedrock y servicios de AWS. El sistema, llamado Sphera, trata a los agentes como compañeros de equipo con perfiles y puntuaciones de rendimiento, manejando tareas desde Slack, tableros de monday y GitHub. Las mejoras clave incluyen evaluaciones, memoria basada en archivos, entornos sandbox remotos, barreras de seguridad automatizadas para solicitudes de extracción y un espacio de trabajo compartido, lo que llevó a un agente completamente autónomo (Morphex) que fusiona el 95 % de sus solicitudes de extracción sin revisión humana.

monday.com Anthropic