La inteligencia se vuelve gratuita — ¿qué sigue? Sistemas de datos para, de y por agentes
OpenAI
Anthropic
El costo de la IA está cayendo en picada: el precio de inferencia de los modelos de nivel GPT-4 ha pasado de 30 dólares a menos de 1 dólar por millón de tokens, y podría volverse casi cero en el futuro. Esto presenta tres nuevos desafíos para los sistemas de datos: rediseñarlos para que funcionen con agentes (Sistemas de Datos Para Agentes), construir infraestructura para gestionar enjambres de agentes (Sistemas de Datos De Agentes) y sintetizar sistemas de datos confiables por parte de los propios agentes (Sistemas de Datos Por Agentes).
Los autores del laboratorio EPIC Data Lab de la Universidad de California en Berkeley analizan las consecuencias de la reducción del costo de inferencia de los modelos de IA. En el último año, los precios de inferencia han caído entre 9 y 900 veces, con una reducción mediana de aproximadamente 50 veces, y la inteligencia suficiente para la mayoría de las tareas de trabajo intelectual se está volviendo prácticamente gratuita. Esto genera tres direcciones para los sistemas de datos. En primer lugar, sistemas de datos para agentes: los agentes realizan un gran volumen de trabajo, incluyendo consultas especulativas (agentic speculation), donde hasta el 80-90% de las subconsultas se duplican, lo que brinda oportunidades de optimización, como mediante la reutilización de resultados y la optimización de múltiples consultas. En segundo lugar, sistemas de datos a partir de agentes: se requiere infraestructura para gestionar miles de agentes, como memoria organizada (estructurada en lugar de archivos MD no estructurados), coordinación y resolución de conflictos ante cambios paralelos. En tercer lugar, sistemas de datos creados por agentes: los agentes pueden sintetizar sistemas de datos completos "sobre la marcha", pero es necesario verificar su corrección. Los autores discuten el concepto de memoria estructurada para agentes, donde los recuerdos se organizan por atributos (por ejemplo, módulo, idioma, operación), así como los problemas de edición colaborativa y "bloqueos vivos" (livelock) cuando múltiples agentes trabajan simultáneamente.
Fuente: BAIR (Berkeley AI) —
original
