La inteligencia se vuelve gratuita: ¿qué sigue? Sistemas de datos para agentes, de agentes y por agentes
OpenAI
Anthropic
El costo de la inteligencia artificial está cayendo en picada: el precio de salida de modelos de nivel GPT-4 ha pasado de 30 dólares a menos de 1 dólar por millón de tokens, y a largo plazo podría llegar a ser casi cero. Esto presenta tres nuevos desafíos para los sistemas de datos: rediseñarlos para trabajar con agentes (Sistemas de Datos para Agentes), construir infraestructura para gestionar enjambres de agentes (Sistemas de Datos de Agentes) y sintetizar sistemas de datos confiables por parte de los propios agentes (Sistemas de Datos por Agentes).
Los autores del EPIC Data Lab de la Universidad de California, Berkeley, analizan las implicaciones de la disminución de los costos de inferencia de los modelos de inteligencia artificial. Durante el último año, los precios de inferencia se han reducido en un factor de 9 a 900, con una reducción mediana de aproximadamente 50 veces, lo que hace que la inteligencia suficiente para la mayoría de las tareas cognitivas sea casi gratuita. Esto da lugar a tres direcciones para los sistemas de datos. En primer lugar, sistemas de datos para agentes: los agentes realizan una gran cantidad de trabajo, incluyendo consultas especulativas (especulación de agentes), donde hasta el 80-90% de las subconsultas son redundantes, lo que ofrece oportunidades de optimización, como la reutilización de resultados y la optimización de múltiples consultas. En segundo lugar, sistemas de datos de agentes: se necesita infraestructura para gestionar miles de agentes: memoria organizada (estructurada en lugar de archivos Markdown no estructurados), coordinación y resolución de conflictos para cambios concurrentes. En tercer lugar, sistemas de datos creados por agentes: los agentes pueden sintetizar sistemas de datos completos sobre la marcha, pero su corrección debe ser verificada. Los autores discuten el concepto de memoria estructurada para agentes, donde los recuerdos se organizan por atributos (por ejemplo, módulo, idioma, operación), así como los problemas de edición colaborativa y bloqueo activo cuando múltiples agentes trabajan simultáneamente.
Fuente: BAIR (Berkeley AI) —
original
