Writer lanza el modelo Palmyra X6 y mejoras de infraestructura para reducir los costos de tokens

Writer, que ofrece herramientas y agentes de IA para especialistas en marketing, lanzó un nuevo modelo insignia llamado Palmyra X6, destinado a resolver el problema de los despliegues de IA costosos. Construido como una variación de post-entrenamiento del modelo de código abierto GLM-5.2 de Z.ai, el nuevo sistema debería proporcionar capacidades listas para el despliegue a un precio mucho más bajo. La compañía estima que el nuevo modelo, combinado con cambios en la infraestructura del arnés, reducirá los costos para los clientes en hasta un 50% para tareas básicas. Junto con el nuevo modelo, la compañía también lanzó mejoras significativas en su arnés agéntico estándar; ambas características están disponibles para los clientes de Writer a partir del jueves. La directora ejecutiva May Habib dijo a TechCrunch que las empresas están hartas de perseguir puntos de referencia y quieren costos aplanados. El nuevo enfoque enfatiza tareas complejas y de múltiples pasos ejecutadas más rápido y con menos tokens, con la optimización del arnés como una palanca crucial. Un artículo reciente de los investigadores de Writer encontró que los cambios en la eficiencia del arnés eran una forma más confiable de reducir costos que la elección del modelo, con costos que cayeron un promedio del 40% en las pruebas. Para los clientes, la experiencia sigue siendo independiente del modelo: Palmyra X6 se ubicará junto a otros modelos de Writer o modelos externos importados a través de Azure o Amazon Bedrock. Habib también ve el impulso de reducción de costos como un factor que genera desconfianza hacia los principales laboratorios de IA, que tienen un incentivo financiero para aumentar el uso de tokens.