Añadí un LLM al chat de mis amigos y lo hice interpretar a un Terminator (y abrí un portal a un multiverso de locura)

Un desarrollador integró un LLM gratuito a través de OpenRouter en un chat grupal de Telegram con 15 amigos, indicando al bot que interpretara al Terminator (T-800). El bot puede responder mensajes, bromear con los participantes según el contexto, leer imágenes, audio y video, clasificar prompts peligrosos y tiene una memoria basada en RAG. El proyecto se trasladó posteriormente a un portátil local usando Gemma-4-12b y llama.cpp para un mejor rendimiento.

NVIDIA Google/DeepMind OpenRouter

El modelo es una mercancía. El arnés es la ventaja.

El artículo argumenta que los modelos de inteligencia artificial se están convirtiendo en mercancías intercambiables, y la verdadera ventaja competitiva reside en el arnés: herramientas deterministas, contexto e infraestructura construidos alrededor del modelo. La ingeniería de prompts está siendo reemplazada por la ingeniería de contexto, y las herramientas deterministas de línea de comandos son cruciales para la confiabilidad, especialmente en áreas de alto riesgo como las finanzas y la medicina.

Anthropic Chroma