Groq duplica el rendimiento de inferencia de Llama-2 70B en 3 semanas

La empresa Groq ha anunciado un aumento del doble en el rendimiento de inferencia para el modelo Llama-2 70B en solo tres semanas. La mejora se logró mediante la optimización del hardware y el software. Ahora el sistema procesa más de 1250 tokens por segundo por hilo.

Meta Groq

Nvidia en conversaciones con OpenAI para garantizar financiamiento de $250 mil millones para centros de datos - WSJ

Nvidia está en conversaciones con OpenAI para proporcionar una garantía de financiamiento de $250 mil millones para proyectos de centros de datos, según The Wall Street Journal. El posible acuerdo implicaría que Nvidia asegure los pagos de deuda de OpenAI, garantizando el acceso a los chips avanzados de Nvidia.

NVIDIA OpenAI