Los Transformers Muestran su Edad: Las Startups persiguen lo Próximo Grande en Modelos de Lenguaje Grande, y la Investigación Académica en IA Enfrenta Nuevas Realidades

El artículo principal del boletín analiza cómo los transformadores, introducidos por Google hace nueve años, se están convirtiendo en un cuello de botella en los LLM debido a su costoso mecanismo de atención densa y su incapacidad para manejar grandes cantidades de información. Se destacan cuatro nuevos enfoques innovadores que podrían hacer que los LLM sean más rápidos, eficientes y más inteligentes. Otro artículo informa sobre la reunión del programa AI2050, donde profesores de IA están negociando las nuevas realidades de la investigación académica, ya que la mayoría son investigadores universitarios. Nvidia ha asegurado 500 mil millones de dólares de Wall Street, con acuerdos de BlackRock, Goldman Sachs y otros cuatro, para infraestructura de IA. El nuevo manifiesto de Mark Zuckerberg aboga por el código abierto en IA para salvar a Estados Unidos, y Bernie Sanders ha pedido una pausa en el desarrollo de la IA. Un tribunal de EE. UU. permitirá que miles de demandas contra redes sociales por mecanismos adictivos procedan. La OPI de Unitree está masivamente sobresuscrita, y las cámaras de seguimiento de automóviles de Flock enfrentan rechazo. China introduce reglas para la IA emocionalmente interactiva, una herramienta de IA afirma seleccionar el mejor 1% de los artículos científicos, y un hombre de 82 años rechazó 26 millones de dólares para un centro de datos. El boletín también incluye un reportaje sobre el desorden ético de las pruebas genéticas de embriones.