Transformers tonen hun leeftijd: Startups jagen op het volgende grote ding in LLM's, en AI-academisch onderzoek staat voor nieuwe realiteiten

De hoofdstory van de nieuwsbrief bespreekt hoe transformatoren, negen jaar geleden geïntroduceerd door Google, een bottleneck worden in LLM's vanwege hun dure dichte aandachtmechanisme en onvermogen om grote hoeveelheden informatie te verwerken. Vier nieuwe innovatieve benaderingen worden uitgelicht die LLM's sneller, efficiënter en slimmer zouden kunnen maken. Een ander artikel doet verslag van de bijeenkomst van het AI2050-programma, waar AI-professoren onderhandelen over de nieuwe realiteit van academisch onderzoek, aangezien de meesten universitaire onderzoekers zijn. Nvidia heeft 500 miljard dollar opgehaald op Wall Street, met deals van BlackRock, Goldman Sachs en vier andere partijen, voor AI-infrastructuur. Het nieuwe manifest van Mark Zuckerberg pleit voor open-source AI om de VS te redden, en Bernie Sanders heeft opgeroepen tot een pauze in de AI-ontwikkeling. Een Amerikaanse rechtbank zal duizenden rechtszaken over sociale media toestaan tegen verslavende mechanismen. De beursgang van Unitree is enorm overtekend, en de camera's van Flock die auto's volgen, krijgen te maken met tegenreacties. China introduceert regels voor emotioneel interactieve AI, een AI-tool beweert de beste 1% van wetenschappelijke papers te selecteren, en een 82-jarige weigerde 26 miljoen dollar voor een datacenter. De nieuwsbrief bevat ook een feature over de ethische puinhoop van genetische embryotesten.