Import AI 461: 'Alignment is niet op schema'; FrontierCode; en synthetische onderzoeksstagiairs

Een nieuwe non-profitorganisatie genaamd Sequent is opgericht door onderzoekers van het UK AI Security Institute en de alignment theory-startup Timaeus om alignment-technieken te ontwikkelen voor superintelligente AI-systemen. Sequent streeft ernaar om aanvankelijk 100-150 miljoen dollar op te halen en te groeien naar 40-80 werknemers, waarbij diverse onderzoeksrichtingen worden nagestreefd, zoals schaalbare supervisie, leertheorie, heuristische argumenten, speltheorie en persona's om principiële zekerheid te verkrijgen over alignment. Cognition, het bedrijf achter Devin, heeft FrontierCode uitgebracht, een codeerbenchmark met 150 taken in drie moeilijkheidsniveaus (Diamant, Hoofd, Uitgebreid) die de codekwaliteit, samenvoegbaarheid en naleving van codebase-standaarden meet; Claude Opus 4.8 behaalde slechts 13,4% op het Diamant-niveau, wat duidt op aanzienlijke ruimte voor verbetering. Xiaomi heeft MiMo-V2.5-Pro-UltraSpeed geïntroduceerd, een LLM met 1 biljoen parameters dat 1000 tokens per seconde inferentie bereikt op een 8-GPU commodity-node met behulp van FP4-kwantificatie, speculatieve decodering via DFlash en TileRT-software van de startup Tile AI. Onderzoekers van de Xi'an Jiaotong Universiteit en de Xidian Universiteit hebben de AARR-benchmarks (Act As a Real Researcher) ontwikkeld, te beginnen met AARRI-Bench, om AI-systemen te evalueren op instaponderzoekstaken; het best presterende systeem, Claude-Opus-4.7 met Mini-Swe-Age, scoorde 42,13% op het Science-scenario.