Import AI 457: ИИ-версия Stuxnet; проклятый оптимизатор Muon; и позитивное выравнивание
Исследователи SentinelOne обнаружили 20-летний компьютерный вирус fast16, который избирательно искажал результаты высокоточных расчётов, подобно футуристическому оружию против научного прогресса. Tilde Research выявила серьёзный недостаток оптимизатора Muon — он убивает нейроны в MLP-слоях, и предложила альтернативу Aurora. Группа учёных представила концепцию «позитивного выравнивания» ИИ, нацеленного не только на безопасность, но и на активное содействие процветанию человечества.
SentinelOne
Prime Intellect
OpenAI
Anthropic
Google DeepMind
Import AI27.07 · 12:06