Pleias

Import AI 457: ИИ-версия Stuxnet; проклятый оптимизатор Muon; и позитивное выравнивание

Исследователи SentinelOne обнаружили 20-летний компьютерный вирус fast16, который избирательно искажал результаты высокоточных расчётов, подобно футуристическому оружию против научного прогресса. Tilde Research выявила серьёзный недостаток оптимизатора Muon — он убивает нейроны в MLP-слоях, и предложила альтернативу Aurora. Группа учёных представила концепцию «позитивного выравнивания» ИИ, нацеленного не только на безопасность, но и на активное содействие процветанию человечества.

SentinelOne Prime Intellect OpenAI Anthropic Google DeepMind