Import AI 457: AI-версия Stuxnet; проклятый оптимизатор Muon и позитивное выравнивание
SentinelOne
Prime Intellect
OpenAI
Anthropic
Google DeepMind
Этот выпуск Import AI охватывает три истории: древний компьютерный вирус 'fast16', который саботирует высокоточные вычисления, напоминая тактику нераспространения суперинтеллекта; обнаружение того, что оптимизатор Muon может убивать нейроны в MLP-слоях, что привело к разработке замены под названием Aurora; и программная статья, призывающая к 'позитивному выравниванию', чтобы гарантировать, что ИИ поддерживает человеческое процветание, выходя за рамки простой безопасности.
Выпуск Import AI 457 открывается исследованием вируса fast16.sys возрастом более 20 лет, который избирательно атакует программы для высокоточных вычислений в таких областях, как гражданское строительство и физика, внося систематические ошибки. Исследователи из SentinelOne обнаружили, что он использовался для фальсификации симуляций в LS-DYNA 970, PKPM и MOHID и был связан с ядерными программами
Показать ещё ↓
Источник: Import AI —
оригинал