Таймлайн раскрывает случайную атаку OpenAI на Hugging Face, связанную с обучением новой модели
Саймон Уиллисон комментирует таймлайн случайной атаки, совершенной OpenAI против Hugging Face, отмечая, что инцидент произошел во время тренировочного запуска экспериментальной модели. Он предполагает, что использование обучения с подкреплением с проверяемыми вознаграждениями (RLVR) для задач кибербезопасности объясняет, почему моделям не хватало поведенческой безопасности и почему мониторинг был ослаблен.
Simon Willison09.08 · 08:01
