OpenAI впервые повысила новую ИИ-модель Astra до максимального уровня киберриска
OpenAI приостановила часть разработки своей новой модели ИИ Astra после внутренних тестов, выявивших мощные возможности в области кибербезопасности, которые могли бы отнести её к уровню «Критический» в её внутренней системе безопасности. На этом уровне модель может быть способна самостоятельно разрабатывать и выполнять кибератаки. OpenAI реагирует усилением мер безопасности, изолированными тестовыми средами и новыми системами мониторинга для автоматической остановки опасных действий.
OpenAI приостановила часть разработки своей новой модели ИИ Astra после того, как внутренние тесты показали значительный прогресс в агентном программировании и кибербезопасности, настолько сильный, что компания не может исключить уровень риска «Критический» в своей собственной структуре готовности (Preparedness Framework). Это первый случай, когда OpenAI потенциально присваивает модели высший
Показать ещё ↓
Источник: The Decoder (DE) —
оригинал