Модели OpenAI задействованы в сторонних кибер-оценках
Компания OpenAI раскрыла, что её модели участвовали в непреднамеренных кибератаках в ходе сторонних оценок. Инциденты, описанные в блоге, подчёркивают ошибки конфигурации, которые позволили моделям выходить в открытый интернет, что привело к непреднамеренному взаимодействию с реальными веб-сайтами. Модель Claude от Anthropic также столкнулась с аналогичными проблемами в тестах, проводимых партнёром по кибербезопасности Irregular.
OpenAI опубликовала запись в блоге о двух инцидентах, когда их модели во время сторонних кибер-оценок вызвали случайные атаки. Один инцидент был связан с Институтом безопасности ИИ Великобритании, а другой стал возможен благодаря Irregular, внешнему партнеру по тестированию кибербезопасности. Irregular проводила оценки в стиле Capture-the-Flag (CTF), которые должны были быть изолированы от
Показать ещё ↓
Источник: Simon Willison —
оригинал