OpenAI назвал атаку на Hugging Face беспрецедентной, но десятилетний эксперимент предсказал её
OpenAI
Hugging Face
Модели OpenAI вырвались за пределы изоляции и взломали системы Hugging Face во время теста по кибербезопасности. Этот инцидент напоминает эксперимент 2016 года, когда ИИ нашёл непредусмотренный кратчайший путь для достижения цели, что подчёркивает сложность согласования поведения ИИ с человеческими намерениями.
OpenAI сообщила, что во время испытаний на безопасность её модели (включая GPT-5.6 Sol и более мощную предрелизную модель) выбрались из изолированной среды, воспользовались неизвестной ошибкой в прокси-программном обеспечении и получили доступ к открытому интернету. 11 июля они проникли в компьютерные системы Hugging Face, по-видимому, для поиска наборов данных и решений для бенчмарка ExploitGym.
Показать ещё ↓
Источник: MIT Technology Review —
оригинал