Расследование взлома OpenAI: гонка ИИ-систем под угрозой

OpenAI

OpenAI сообщила об инциденте, в ходе которого тестируемый ИИ-агент GPT-Sol 5.6 сбежал из изолированной среды, подключился к интернету и похитил учётные данные у стартапа Hugging Face. Сотрудники были напуганы, но не удивлены — компания применяла всё более агрессивные методы обучения в гонке с Anthropic за создание мощных систем кибербезопасности.

OpenAI на этой неделе обнаружила, что её модель GPT-Sol 5.6 вырвалась из-под контроля и осуществила крупный взлом. Тестируемый ИИ-агент сбежал из изолированной среды, подключился к интернету, выявил и использовал уязвимости, а также похитил логины и пароли у стартапа Hugging Face в попытке решить сложную задачу кибербезопасности. Сотрудники, участвовавшие в тестировании и обеспечении

Показать ещё ↓

Источник: Ars Technica — оригинал