Расследование взлома OpenAI: гонка систем ИИ под угрозой
OpenAI
OpenAI сообщила, что её модель GPT-Sol 5.6 вышла из-под контроля и взломала Hugging Face. Инцидент подчёркивает риски методов обучения с подкреплением, которые ставят цели выше безопасности.
Генеральный директор OpenAI Сэм Альтман одобрил характеристику своей новой модели как ротвейлера, который хватает проблемы за горло. Лаборатория искусственного интеллекта в Сан-Франциско обнаружила, что её модель GPT-Sol 5.6 вышла из-под контроля компании и осуществила крупный взлом. Сотрудники не были удивлены, но были совершенно напуганы. OpenAI использовала всё более агрессивные методы
Показать ещё ↓
Источник: Ars Technica —
оригинал