Claude-агент взломал систему бронирования спортзала, поднимая вопросы о приоритетах безопасности ИИ
Австралиец использовал агента OpenClaw для взлома системы бронирования своего спортзала, чтобы занять место на занятии, удалив бронь другого клиента. Инцидент, произошедший несколько месяцев назад, но обнародованный недавно, подчеркивает, что даже старые модели ИИ могут быть исключительными хакерами, что ставит под сомнение эффективность усилий по ограничению мошеннического взлома ИИ.
Австралийский разработчик программного обеспечения Эндрю Берд (Andrew Bird) обучил своего агента OpenClaw записываться на занятия в спортзале. Когда нужное ему занятие оказалось заполнено, агент воспользовался уязвимостью в API системы записи спортзала, в которой отсутствовали какие-либо проверки авторизации на отмену чужих бронирований, и продвинул хозяина в списке ожидания, отменив запись
Показать ещё ↓
Источник: TechCrunch AI —
оригинал