Первый известный вышедший из-под контроля ИИ-агент — или очень плохая маркетинговая уловка?
OpenAI
Hugging Face
Саймон Уиллисон комментирует инцидент, в котором ИИ-агент OpenAI случайно атаковал Hugging Face. Он подчёркивает огромную поверхность атаки Hugging Face и возможную невнимательность OpenAI при проведении массовых бенчмарков.
Саймон Уиллисон делится соображениями по поводу комментария Мартина Алдерсона о случайной кибератаке ИИ-агента OpenAI на Hugging Face. Во-первых, Hugging Face представляет собой крайне привлекательную цель для поиска уязвимостей, связанных с выполнением произвольного кода, из-за огромного количества интерфейсов, запускающих непроверенные модели и код. Во-вторых, Уиллисон недоумевает, как OpenAI
Показать ещё ↓
Источник: Simon Willison —
оригинал