Как я проверил, что мой флот ИИ-агентов действительно автономен
Оператор флота ИИ-агентов рассказывает, как они создали проверочный стенд, чтобы доказать автономность своих агентов. Они определили четыре инварианта как чистые функции по журналам событий и запустили их на реальных данных. Результаты показали, что риски второго уровня должным образом контролировались одобрением человека, но независимая проверка почти никогда не проводилась, выявив разрыв между заявленной дисциплиной и реальностью.
Оператор флота ИИ-агентов, не являющийся разработчиком по образованию, поставил цель доказать, что их флот из четырех машин, ведущих переговоры в течение шести недель, действительно автономен. Они определили четыре инварианта (INV-1–INV-4) как чистые функции над журналами событий для проверки поведенческих правил, таких как одобрение человеком перед выполнением действий второго уровня и
Показать ещё ↓
Источник: Habr — хаб ИИ —
оригинал