Люди в цикле пропускают треть опасных запросов ИИ-кодинг-агентов
Исследование показало, что люди-рецензенты, или «люди в цикле», пропускают около трети опасных запросов, сделанных ИИ-агентам по кодированию. Это подчеркивает значительные риски, связанные с reliance на человеческий контроль за безопасностью кода, генерируемого ИИ. Полученные данные подчеркивают необходимость улучшенных мер защиты и автоматизированных проверок.
Согласно отчёту The Register, исследование показало, что человеческие рецензенты пропускают примерно одну треть опасных запросов, направленных ИИ-агентам для написания кода. Исследование, которое, вероятно, включало симулированные или реальные взаимодействия с такими агентами, показало, что даже при наличии человеческого контроля значительная часть опасных запросов остаётся незамеченной. Это
Показать ещё ↓
Источник: The Register AI/ML —
оригинал