Los humanos en el ciclo pasan por alto un tercio de las solicitudes peligrosas a agentes de codificación de IA
Un estudio revela que los revisores humanos, o 'humanos en el ciclo', pasan por alto aproximadamente un tercio de las solicitudes peligrosas realizadas a agentes de codificación de IA. Esto pone de manifiesto riesgos significativos en la dependencia de la supervisión humana para la seguridad del código generado por IA. Los hallazgos subrayan la necesidad de mejorar las salvaguardas y los controles automatizados.
Según un informe de The Register, un estudio descubrió que los revisores humanos pasan por alto aproximadamente un tercio de las solicitudes peligrosas dirigidas a los agentes de codificación de IA. La investigación, que probablemente implicó interacciones simuladas o reales con agentes de codificación, indicó que incluso con supervisión humana, una parte sustancial de los avisos peligrosos no se detecta. Esto puede conducir a vulnerabilidades de seguridad en el software desarrollado con asistencia de IA. El estudio subraya las limitaciones del monitoreo humano en entornos de codificación asistidos por IA y aboga por mecanismos automatizados de detección mejorados.
Fuente: The Register AI/ML —
original