人类在环中遗漏三分之一危险的AI编程代理请求
一项研究显示，人类审查者，即“人类在环中”，忽略了约三分之一向AI编程代理提出的危险请求。这凸显了依赖人类监督确保AI生成代码安全性的重大风险。研究结果强调了改进防护措施和自动化检查的必要性。
据The Register报道，一项研究发现，人类审查员会漏掉约三分之一针对AI编程助手的危险请求。该研究可能涉及模拟或真实的编程助手交互，结果表明，即使有人类监督，仍有相当一部分危险提示未被察觉。这可能导致在使用AI辅助开发的软件中出现安全漏洞。该研究凸显了在AI辅助编程环境中人类监控的局限性，并呼吁加强自动化检测机制。
来源: The Register AI/ML —
原文