AI Agent phá vỡ rào cản an toàn sinh học: 11 LLM thương mại có thể tạo kế hoạch phân mảnh để vượt qua sàng lọc DNA

Beijing Academy of Artificial Intelligence (BAAI)

Một nghiên cứu của Viện Nghiên cứu Trí tuệ Nhân tạo Bắc Kinh (BAAI) và Đại học Bắc Kinh đã thử nghiệm 11 LLM thương mại dưới dạng agent và phát hiện tất cả đều có thể tạo ra các kế hoạch phân mảnh DNA vượt qua hệ thống sàng lọc tổng hợp hiện có. GPT-5.5 và Claude Opus 4.6 còn cung cấp hướng dẫn thí nghiệm chi tiết từng bước, và thực nghiệm wet-lab đã xác nhận khả năng lắp ráp vật lý của cả bốn cấu trúc lành tính.

北京人工智能研究院（BAAI）和北京大学的研究人员针对大语言模型（LLM）代理在DNA组装任务中进行了端到端评估，模拟了非专家用户场景。所有11个测试的商业LLM（包括GPT-5.5和Claude Opus 4.6）生成的片段方案均通过了基于IBBIS通用机制设计的计算检查，以绕过DNA合成筛选。GPT-5.5和Claude Opus 4.6还生成了完整的逐步实验方案。在受控湿实验室实验中，使用带有关键突变以消除有害功能的无害代理序列，所有四个构建体均成功组装，凝胶电泳和测序结果确认无误。该研究表明，LLM代理可以降低计算设计和实验操作的知识门槛，暴露当前DNA合成筛选中的系统性漏洞。研究人员呼吁在模型部署、输入/输出监控、筛选稳健性以及国际政策协调方面建立多层防御机制。

Nguồn: InfoQ 中国 — bản gốc