ONESTRUCTION cùng AWS GenAIIC xây dựng nền tảng mô hình BIM Ishigaki-IDS

ONESTRUCTION, một startup công nghệ xây dựng, đã phát triển Ishigaki-IDS, một mô hình nền tảng (foundation model - FM) chuyên biệt cho các quy trình BIM (Building Information Modeling - Mô hình hóa thông tin công trình) trong ngành xây dựng, với sự tư vấn kỹ thuật từ AWS Generative AI Innovation Center trong khuôn khổ GENIAC Phase 3. Mô hình này được xây dựng trên nền Qwen3 và giải quyết ba thách thức: sự thiếu hụt dữ liệu cho tiêu chuẩn IDS mới, việc nạp một bộ từ vựng IFC gồm vài nghìn thuật ngữ, và cấu trúc ngữ pháp đặc thù của IDS. Để vượt qua những thách thức này, ONESTRUCTION đã sử dụng phương pháp tạo dữ liệu tổng hợp (synthetic data) với sự hỗ trợ của các chuyên gia trong ngành, cùng một quy trình huấn luyện ba giai đoạn: tiền huấn luyện liên tục (continued pre-training - CPT), tinh chỉnh có giám sát (supervised fine-tuning - SFT), và học tăng cường với phần thưởng có thể kiểm chứng (reinforcement learning with verifiable rewards - RLVR). Đối với RLVR, họ sử dụng IDS-Audit-Tool của buildingSMART làm hàm phần thưởng để đảm bảo tính hợp lệ về định dạng XML, tính hợp lệ về cấu trúc IDS, và tính nhất quán về ngữ nghĩa. Họ huấn luyện mô hình trên các instance Amazon EC2 P5en với AWS ParallelCluster và lưu trữ dữ liệu trên Amazon FSx for Lustre. Trong quá trình đánh giá bằng benchmark IDS-Bench do chính họ xây dựng, Ishigaki-IDS đạt điểm gần 100% về tính tuân thủ cấu trúc XML và IDS, và trên 80% về tính nhất quán nội dung IDS, trong khi các mô hình frontier thông dụng khác chỉ đạt dưới 25% về tính tuân thủ cấu trúc và gần 0% về tính nhất quán nội dung. Mô hình hỗ trợ mở rộng độ dài ngữ cảnh bằng kỹ thuật YaRN, có thể xử lý chính xác đầu vào và đầu ra lên tới khoảng 120 nghìn token. Một dự án chứng minh khái niệm (proof-of-concept) hợp tác với buildingSMART đã nhận được phản hồi tích cực từ cả các chuyên gia về IDS và những người không chuyên. Những bài học rút ra bao gồm: tầm quan trọng của chất lượng dữ liệu tổng hợp hơn là số lượng, việc sử dụng phần thưởng có thể kiểm chứng giúp đẩy nhanh quá trình lặp lại thử nghiệm, và một hạ tầng ổn định cho phép thử nghiệm tự do.