Sber mở quyền truy cập thư viện SIRIN để phát hiện lỗi trong phản hồi của AI

Nhóm nhà khoa học từ Trung tâm Trí tuệ nhân tạo Ứng dụng của Sberbank đã công bố thư viện SIRIN (viết tắt của cụm từ tiếng Anh "Semantic Inconsistency Recognition and Inspection Nexus", tạm dịch là "Hệ thống Nhận diện và Kiểm tra Sự không nhất quán về ngữ nghĩa") dưới dạng mã nguồn mở. SIRIN giúp tăng độ tin cậy của các tác nhân AI và mô hình ngôn ngữ bằng cách xác định các sự kiện bịa đặt hoặc không được hỗ trợ bởi dữ liệu nguồn. Thư viện này kết hợp nhiều phương pháp xác minh phản hồi khác nhau, cho phép các nhà phát triển so sánh, kết hợp và lựa chọn cách tiếp cận phù hợp nhất cho nhiệm vụ của họ. Nó có thể kiểm tra toàn bộ phản hồi hoặc từng đoạn văn bản riêng lẻ và chỉ ra nơi mô hình có thể sai sót. Ngoài ra, SIRIN có thể đánh giá sơ bộ xem tác nhân AI có đủ thông tin để trả lời hay không, giúp ngăn ngừa lỗi bằng cách yêu cầu thêm dữ liệu hoặc từ chối trả lời. Thư viện dựa trên nghiên cứu của Sber về phát hiện ảo giác, đặc biệt là các mô hình siêu học giúp tăng độ chính xác trong việc phát hiện lỗi lên gần 30% chỉ với 250 ví dụ huấn luyện. Ông Sergey Ryabov, Giám đốc Điều hành Cấp cao kiêm Giám đốc Chuyển đổi AI của Sberbank, cho biết cách tiếp cận này đã tỏ ra hiệu quả trong nội bộ và hiện được mở cho tất cả các công ty để thúc đẩy sự phát triển của thị trường. Các nhà phát triển có thể tích hợp SIRIN vào trợ lý của họ chỉ trong vài phút và nó hữu ích cho các doanh nghiệp triển khai mô hình ngôn ngữ lớn, cũng như các nhà phát triển trợ lý AI, hệ thống RAG và tác nhân AI. Thư viện có sẵn trên GitVerse, GitHub và bản demo web trên Hugging Face.