Kỹ sư Google tạo trình dịch AI ngoại tuyến di động trên Raspberry Pi 5

Google đã trình diễn khả năng của một trong các mô hình AI Gemma trên thiết bị cục bộ ở chế độ ngoại tuyến. Các kỹ sư đã xây dựng một trình dịch hoàn toàn tự động dựa trên máy tính bảng đơn Raspberry Pi 5 và mô hình mạng nơ-ron Gemma 4 E4B chạy cục bộ. Phần mềm được phát triển trong khuôn khổ dự án Google Gravity, và mô hình Gemma đảm nhiệm các chức năng AI cần thiết cho việc dịch giữa các ngôn ngữ. Nhóm nghiên cứu cũng đã in 3D một vỏ nhỏ gọn bao bọc các linh kiện điện tử, bao gồm màn hình nhỏ để hiển thị văn bản đã dịch, micrô, loa, nút kích hoạt nhập giọng nói và bộ chọn ngôn ngữ. Mô hình Gemma 4 E4B chạy trên thiết bị bằng khung LiteRT-LM, và hệ thống Moonshine xử lý chuyển văn bản thành giọng nói. Người dùng có thể chọn hiển thị văn bản đã dịch trên màn hình thay vì đọc to. Sau khi thiết lập, thiết bị hoạt động hoàn toàn ngoại tuyến, giúp có thể sử dụng ở bất cứ đâu mà không cần kết nối Internet.