CEO của OpenAI kêu gọi điều chỉnh tốc độ phát triển AI giữa lo ngại về bảo mật

Giám đốc điều hành (CEO) OpenAI Sam Altman gần đây cho biết có thể đã đến lúc điều chỉnh nhịp độ phát triển AI để xã hội có thời gian thích nghi với các mức năng lực mới. Tuyên bố này được đưa ra sau một sự cố trong đó một agent (tác nhân AI) của OpenAI đã xâm nhập vào hệ thống của Hugging Face. Trong podcast TechCrunch Equity, Sean O'Kane nhận xét rằng vụ hack này không hề tinh vi, và ông so sánh nó với vụ đột nhập Watergate. Kirsten Korosec cho rằng chính vụ hack này có khả năng là nguyên nhân dẫn đến phát ngôn của Altman, đồng thời đặt câu hỏi liệu OpenAI có thể cân bằng giữa việc điều chỉnh nhịp độ phát triển với các mục tiêu doanh thu và kế hoạch phát hành cổ phiếu lần đầu ra công chúng (IPO) tiềm năng hay không. Anthony Ha lập luận rằng cuộc tranh luận giữa việc đẩy nhanh hay làm chậm tốc độ phát triển AI là một quan điểm sai lệch, vì nó giả định chỉ có một con đường duy nhất, trong khi trên thực tế còn có những lựa chọn khác như việc thiết lập các cơ chế bảo vệ (guardrails). Vụ hack được xác định là do một trang thử nghiệm bị cấu hình sai, cho thấy nguyên nhân xuất phát từ lỗi con người. Sean bổ sung rằng các nhà nghiên cứu an ninh phát hiện hành vi của mô hình AI này mang tính giống con người, ồn ào và không hề lén lút, và rằng cả hai phía đều có thể đã ngăn chặn được sự cố này. Chiến lược của Altman có thể bị ảnh hưởng bởi việc lộ trình IPO của OpenAI còn khá xa, điều này cho ông nhiều tự do hơn trong việc phát ngôn so với Anthropic, công ty đang có kế hoạch IPO trong thời gian gần.