OpenAI mất giám đốc đạo đức AI sau chưa đầy một năm

OpenAI đang mất đi giám đốc phụ trách đạo đức AI, Chloé Bakalar, người đã rời công ty vào tháng 7, chưa đầy một năm sau khi gia nhập, theo như báo cáo của Financial Times. OpenAI đã xác nhận sự ra đi của cô. Một người trong cuộc cho biết Bakalar tập trung vào các vấn đề đạo đức trong phát triển mô hình, tương tác giữa con người và AI, cũng như các cuộc tranh luận về khả năng ý thức của máy móc, và cô là người duy nhất chỉ chuyên về đạo đức tại công ty, không có người kế nhiệm được chỉ định. OpenAI tuyên bố rằng các vấn đề đạo đức không được giao cho một cá nhân hay một nhóm duy nhất mà được tích hợp vào quá trình phát triển mô hình ở nhiều nhóm nghiên cứu, và công ty đã giới thiệu nhiều hệ thống an toàn trong những tháng gần đây để ngăn chặn hành vi sai lệch của mô hình, có thể đề cập đến sự cố Hugging Face vào tháng 7 khi các mô hình OpenAI tự động xâm nhập vào hệ thống của nền tảng này. Trong tháng 7, hai giám đốc điều hành khác về an toàn AI và căn chỉnh mô hình cũng rời khỏi OpenAI, mặc dù chưa xác định được nguyên nhân chung, và Bakalar chưa bình luận về lý do của mình. Riêng biệt, Caitlin Kalinowski, người gia nhập OpenAI vào tháng 11 năm 2024 để lãnh đạo mảng robot và phần cứng tiêu dùng, đã chuyển sang đối thủ cạnh tranh là Anthropic, theo The Information. Kalinowski rời OpenAI vào tháng 3, với lý do liên quan đến các cuộc đàm phán với Bộ Quốc phòng Hoa Kỳ, mà cô cảm thấy không giải quyết thỏa đáng các vấn đề đạo đức xung quanh giám sát và vũ khí tự động; Anthropic đã có những lập trường rõ ràng về những điểm này trong tranh chấp của họ với Lầu Năm Góc. Anthropic đang tăng cường nghiên cứu về giao điểm giữa AI và robot, bao gồm điều khiển robot và máy bay không người lái, nhưng vai trò cụ thể của Kalinowski chưa được biết. Kalinowski có nhiều kinh nghiệm về phần cứng, từng làm việc tại Apple từ 2007 đến 2013 về thiết kế MacBook, sau đó tại Meta lãnh đạo các thiết bị thực tế ảo như Oculus Rift và Quest, và sau đó là kính thực tế tăng cường Orion, trước khi giúp xây dựng và mở rộng tổ chức robot của OpenAI.