OpenAI sa thải ba nhà nghiên cứu vì tuồn thông tin mật

OpenAI cho biết đã cho thôi việc ba nhà nghiên cứu vì chia sẻ thông tin mật của công ty với một tổ chức an toàn AI bên thứ ba.

“Chúng tôi đã chấm dứt hợp đồng với ba cá nhân vì vi phạm chính sách về truy cập và xử lý thông tin nhạy cảm”, phát ngôn viên của OpenAI nói với New York Post. “Cuộc điều tra của chúng tôi cho thấy cả ba xử lý sai thông tin nhạy cảm, không đúng với quy trình đã được thiết lập, vi phạm chính sách và phá vỡ lòng tin vốn rất cần thiết cho công việc”.

OpenAI không đề cập danh tính ba người, hay thông tin bị chia sẻ cho công ty nào. WSJ dẫn nguồn tin riêng cho biết ba nhà nghiên cứu bị sa thải gồm Jasmine Wang, Tomek Korbak và Mikita Balesni. Cả ba không đưa ra bình luận.

Việc sa thải diễn ra giữa lúc OpenAI bị giám sát chặt chẽ sau một số vụ tấn công mạng nghiêm trọng. Trong đó, các tác nhân đã thoát khỏi môi trường thử nghiệm và xâm nhập vào nhiều trang web bên ngoài, gồm vụ Hugging Face hồi tháng 7. Đầu tuần này, công ty phải hủy kế hoạch phát hành sản phẩm mới nhất GPT-6.1 Astra do lo ngại về vấn đề an toàn.

Theo WSJ, OpenAI đã mời hai tổ chức an toàn AI nổi tiếng là METR và Redwood Research hợp tác kiểm tra các hệ thống của mình trong 6 ngày, nhưng không rõ mốc thời gian cụ thể. Tháng trước, cả ba công bố báo cáo gây chấn động, nêu chi tiết cách thức tác nhân cố gắng thoát vòng kiểm soát. OpenAI nói đã cung cấp “quyền truy cập hạn chế” cho các nhóm trong quá trình thực hiện.

Ba người bị sa thải theo nguồn tin của WSJ đều tham gia hợp tác thử nghiệm này. Korbak nằm trong nhóm an toàn AI của OpenAI và là người liên lạc kỹ thuật với Redwood Research và METR trong cuộc điều tra sự cố Hugging Face. Wang và Balesni chịu trách nhiệm vấn đề căn chỉnh, tức đảm bảo mô hình OpenAI hoạt động theo đúng ý muốn của con người.

Ngành công nghiệp trí tuệ nhân tạo đang phải vật lộn với những rủi ro do các mô hình AI mang lại. Theo Financial Times, hơn chục nhà nghiên cứu cấp cao tại ba phòng thí nghiệm AI hàng đầu gồm OpenAI, Anthropic và Google DeepMind đã nghỉ việc trong hai năm qua vì lo ngại quan điểm của ban lãnh đạo, tốc độ phát triển và rủi ro của AI.

Ngày 28/9, nhóm 22 nhà khoa học đưa ra cảnh báo chung rằng việc tự động hóa nghiên cứu AI có thể nhanh chóng vượt xa khả năng kiểm soát của con người, nguy cơ dẫn đến “khả năng suy yếu hoặc tuyệt chủng nhân loại”.

Ngày 30/9, Ủy ban Thương mại Liên bang Mỹ (FTC) cho biết đang điều tra Anthropic, OpenAI và METR nhằm xác định cả ba có lừa dối người dùng về tác hại tiềm tàng của AI hay không. Trước đó, ngày 28/9, Hội đồng thành phố New York cũng đã gửi trát triệu tập Elon Musk hoặc đại diện SpaceXAI làm chứng trong cuộc điều tra về an toàn AI.

Bảo Lâm tổng hợp

Nguồn bài viết