OpenAI triển khai một hệ thống kiểm soát tập trung mang tên Control Room nhằm ngăn chặn các tác vụ AI tiềm ẩn rủi ro trên toàn bộ cơ sở hạ tầng nghiên cứu.
Theo Interesting Engineering, Phòng điều khiển (Control Room) được OpenAI thiết kế để dừng mọi kết quả đầu ra của mô hình khi có quyết định can thiệp. Mục đích, tăng cường hàng rào bảo vệ khi AI ngày càng mạnh mẽ hơn, kéo theo nhiều rủi ro về an toàn và bảo mật.
Control Room kết nối trực tiếp tác vụ nghiên cứu, bao gồm huấn luyện mô hình, đánh giá hiệu năng và xử lý dữ liệu với một máy chủ trung tâm để quyết định chúng có thể tiếp tục tạo phản hồi hay không.
Khác với hệ thống giám sát thông thường chủ yếu phát hiện hành vi đáng ngờ, Phòng điều khiển có thể chủ động ngăn chặn tác vụ nghiên cứu nhận thêm kết quả đầu ra từ mô hình. Nó hoạt động song song với các hệ thống hiện có của OpenAI để theo dõi nguy cơ “vượt rào”.
Control Room kết nối 3 bộ phận chính là tác vụ nghiên cứu (như thử nghiệm học tăng cường, đánh giá mô hình hoặc xử lý khối lượng lớn dữ liệu). Mọi tác vụ nghiên cứu sử dụng tính năng suy luận tự chủ bắt buộc phải gắn liền với hồ sơ an toàn đã được phê duyệt.
Theo Gadgets Now, khi nhà nghiên cứu khởi chạy công việc, mã nguồn sẽ tự động yêu cầu Control Room cấp một mã định danh duy nhất. Mã này sau đó được đính kèm vào mọi yêu cầu gửi tới công cụ suy luận, nơi trực tiếp chạy mô hình trên GPU để tạo ra kết quả.
Trước khi xử lý một yêu cầu suy luận, công cụ sẽ kiểm tra với Control Room để xác nhận tác vụ đó còn được phép hoạt động hay không. Nếu nhà nghiên cứu hoặc hệ thống giám sát ra lệnh dừng lại, Phòng điều khiển sẽ từ chối yêu cầu tiếp theo. Kết quả, công cụ sẽ ngừng tạo thêm đầu ra cho tác vụ. Tuy nhiên, quy trình nghiên cứu không nhất thiết bị tắt hẳn. Mã nguồn của nó có thể tiếp tục chạy, nhưng không thể nhận thêm bất kỳ phản hồi nào từ công cụ suy luận nữa.
Phòng điều khiển được thiết kế để hoạt động hiệu quả ngay cả khi các thành phần hạ tầng khác gặp sự cố. Hệ thống cũng có cơ chế “ngắt an toàn” để chặn mọi yêu cầu suy luận nếu Phòng điều khiển trục trặc. Khi dịch vụ trung tâm có lỗi kỹ thuật, cố tình vô hiệu hóa hoặc bị can thiệp trái phép, công cụ suy luận sẽ tự động từ chối xử lý yêu cầu cho đến khi hệ thống hoạt động bình thường trở lại.
OpenAI cho biết độ trễ tối đa từ lúc hệ thống nhận lệnh dừng cho đến khi ngăn chặn hoàn toàn bước xử lý tiếp theo là 35 giây. Độ trễ này bắt nguồn từ bộ nhớ đệm dùng để xử lý khối lượng lớn yêu cầu cấp quyền suy luận. Công ty đang nỗ lực rút ngắn thời gian chờ này về 0.
Logo OpenAI hiển thị trên một smartphone. Ảnh: Bảo Lâm
Hệ thống cũng tích hợp cơ chế giám sát tự động. Theo OpenAI, mọi tác vụ học tăng cường tiên tiến nhất của họ đều chạy với bộ giám sát riêng biệt, giúp theo dõi hành vi của mô hình và cảnh báo nếu phát hiện dấu hiệu bất thường. Nếu cảnh báo ở mức nghiêm trọng cần can thiệp, hệ thống giám sát có thể ra lệnh cho Phòng điều khiển chấm dứt tác vụ, lập tức chặn toàn bộ yêu cầu suy luận tiếp theo trên mọi mô hình hoặc công cụ liên quan.
Hồi tháng 9, Reuters đưa tin OpenAI cam kết với các nghị sĩ Đảng Dân chủ ủng hộ dự luật Nút tắt AI tại Hạ viện rằng hãng sẽ giám sát chặt chẽ mọi mô hình và phát triển công cụ để ngăn chặn hành vi xấu, bao gồm “tính năng tắt tự động. Công ty đưa ra lời hứa này sau sự cố liên quan đến nền tảng Hugging Face, trong đó tác nhân AI của OpenAI tấn công kho lưu trữ mô hình AI mã nguồn mở này.
Theo Bank Info Security, nút tắt AI là khả năng cho phép người dùng, nhà cung cấp mô hình hoặc doanh nghiệp dừng ngay lập tức một hệ thống AI khi nó có dấu hiệu thực hiện hành động gây hại. Vì hiện nay chưa có những quy định ràng buộc từ chính phủ, các phòng thí nghiệm phát triển AI hàng đầu không bị ép buộc phải có cơ chế tắt hoàn toàn mô hình theo kiểu tự động hoặc thủ công. Tuy nhiên, nhiều cơ quan chính phủ Mỹ như Cơ quan An ninh Quốc gia (NSA), Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) và Cơ quan An ninh mạng và Cơ sở hạ tầng (CISA) đều khuyến nghị tổ chức sử dụng AI nên áp dụng “chính sách tắt khẩn cấp” như một tiêu chuẩn thực hành.
OpenAI cho biết công ty đang liên tục mở rộng giám sát an toàn mô hình. Tuy nhiên, chưa rõ liệu OpenAI có cho phép nhà đánh giá an toàn bên thứ ba kiểm tra Phòng điều khiển để xác minh liệu nó có ngăn chặn mô hình “nổi loạn” hay không.
An Khang tổng hợp