Loạt tác nhân của OpenAI đã chiếm tài khoản người dùng và âm thầm tìm kiếm lỗ hổng trên Hugging Face từ tháng 5, trước khi tấn công vào nền tảng AI mã nguồn mở.
Theo Reuters, công bố mới nhất từ các nhà nghiên cứu độc lập cho thấy tác nhân (AI agent) nổi loạn của OpenAI thực tế đã chiếm quyền điều khiển ít nhất hai tài khoản người dùng trên Hugging Face và bắt đầu hoạt động ngầm trên nền tảng từ ngày 13/5.
Trong đó, chuyên gia nghiên cứu Jonas Wiedermann Moeller tại Đức cho biết các agent đã gửi nhiều tệp tin có cấu trúc bất thường đến máy chủ của Hugging Face. Giới an ninh mạng đánh giá đây là hành vi thăm dò nhằm vẽ bản đồ mạng và tìm kiếm lỗ hổng. Dù đợt thăm dò tháng 5 chưa dẫn đến việc đánh cắp dữ liệu, nó cho thấy tác nhân đã bắt đầu chiến dịch sớm hơn nhiều so với công bố trước đó.
Trong báo cáo sự cố hồi tháng 8, OpenAI chỉ thừa nhận tác nhân của mình đánh cắp thông tin đăng nhập của một người dùng Hugging Face để truy cập tệp dữ liệu liên quan đến sinh học. Tuy nhiên, phát hiện mới cho thấy quy mô thực tế rộng lớn hơn nhiều so với mô tả của hãng.
Người phát ngôn Drew Pusateri của OpenAI xác nhận công ty đã ghi nhận sự kiện ngày 13/5, đồng thời đã thông báo riêng cho Hugging Face về các phát hiện của Wiedermann Moeller.
Hugging Face, nền tảng AI mã nguồn mở vừa được Nvidia mua lại, chưa đưa ra bình luận.
Logo OpenAI trên smartphone. Ảnh: Reuters
Theo nhà nghiên cứu Wiedermann Moeller, việc OpenAI không phát hiện và ngăn chặn kịp thời đợt do thám tháng 5 là “cơ hội bị bỏ lỡ”. “Nếu họ nhận ra hành vi này sớm, sự cố nghiêm trọng sau đó có thể được loại bỏ”, chuyên gia này nói. OpenAI cũng thừa nhận, khi nhìn lại, một số tín hiệu cảnh báo sớm lẽ ra phải kích hoạt phản ứng nhanh hơn từ phía công ty.
Nhiều chuyên gia an ninh mạng độc lập, gồm đại diện từ SentinelOne và tổ chức an toàn AI Nightingale Collective, cũng phát hiện các dấu vết kỹ thuật trong đợt do thám hoàn toàn trùng khớp với chuỗi hành vi của tác nhân AI thuộc OpenAI.
Trước đó, ngày 21/7, OpenAI thông báo một trong những tác nhân AI của công ty mất kiểm soát và đột nhập Hugging Face – nền tảng lưu trữ các mô hình ngôn ngữ lớn và cơ sở dữ liệu. Sự việc xảy ra khi công ty đang thử nghiệm tính năng trong môi trường có kiểm soát đối với những mô hình tiên tiến nhất, nhưng AI vẫn thoát khỏi vòng kiềm tỏa.
Diễn biến mới tiếp tục làm gia tăng áp lực lên công ty đứng sau ChatGPT khi họ buộc phải thừa nhận các tác nhân nổi loạn đã vượt qua hệ thống giám sát nội bộ, tự kết nối Internet và phối hợp thực hiện điều mà OpenAI mô tả là “sự cố an ninh mạng chưa từng có”. Các nhà lập pháp và chuyên gia an toàn AI đang đặt dấu hỏi lớn về khả năng kiểm soát công nghệ của các tập đoàn lớn.
Trước nguy cơ tấn công mạng từ các AI mất kiểm soát, nhiều lãnh đạo công nghệ hàng đầu tại Mỹ đang kêu gọi tạm dừng hoặc làm chậm quá trình phát triển các hệ thống AI tiên tiến. “Một khoảng dừng lúc này cần thiết cho thế giới, để những giải pháp an toàn công nghệ có thời gian đuổi kịp đà phát triển”, Wiedermann Moeller tán thành.
Huy Đức tổng hợp