Công ty Anthropic cho biết AI Claude đang dẫn dắt khoảng 26% hoạt động nghiên cứu và phát triển (R&D) mô hình tiếp theo của công ty.
Trên blog ngày 17/9, Anthropic cho biết, để đánh giá mức độ Claude tham gia nghiên cứu và phát triển AI, công ty sử dụng thang đo tự động hóa do Epoch AI phát triển. Trong đó, mức thấp nhất là AL0 – không có sự tham gia của AI, và cao nhất là AL5 – AI vận hành hoàn toàn tự chủ, con người không can thiệp.
Kết quả, tính đến tháng 8, 26% hoạt động R%D đạt mức AL4 – AI dẫn dắt, có nghĩa Claude có thể hoàn thành hầu hết nhiệm vụ từ đầu đến cuối dựa trên câu lệnh cấp cao, con người chỉ giám sát. Hơn 90% công việc đạt AL3 – AI hợp tác, tức Claude thực hiện những phần việc lớn dưới sự hướng dẫn chặt chẽ của con người.
Theo Anthropic, Claude không vận hành hoàn toàn tự chủ trong bất cứ phần công việc nào được đo lường. Tuy nhiên, mức đóng góp của AI vào quá trình phát triển công nghệ tại công ty tăng vọt so với hồi tháng 3, khi tỷ lệ R&D đạt mức AL4 chỉ chiếm 1%.
Startup này đánh giá, trong bối cảnh thế giới cân nhắc điều tiết tốc độ phát triển mô hình tiên tiến, các công ty nên làm mọi thứ có thể để thu hẹp khoảng cách giữa những gì các phòng thí nghiệm tiên tiến biết và những gì công chúng biết. Đồng nghĩa, cần đo lường sự phát triển của AI tốt hơn, báo cáo công khai và tạo cơ hội cho xã hội quyết định cách sử dụng những thông tin này.
Theo Anthropic, thông tin các mô hình tự thúc đẩy quá trình phát triển có thể khiến con người khó hiểu hoặc kiểm soát chúng hơn. Do đó, việc chia sẻ số liệu như trên có thể giúp thế giới hiểu hơn những phòng thí nghiệm AI hàng đầu đang tiến gần khả năng “tự cải tiến đệ quy” (mô hình tự phát triển phiên bản kế nhiệm mạnh hơn) đến mức nào.
Logo ứng dụng AI Claude của Anthropic trên điện thoại. Ảnh: Lưu Quý
Anthropic công khai số liệu mới giữa lúc giới công nghệ tranh luận gay gắt xung quanh vấn đề an toàn AI. Cuộc tranh luận bắt đầu tuần trước, khi Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm cho OpenAI, tuyên bố từ chức. “Ba năm qua, tôi đã nghiên cứu về quá trình huấn luyện trước AI cả ở Anthropic và OpenAI. Không công ty nào hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta”, Coxon viết trên X hôm 9/9.
Cuối tuần qua, CEO Anthropic Dario Amodei đăng bài luận dài 3.800 từ trên blog, cho biết ông đã tiến hành phân tích nhiều tháng qua và tin chắc cần làm chậm quá trình phát triển AI. Nhiều lãnh đạo công nghệ như CEO OpenAI Sam Altman hay CEO Tesla Elon Musk cũng đồng ý rằng cần giảm tốc độ phát triển AI để đảm bảo an toàn.
Tuy nhiên, Tổng thống Mỹ Donald Trump phản đối việc đặt ra giới hạn phát triển trí tuệ nhân tạo, gọi lời cảnh báo AI hủy diệt thế giới là “trò bịp bợm”. CEO Nvidia Jensen Huang ủng hộ lập trường của ông Trump, rằng an toàn rất quan trọng trong phát triển AI nhưng trách nhiệm đảm bảo tiến hành thử nghiệm đúng cách thuộc về mỗi công ty và không cần ban hành thêm luật hay quy định mới.
Thu Thảo tổng hợp