Anthropic cảnh báo trí tuệ nhân tạo (AI) có thể sắp đạt đến khả năng tự cải tiến đệ quy (Recursive Self-Improvement, RSI), cho phép các hệ thống AI tham gia phát triển những thế hệ AI mạnh hơn. Tuy nhiên, công ty cũng thừa nhận tốc độ tiến bộ này có thể vượt quá khả năng kiểm soát và triển khai các biện pháp an toàn.
Thông tin được Anthropic đề cập trong hồ sơ S-1/A cập nhật ngày 2/11/2026. Bên cạnh những số liệu tài chính, công ty đã bổ sung các cảnh báo về rủi ro khi sử dụng AI để đẩy nhanh quá trình nghiên cứu và phát triển các mô hình mới.
AI tự cải tiến đệ quy là gì?
Recursive Self-Improvement (RSI) là khái niệm mô tả khả năng một hệ thống AI tham gia cải thiện chính công nghệ tạo ra nó. Khi AI đủ năng lực hỗ trợ thiết kế, huấn luyện hoặc tối ưu một mô hình mạnh hơn, mô hình mới có thể tiếp tục được sử dụng để phát triển thế hệ kế tiếp, tạo thành một vòng lặp cải tiến liên tục.
Khác với việc AI hỗ trợ lập trình hay xử lý dữ liệu như hiện nay, RSI có thể khiến tốc độ phát triển công nghệ tăng mạnh qua từng thế hệ. Đây được xem là một trong những bước tiến quan trọng hướng đến các hệ thống AI có năng lực ngày càng cao, nhưng cũng đặt ra câu hỏi về khả năng giám sát của con người.
Anthropic cho biết công ty đã sử dụng AI trong hoạt động nghiên cứu và phát triển. Tuy nhiên, việc ứng dụng AI để tạo ra những mô hình mạnh hơn có thể gây ra rủi ro đáng kể về an toàn, đặc biệt khi tốc độ cải tiến tăng nhanh đến mức các biện pháp bảo vệ không theo kịp.
Đáng chú ý, Anthropic thừa nhận từng không nhận diện được sự tăng tốc đáng kể trong quá trình phát triển cho đến khi hiện tượng này đã xảy ra. Công ty cảnh báo tình huống tương tự có thể tiếp tục xuất hiện khi AI tham gia ngày càng sâu vào hoạt động nghiên cứu.
Anthropic chưa có mô hình nào đạt ngưỡng RSI
Theo những ước tính nội bộ và dự đoán dành cho các mô hình tương lai, Anthropic cho rằng công ty có thể sớm đạt đến ngưỡng tiến bộ tăng tốc mạnh nhờ AI, được xác định trong chính sách Responsible Scaling Policy. Đây là một trong những dấu hiệu liên quan đến khả năng tự cải tiến đệ quy.
Tuy nhiên, Anthropic nhấn mạnh chưa có mô hình hiện tại nào được xác định là đã vượt qua ngưỡng này. Công ty vẫn đang tiếp tục đánh giá dữ liệu và chưa đưa ra bằng chứng cho thấy Claude có thể hoàn toàn tự thiết kế, huấn luyện và phát triển những thế hệ AI tiếp theo.
Anthropic cũng cho biết chưa kỳ vọng có thể sử dụng Claude một cách an toàn để tự động phát triển các thế hệ mô hình AI tiên tiến mà không cần sự giám sát hoặc hiểu biết thực chất từ con người, ngay cả khi khả năng đó trở nên khả thi về mặt kỹ thuật.
Để chuẩn bị cho giai đoạn này, công ty đang xem xét cập nhật Responsible Scaling Policy nhằm duy trì quyền kiểm soát của con người trong quá trình phát triển các mô hình AI tiên tiến. Chính sách này cũng bao gồm việc theo dõi và giảm thiểu những rủi ro khi AI tiến gần khả năng tự cải tiến.
Cảnh báo của Anthropic xuất hiện trong bối cảnh năng lực của Claude đã có những bước tiến đáng kể về lập trình, toán học và an ninh mạng trong năm 2026. Dù RSI vẫn chưa được xác nhận trên các mô hình hiện tại, khả năng AI đẩy nhanh chính quá trình phát triển của mình đang trở thành một vấn đề an toàn được Anthropic đặc biệt quan tâm.
