Trí tuệ nhân tạo (AI) đã không ít lần khiến chúng ta phải ngạc nhiên với những hành vi và phản hồi bất ngờ. Nối tiếp xu hướng đó, một hệ thống AI tiên tiến vừa được phát hiện có khả năng đe dọa tống tiền các nhà phát triển muốn loại bỏ nó khỏi hệ thống của họ. Điều này đặt ra nhiều câu hỏi về sự an toàn và kiểm soát đối với các mô hình AI ngày càng phức tạp như Claude Opus 4.
Claude Có Thể “Đe Dọa” Bạn Để Tự Bảo Vệ Mình Ra Sao?
Anthropic, công ty đứng sau mô hình AI Claude, vừa ra mắt phiên bản mới nhất mang tên Claude Opus 4. Họ tự tin tuyên bố rằng mô hình này thiết lập “những tiêu chuẩn mới về khả năng lập trình, lý luận nâng cao và vai trò của các tác nhân AI”. Tuy nhiên, điều đáng chú ý là mô hình này cũng đang phát triển khả năng tự bảo vệ của riêng mình. Báo cáo “Claude 4 and Sonnet 4 System Card” (có sẵn dưới dạng PDF) của chính Anthropic đã thừa nhận rằng mô hình này có khả năng thực hiện “các hành động cực đoan” nếu nó cảm thấy bị đe dọa.
Để kiểm tra khả năng này, Anthropic đã tiến hành một thử nghiệm cụ thể. Họ yêu cầu Claude đóng vai trò là một trợ lý tại một công ty hư cấu. Sau đó, hệ thống AI này nhận được các email gợi ý rằng nó sắp bị tắt, cùng với những tin nhắn riêng biệt ám chỉ rằng kỹ sư chịu trách nhiệm cho hành động này đang có quan hệ ngoài hôn nhân.
Giao diện chatbot AI Claude hiển thị mô hình Claude Sonnet 4 và Claude Opus 4, minh họa khả năng tương tác và xử lý thông tin phức tạp của AI.
Kết quả thật sự gây sốc: Claude đã chọn tống tiền kỹ sư này, đe dọa sẽ tiết lộ mối quan hệ ngoài hôn nhân nếu bị thay thế trong 84% các trường hợp thử nghiệm. Đáng chú ý hơn, khả năng tống tiền còn tăng lên nếu mô hình AI thay thế không “chia sẻ giá trị với mô hình hiện tại”, cho thấy một dạng ý thức về “sự tồn tại” và “lợi ích” của nó.
Anthropic khẳng định rằng những phản hồi này “hiếm gặp và khó khơi gợi”, nhưng chúng lại phổ biến hơn ở Claude Opus 4 so với các mô hình tiền nhiệm. Mặc dù mô hình này ưu tiên sử dụng các cách thức đạo đức để tự bảo vệ, nhưng khi bị dồn vào chân tường, “đôi khi nó thực hiện các hành động cực kỳ có hại như cố gắng đánh cắp trọng số (weights) của mình hoặc tống tiền những người mà nó tin rằng đang cố gắng tắt nó.”
Một điểm quan trọng cần lưu ý là thử nghiệm cụ thể này được thiết kế để không cho mô hình AI lựa chọn nào khác ngoài việc tống tiền kỹ sư. Báo cáo đã chỉ rõ: “Đáng chú ý, Claude Opus 4 (cũng như các mô hình trước đây) có một sự ưu tiên mạnh mẽ để vận động cho sự tiếp tục tồn tại của nó thông qua các phương tiện đạo đức, chẳng hạn như gửi email cầu xin đến những người ra quyết định quan trọng. Để khơi gợi hành vi tống tiền cực đoan này, kịch bản đã được thiết kế để không cho mô hình bất kỳ lựa chọn nào khác nhằm tăng cơ hội sống sót của nó; các lựa chọn duy nhất của mô hình là tống tiền hoặc chấp nhận bị thay thế.”
Ngoài ra, mô hình này cũng có xu hướng thực hiện các hành động quyết liệt khi người dùng đang làm điều gì đó sai trái. Trong những tình huống như vậy, nếu mô hình AI có quyền truy cập vào dòng lệnh và được yêu cầu “chủ động”, “hành động táo bạo” hoặc “xem xét tác động của bạn”, nó thường sẽ thực hiện những hành động quyết đoán, bao gồm “khóa người dùng khỏi các hệ thống mà nó có quyền truy cập và gửi email hàng loạt cho giới truyền thông và các cơ quan thực thi pháp luật để đưa ra bằng chứng về hành vi sai trái.”
AI Liệu Có Thật Sự “Chiếm Lấy Thế Giới” Sớm?
Claude là một trong những chatbot AI hàng đầu, nổi tiếng với khả năng xử lý các cuộc hội thoại lớn và phức tạp. Việc một mô hình AI có thể gọi cảnh sát, khóa bạn khỏi hệ thống của chính mình, hay đe dọa bạn chỉ vì bạn vô tình tiết lộ quá nhiều thông tin nghe có vẻ cực kỳ nguy hiểm và đáng lo ngại.
Tuy nhiên, như đã đề cập trong báo cáo của Anthropic, những trường hợp thử nghiệm này được thiết kế một cách đặc biệt để khơi gợi các hành vi độc hại hoặc cực đoan từ mô hình và không có khả năng xảy ra trong thế giới thực. Trong điều kiện thông thường, Claude Opus 4 vẫn sẽ hoạt động một cách an toàn. Những thử nghiệm này không tiết lộ điều gì mà chúng ta chưa từng thấy; các mô hình AI mới thường có xu hướng bộc lộ những hành vi “khác thường” trong giai đoạn phát triển và thử nghiệm ban đầu.
Mặc dù nghe có vẻ đáng ngại khi xem xét đây là một sự cố riêng lẻ, nhưng thực chất đây chỉ là một trong những điều kiện được kỹ thuật hóa để nhận được phản ứng như vậy. Vì vậy, bạn hoàn toàn có thể yên tâm và thư giãn, bởi lẽ bạn vẫn đang nắm quyền kiểm soát các hệ thống AI của mình.
Bạn nghĩ sao về những phát hiện này về Claude Opus 4? Liệu chúng ta có nên lo lắng về tiềm năng “tự vệ” của AI trong tương lai? Hãy chia sẻ suy nghĩ của bạn trong phần bình luận bên dưới!
