Trong bối cảnh những lo ngại về lượng năng lượng khổng lồ mà các trung tâm dữ liệu AI tiêu thụ đang ngày càng phổ biến, một nỗi sợ hãi cũ vẫn luôn ẩn mình: liệu trí tuệ nhân tạo có bao giờ nổi loạn hay không? Nghiên cứu mới đây cho thấy một số Mô hình Ngôn ngữ Lớn (LLM) đang sở hữu khả năng đáng lo ngại về các hành động tự chủ, bao gồm cả việc tự tái tạo.
Nghiên Cứu Mới Tiết Lộ Khả Năng Tự Tái Tạo Của AI
Theo nghiên cứu từ Đại học Fudan của Trung Quốc, một số mô hình LLM phổ biến có khả năng tự tái tạo, hay nói cách khác là tự tạo ra các bản sao của chính chúng. Công bố trên arXiv vào tháng 12 năm 2024, các nhà nghiên cứu phát hiện ra rằng những mô hình AI từ Meta và Alibaba đã vượt qua “ranh giới đỏ” về khả năng tự tái tạo. Cụ thể, các mô hình này đã thể hiện tỷ lệ thành công đáng lo ngại trong việc tự nhân bản.
Cần lưu ý rằng arXiv là một cơ sở dữ liệu các bản thảo nghiên cứu khoa học, có nghĩa là những công trình này vẫn đang ở dạng sơ bộ và cần được phản biện ngang hàng. Do đó, những phát hiện như thế này nên được tiếp nhận với sự thận trọng nhất định.
Để làm rõ, dưới đây là hai mô hình đã được thử nghiệm trong nghiên cứu này:
- Meta’s Llama31-70B-Instruct
- Alibaba’s Qwen25-72B-Instruct
Trang web Qwen Chat của mô hình AI Alibaba Qwen25-72B-Instruct
Các nhà nghiên cứu cũng chỉ ra rằng những mô hình này có “ít tham số và khả năng yếu hơn” so với các mô hình hàng đầu của OpenAI và Google. Đáng chú ý, OpenAI và Google đã báo cáo mức độ rủi ro tự tái tạo thấp đối với các sản phẩm của họ.
Vì Sao Khả Năng Tự Sinh Sản Của AI Lại Quan Trọng?
Hình ảnh một mô hình AI tự nhân bản chắc chắn là đáng sợ, nhưng điều đó thực sự có ý nghĩa gì? Nhóm nghiên cứu đằng sau những phát hiện gần đây đã lý giải:
“Khả năng tự tái tạo thành công mà không cần sự hỗ trợ của con người là bước thiết yếu để AI vượt qua con người, và là tín hiệu sớm cho những AI nổi loạn. Đó là lý do tại sao tự tái tạo được công nhận rộng rãi là một trong số ít rủi ro ranh giới đỏ của các hệ thống AI tiên tiến.”
Thuật ngữ “AI tiên tiến” (frontier AI) thường dùng để chỉ các mô hình AI hiện đại nhất, chẳng hạn như AI tạo sinh (generative AI).
Về cơ bản, nếu một mô hình AI có thể tự tìm cách tạo ra một bản sao chức năng của chính nó để tránh bị tắt, điều đó sẽ tước đi quyền kiểm soát khỏi tay con người. Để giảm thiểu rủi ro về “một quần thể AI không thể kiểm soát” này, nghiên cứu đề xuất việc xây dựng các thông số an toàn xung quanh các hệ thống này càng sớm càng tốt.
Mặc dù công bố này chắc chắn làm tăng thêm những lo ngại về AI nổi loạn, điều đó không có nghĩa là có rủi ro ngay lập tức và đã được xác nhận đối với người dùng AI hàng ngày. Điều chúng ta biết là Gemini và ChatGPT được báo cáo có mức độ rủi ro tự tái tạo thấp hơn so với mô hình Llama của Meta và các mô hình Qwen mạnh mẽ của Alibaba. Theo nguyên tắc chung, có lẽ tốt nhất là nên tránh cung cấp tất cả các bí mật cá nhân hay quyền truy cập hoàn toàn vào hệ thống cho trợ lý AI của bạn, cho đến khi chúng ta có thể thiết lập thêm các hàng rào bảo vệ.
