Gần đây tôi đã chú ý đến một nghiên cứu an ninh về nhận diện dấu vân tay của mô hình LLM, phát hiện ra một hiện tượng thú vị.

Chúng tôi thường cho rằng các phương pháp nhận diện đặc trưng của một số LLM là khá ổn định, nhưng trong môi trường đối kháng thực tế, tình hình phức tạp hơn nhiều. Nghiên cứu này đã áp dụng một giả thuyết rất thực tế - giả định rằng bên lưu trữ có ý định xấu. Trong kịch bản triển khai mô hình mã nguồn mở, máy chủ độc hại hoàn toàn có thể thực hiện các biện pháp nhắm mục tiêu.

Chìa khóa là gì? Kẻ tấn công không cần phải phá hủy chức năng của mô hình, chỉ cần âm thầm xóa hoặc làm sai lệch những đặc điểm dấu vân tay được sử dụng để nhận diện danh tính ở phía sau.

Nhóm nghiên cứu đã thử nghiệm 10 giải pháp nhận diện vân tay phổ biến, kết quả khá đáng kể - trong các cuộc tấn công có chủ đích, 9 trong số các giải pháp đã bị phá vỡ thành công. Điều này cho thấy hầu hết các công nghệ vân tay hiện có không ổn định như mong đợi khi đối mặt với các mối đe dọa thực sự. Điều này thực sự đáng để các nhà phát triển theo đuổi nguồn gốc mô hình và xác thực xem xét lại chiến lược bảo vệ hiện tại.