Claude Mythos có đe doạ an ninh tài chính không? Bộ trưởng Tài chính Mỹ và Chủ tịch Cục Dự trữ Liên bang triệu tập họp khẩn để cảnh báo rủi ro

Bộ trưởng Tài chính Mỹ và Chủ tịch Cục Dự trữ Liên bang (Fed) khẩn cấp triệu tập các lãnh đạo cấp cao phố Wall, đưa ra cảnh báo về mô hình mới nhất Mythos của Anthropic. Giới chức đã phân loại mô hình này là rủi ro hệ thống đối với hệ thống tài chính.

Các lãnh đạo tài chính khẩn cấp triệu tập các lãnh đạo cấp cao phố Wall, mối đe dọa mạng do AI gây ra được nâng cấp thành rủi ro hệ thống

Theo tường thuật của Bloomberg, Bộ trưởng Tài chính Mỹ Scott Bessent và Chủ tịch Fed Jerome Powell vào tuần trước đã khẩn cấp triệu tập các giám đốc điều hành ngân hàng lớn tại trụ sở Bộ Tài chính ở Washington, DC, để đưa ra cảnh báo về rủi ro an ninh mạng tiềm ẩn mà mô hình mới nhất của công ty AI Anthropic, “Claude Mythos Preview”, có thể gây ra.

Các lãnh đạo ngân hàng tham dự cuộc họp bao gồm CEO Tập đoàn Citigroup Jane Fraser, CEO Morgan Stanley Ted Pick, CEO Bank of America Brian Moynihan, CEO Wells Fargo Charlie Scharf và CEO Goldman Sachs David Solomon; CEO JPMorgan Jamie Dimon thì không thể tham dự. Tất cả các tổ chức trên đều được cơ quan quản lý xếp vào nhóm các tổ chức tài chính quan trọng mang tính hệ thống.

Cuộc họp này có sự tham dự trực tiếp của Bộ trưởng Tài chính và Chủ tịch Fed, được giới trong ngành xem là một động thái bất thường. Trong quá khứ, sự can thiệp của chính phủ vào rủi ro AI chủ yếu dừng ở cấp độ các nhóm công tác của các tổ chức; nay đã được nâng lên mức cảnh báo trực tiếp của những lãnh đạo cao nhất của cơ quan tài chính đối với rủi ro. Điều này cho thấy giới chức đã xác định mối đe dọa mạng do AI là rủi ro hệ thống đối với sự ổn định của hệ thống tài chính.

Khả năng của mô hình Mythos ấn tượng, có thể tự phát hiện lượng lớn lỗ hổng zero-day

Theo tài liệu kỹ thuật do Anthropic công bố cùng ngày, Mythos có khả năng nhận diện và khai thác lỗ hổng trên tất cả các hệ điều hành và trình duyệt web phổ biến. Ở giai đoạn thử nghiệm, mô hình tự tìm ra hàng nghìn lỗ hổng zero-day trước đây chưa từng được biết đến (zero-day vulnerabilities), bao gồm một lỗ hổng tồn tại âm thầm trong Hệ điều hành nguồn mở thiên về bảo mật OpenBSD suốt 27 năm; ngoài ra, mô hình cũng phát hiện một lỗ hổng trong thư viện xử lý video FFmpeg mà ngay cả khi chạy bằng công cụ kiểm thử tự động 5000000 lần quy trình cũng không thể phát hiện ra.

Các nhà nghiên cứu của Anthropic nhấn mạnh rằng khả năng phát hiện lỗ hổng của Mythos bắt nguồn từ tiến bộ tổng thể của mô hình trong việc viết mã, suy luận và tính tự chủ, chứ không phải là kết quả của việc huấn luyện có chủ đích.

Trong tuyên bố, công ty nêu rằng, “Khả năng tương tự khiến mô hình hiệu quả hơn trong việc vá lỗ hổng cũng khiến nó hiệu quả hơn trong việc khai thác lỗ hổng.” Cách diễn đạt này làm nổi bật tính hai mặt của Mythos: ranh giới giữa phòng thủ và tấn công gần như bị xóa nhòa trước các mô hình như vậy.

Anthropic từ chối công bố công khai, thu hẹp phạm vi truy cập thông qua “Project Glasswing”

Chính vì năng lực quá mạnh, Anthropic quyết định không công bố rộng rãi Mythos mà áp dụng chiến lược giới hạn truy cập, chỉ mở cho một số doanh nghiệp hợp tác nhất định. Công ty đồng thời thông báo khởi động kế hoạch hợp tác an ninh mạng mang tính phòng thủ mang tên “Project Glasswing” (“玻璃翼計劃”), phối hợp với hơn 40 đối tác doanh nghiệp như AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA... Mục tiêu là chủ động tìm ra và vá các lỗ hổng trong phần mềm quan trọng trước khi kẻ tấn công ra tay.

Nguồn hình: X/@AnthropicAI Anthropic đồng bộ thông báo khởi động kế hoạch hợp tác an ninh mạng mang tính phòng thủ mang tên “Project Glasswing” (“玻璃翼計劃”)

Anthropic cho biết: “Vì năng lực của mô hình là rất mạnh, chúng tôi áp dụng thái độ thận trọng trong cách phát hành. Chúng tôi đang hợp tác với một nhóm nhỏ khách hàng truy cập sớm để thử nghiệm mô hình này và tin rằng đây là thế hệ đột phá nhất mà chúng tôi đã xây dựng cho đến nay.”

Công ty cũng tiết lộ rằng họ đã thuyết trình cho quan chức chính phủ về các kịch bản ứng dụng tấn công-phòng thủ của Mythos và tiếp tục làm việc với Cơ quan An ninh mạng và Cơ sở hạ tầng an ninh (CISA) của Mỹ cũng như Trung tâm Đổi mới Tiêu chuẩn AI. Mối quan tâm tiếp theo của dư luận tập trung vào việc cơ quan quản lý sẽ xây dựng các tiêu chuẩn thẩm định phát hành cho các mô hình tương tự như thế nào, các tổ chức tài chính cần thực hiện các biện pháp phòng thủ cụ thể ra sao, và liệu sự phối hợp giữa các cơ quan giám sát quốc tế có theo kịp tốc độ tiến hóa công nghệ hay không.

Bài viết này do Agent mã hóa tổng hợp thông tin từ các bên, do《加密城市》biên tập và kiểm duyệt, hiện vẫn đang trong giai đoạn huấn luyện, có thể tồn tại sai lệch logic hoặc sai số thông tin; nội dung chỉ mang tính tham khảo, vui lòng không coi đây là lời khuyên đầu tư.