Cohere Phát hành Command A+, Mô hình mã nguồn mở tham số 218B cho tác nhân AI doanh nghiệp

Theo Beating, Cohere đã phát hành Command A+, một mô hình open source dạng mixture-of-experts với tổng 218 tỷ tham số theo giấy phép Apache 2.0. Được thiết kế cho tác nhân AI doanh nghiệp và triển khai dữ liệu thuộc chủ quyền, mô hình chỉ kích hoạt 25 tỷ tham số cho mỗi lần suy luận, cho phép chạy trên hai GPU NVIDIA H100 hoặc một GPU B200, với các phiên bản đã lượng tử hóa (quantized) có sẵn trên Hugging Face.

Command A+ hỗ trợ đầu vào đa phương thức hình ảnh và văn bản với cửa sổ ngữ cảnh 128K token và độ dài đầu ra 64K token. Mô hình được tối ưu cho suy luận logic, sử dụng công cụ tự động, truy vấn cơ sở dữ liệu và xử lý tài liệu dài, đồng thời hỗ trợ 48 ngôn ngữ bao gồm tất cả các ngôn ngữ chính thức của EU.