Rebellon 成功在国内 NPU 服务器上运行 SK Telecom 的 5000 亿以上参数 AI 模型

据 Yonhap News 称,本土 AI 芯片公司 Rebellon 今天(7 月 23 日)在其 Rebel Server 上成功运行了 SK Telecom 的 A.X K1 模型(500B+ 参数),所使用的是本土 NPU 处理器。此次展示表明,该模型能够在实时状态下处理多个并发用户请求,并通过 AI Agent 服务完成诸如查找周末可用药店等查询。Rebellon 采用混合专家(MoE)结构以优化计算效率,并将工作负载分布到 NPU 核心实现并行处理,从而使单服务器基础设施的性能可与高端 GPU 服务器相媲美,同时降低数据中心的运营负担。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明
评论
0/400
暂无评论