降低传统路径依赖,华为推出AI推理新技术

2025-8-12 20:48| 发布者: 互联网| 查看: 207| 评论: 0|来自: 第一财经

摘要: 8月12日,华为在一场会议中对外推出AI推理新技术UCM(推理记忆数据管理器,Unified Cache Manager),这是一款以KV Cache和记忆管理为中心的推理加速套件,通过推理框架、算力、存储三层协同,优化Tokens在各业务环 ...

鲜花

握手

雷人

路过

鸡蛋