红帽推出IIm-d社区 打造大规模分布式AI推理“Linux”
正文快照: 近日,开源解决方案提供商红帽公司宣布启动全新开源项目11m-d,通过增强vLLM(虚拟大语言模型)的能力,推动形成大规模分布式生成式AI推理的行业标准。具体而言,11m-d采用原生Kuber-netes架构、基于vLLM的分布式推理和智能AI感知网络路由,可以将先进的推理能力集成到现有的企业I
手机阅读本文
下载APP 手机查看本文
IT时报
2025年05月30日
立即查看 >
图书推荐
相关工具书