AI推理引擎vLLM的创建者近日成立创业公司Inferact,并在种子轮融资中获得1.5亿美元,估值达8亿美元。本轮融资由a16z和Lightspeed领投,多家知名风投参与。Inferact旨在将vLLM发展为世界领先的AI推理引擎,通过降低成本和提升速度加速AI应用。vLLM作为开源推理加速框架,已支持500多种模型架构和200多种加速器,被Meta、谷歌等公司广泛使用。公司创始团队包括vLLM核心贡献者,计划继续推进开源项目并开发商业产品,以应对未来AI推理算力需求。
© 版权声明
文章版权归作者所有,未经允许请勿转载。

