AI推理引擎vLLM的创建者近日成立创业公司Inferact,并在种子轮融资中获得1.5亿美元,估值达8亿美元。本轮融资由a16z和Lightspeed领投,多家知名风投参与。Inferact旨在将vLLM发展为世界领先的AI推理引擎,通过降低成本和提升速度加速AI应用。vLLM作为开源推理加速框架,已支持500多种模型架构和200多种加速器,被Meta、谷歌等公司广泛使用。公司创始团队包括vLLM核心贡献者,计划继续推进开源项目并开发商业产品,以应对未来AI推理算力需求。

文章版权声明 1 本网站名称:凉西西小圈
2 本站永久网址:https://www.xcxybbs.cn
3 本网站的文章部分内容可能来源于网络,仅供大家学习与参考,如有侵权,请联系站长 QQ418005852进行删除处理。
4 本站一切资源不代表本站立场,并不代表本站赞同其观点和对其真实性负责。
5 本站一律禁止以任何方式发布或转载任何违法的相关信息,访客发现请向站长举报
6 本站资源大多存储在云盘,如发现链接失效,请联系我们我们会第一时间更新。
© 版权声明