您当前的位置：首页 > ai数字人

腾讯推理框架

时间：2025-04-14 13:59:18 来源：互联网作者：

AI导航网，AI网站大全，AI工具大全，AI软件大全，AI工具集合，AI编程，AI绘画，AI写作，AI视频生成，AI对话聊天等更多内容请查看 https://aiaiv.cn/

https://blog.csdn.net › article › details › 《深入分析 TNN、MNN 和 NCNN：为不同硬件平台挑选最佳 2025年2月1日 · 本文将从框架概述、性能对比、内存消耗、硬件支持等多个角度对 TNN、MNN 和 NCNN 进行详细对比，并介绍相关的推理公式和逻辑图。 TNN 是腾讯开发的高效深度学习推理更多内容请查看https://blog.csdn.net/2503_90221393/article/details/145412036

机器之心腾讯PCG自研高性能大语言模型推理引擎「一念LLM」正式开源2024年5月24日 · 腾讯 PCG 机器学习平台中心自研了高性能 LLM 推理引擎：一念 LLM。在传统的算子融合，ContinousBatching 等推理加速技术的基础上，通过显存优化，异步调度和计更多内容请查看https://www.jiqizhixin.com/articles/2024-05-24-7

【NCNN】腾讯ncnn推理框架的简介及安装-2024年1月15日 · ncnn（Ncnn Convolutional Neural Network）是一个轻量级的高性能深度学习框架，由腾讯公司开发。它专门为移动设备和嵌入式设备优化，旨在提供高效的推理性能和低更多内容请查看https://blog.csdn.net/hh1357102/article/details/131831741

SegmentFault 思否腾讯优图开源深度学习推理框架TNN，助力AI开发降本增效6月10日，腾讯优图实验室宣布正式开源新一代移动端深度学习推理框架TNN，通过底层技术优化实现在多个不同平台的轻量部署落地，性能优异、简单易用。更多内容请查看https://segmentfault.com/a/1190000045838669

腾讯TNN：跨平台深度学习推理框架的突破与优势-2022年9月12日 · 腾讯推理框架TNN简介简介 TNN是腾讯开源的新一代跨平台深度学习推理框架，是首个同时支持移动端、桌面端、服务端的全平台开源版本。 TNN新版本在通用性、易用更多内容请查看https://blog.csdn.net/m0_37870649/article/details/126822790

智源社区腾讯大模型落地实操：模型推理引擎 TACO-LLM 的 2024年4月10日 · 腾讯此前推出了大模型推理加速引擎 Taco-LLM，表现全面优于 vLLM 框架，吞吐性能相比前者及 TensorRT-LLM 提升 1-3 倍不等。而腾讯乐享，作为腾讯内部孵化并使用了十余年的知识管理、学习培训和文化构建平台， aiaiv更多内容请查看https://hub.baai.ac.cn/view/36360

腾讯云腾讯开源推理组件TNN，激发AI生产力-腾讯云开发者社区-腾讯云2020年5月7日 · 腾讯优图基于自身在深度学习方面的技术积累，并借鉴业内主流框架优点，推出了针对手机端的高性能、轻量级移动端推断框架TNN。 TNN在设计之初便将移动端端高性能融更多内容请查看https://cloud.tencent.com/developer/article/1643197

推荐资讯

栏目更新

栏目热门