开发者导航
你好呀~
标签:推理加速
NEW开源大模型混合专家架构解析与快速上手指南:LongCat
LongCat 是一个开源的大语言模型项目,主打混合专家架构与动态计算机制,按上下文激活部分参数,在保持效果的同时压低推理开销。这篇介绍梳理它的架构设计、...
AI卖货主播大模型 商品解说与数字人工具:Streamer-Sales 销冠
Streamer-Sales 销冠是一个卖货主播大模型,根据商品特点生成解说文案。它基于 InternLM2 微调,集成 LMDeploy 推理加速,支持 RAG 检索增强、TTS 语音合成与...