第四范式发布ModelHub AIoT解决方案：端侧部署DeepSeek变轻松了

直播吧10月3日讯瑞士队公布新一期国家队大名单，扎卡、科贝尔、阿坎吉、恩博洛、扎卡里亚等球员在列。10月13日2时45分，瑞士将在欧国联比赛中对阵塞尔维亚，16日2时45分将对阵丹麦。

2月25日消息，推出大模型推理端侧 方案ModelHub AIoT，据悉，用户在可轻松部署如DeepSeek R1、Qwen 2.5、Llama 2/3系列等小尺寸蒸馏模型，离线运行，并可灵活在多个模型之间切换，兼顾了模型压缩、推理性能， 了部署与优化的复杂性。据介绍，该方案不仅能够满足用户对隐私和实时性的需求，还极大降低了AI大模型推理成本。（定西）

本文来自 科技报道，更多资讯和深度内容，关注我们。