金吾财讯 | 中金发研报指期货配资平台app，R1蒸馏技术通过知识蒸馏，将复杂的“教师模型”(671B参数)的决策逻辑和特征表征能力迁移至轻量化的“学生模型”，生成了6个不同版本的蒸馏模型。这些蒸馏模型在保持大模型性能的同时，减少了对显存、内存和存储的需求，适合在资源受限的终端设备上运行。该行认为，PC是承载本地模型的重要终端，更高性能端侧模型的部署，有望成为AI PC产业升级的有力推手。
该行表示，DS一体机是一种专为大模型应用和部署设计的集成计算设备，可基于NV或国产硬件实现，其中国产算力芯片由于契合主流下游需求期货配资平台app，或成为主要算力支撑。该行认为，当前DS一体机的软硬件协同仍面临一些挑战，1)主流国产AI芯片缺少对FP8精度的支持，如果采用FP16或BF16精度，硬件效率将下降；2)为了在单台8卡服务器上实现全参数DeepSeek-R1模型的部署，一体机厂商需要进行定点量化，需在算力效率和模型效果间寻求平衡。但得益于DS模型优势，以及一体机本地私有化、快速部署等优势，DS一体机国内市场空间有望快速提升。DS一体机在满足企业数据安全和合规要求方面具有优势，对于政府、金融等数据安全要求较高的行业适配度高，该行预估乐观情形下25年DS一体机市场规模有望达到540亿元。
文章为作者独立观点，不代表联华证券_线上实盘配资app_在线杠杆炒股app观点
相关文章
