人工智能技术网

上新!华为云推出基于混合云的DeepSeek本地部署方案

 华为云正式推出基于华为云Stack混合云的DeepSeek本地部署方案。

2023年,华为云Stack推出了业界首个大模型混合云,除了支持盘古大模型外,也内生集成了多个业界主流的基础模型,实现开箱即用。凭借其强大的基础设施、灵活的部署方式、一站式的开发工具和完善的安全体系,帮助企业快速本地化部署DeepSeek专属大模型。

华为云Stack提供图形化的第三方模型部署方案。用户基于向导式操作,简单几步就能将 DeepSeek模型快速部署到混合云环境中,无需复杂的前期准备,降低部署门槛。目前已支持DeepSeek V3/R1等版本。

DeepSeek运行状态视图

基于ModelArts AI开发平台及昇腾深度优化DeepSeek模型。在推理阶段,采用算子融合等加速技术提升计算效率,结合分布式多卡并行与PD分离技术优化模型性能,通过软硬协同优化,提升模型推理性能50%。

华为云Stack打造大模型安全运营中心,包括环境安全态势感知、推理业务风险运营等能力,快速发现外部攻击并进行响应;同步打造网络、数据、模型、内容、应用等七层防线,构建包括超大规模的DDoS/Web攻击过滤、数据及模型文件加密、Prompt攻击过滤等关键能力,为DeepSeek模型本地化运行和数据的安全使用提供坚实保障。

华为云Stack的云边协同架构与DeepSeek模型蒸馏技术形成完美适配。支持将百亿参数大模型压缩为轻量级边缘模型,实现模型在边缘节点的高效部署。通过数据本地化处理机制保障数据不出域,结合边缘计算实时响应特性,显著提升油气、制造、矿山等行业的智能化落地效果。

基于各行业大模型的落地经验,为行业客户提供40+大模型专业服务,覆盖顶设咨询、规划部署、技术支持、适配调优、应用上线到运维运营的全生命周期。

与此同时,华为云Stack已经支持30多个主流大模型,构筑坚实的算力底座,使能百模千态,赋能千行万业,我们将持续推动大模型技术在各个行业的应用落地,赋能企业智能化升级,共创智能未来!

 

人工智能技术网 倡导尊重与保护知识产权。如发现本站文章存在版权等问题,烦请30天内提供版权疑问、身份证明、版权证明、联系方式等发邮件至1851688011@qq.com我们将及时沟通与处理。!:首页 > 新质生产力 » 上新!华为云推出基于混合云的DeepSeek本地部署方案

感觉不错,很赞哦! ()
分享到:

相关推荐

留言与评论(共有 0 条评论)
   
验证码: