阿里云3步,0代码!一键部署DeepSeek部署
标签搜索
侧边栏壁纸
博主昵称
5i

  • 累计撰写 19 篇文章
  • 累计收到 0 条评论

阿里云3步,0代码!一键部署DeepSeek部署

5i
5i
2025-02-13 / 0 评论 / 42 阅读 / 正在检测是否收录...
温馨提示:
本文最后更新于2025年03月27日,已超过32天没有更新,若内容或图片失效,请留言反馈。

阿里云
第一步:进入Model Gallery页面
点击链接:https://pai.console.aliyun.com/#/quick-start/models 登陆PAI控制台,在顶部左上角根据实际情况选择地域。并在左侧导航栏选择工作空间列表,单击指定工作空间名称,进入对应工作空间内。最后在左侧导航栏选择快速开始>Model Gallery。
m72owo5h.png

第二步:进入DeepSeek模型详情页
在Model Gallery页面的模型列表中,单击找到并点击需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,进入模型详情页面。
m72ox0jf.png

第三步:一键部署DeepSeek模型生成服务
单击右上角部署:目前DeepSeek-R1支持采用vLLM加速部署;DeepSeek-V3 支持vLLM加速部署以及Web应用部署;DeepSeek-R1蒸馏小模型支持采用BladeLLM(阿里云PAI自研高性能推理框架)和vLLM加速部署。选择部署方式和部署资源后,即可一键部署服务,生成一个PAI-EAS服务。
m72ox8tb.png

部署成功后,在服务页面可以点击“查看调用信息”获取调用的Endpoint和Token,想了解服务调用方式可以点击预训练模型链接,返回模型介绍页查看调用方式说明。
m72oxf9s.png
m72oxqjq.png

为了更高性价比地实现DeepSeek系列模型与现有业务的高效融合,本教程部署的模型为蒸馏过后的DeepSeek-R1-Distill-Qwen-7B。基于 DeepSeek-R1 的推理能力,通过蒸馏技术将推理模式迁移到较小的 Qwen 模型上,从而在保持高效性能的同时降低了计算成本。同时,阿里云PAI Model Gallery也提供 DeepSeek-R1、DeepSeek-V3原始模型的一键部署。

如有侵权,请联系删除

0

评论

博主关闭了所有页面的评论