- 课程详情
- 上课校区(1)
课程聚焦 AI 大模型应用部署与推理服务运维两大核心方向，采用**30% 理论讲解 + 70% 动手实操**教学模式，基于阿里云、Docker、Kubernetes、GitOps 企业真实技术链路，覆盖 RAG、GPU 调度、vLLM、Dify、MCP 等前沿技术。通过 3 套综合实战项目完整复刻岗位工作流程，训练大模型平台部署、监控调优、故障排查全流程能力，产出可用于求职的实操项目成果。
核心亮点
1. **双能力主线**：同步掌握大模型应用部署、推理服务运维，构建完整技能链条。
2. **实操主导教学**：每日大量实操课时，侧重动手训练，拒绝纯理论灌输。
3. **真实企业技术栈**：阿里云、K8s、Prometheus、GitLab CI、Argo CD 等主流工具。
4. **大模型专项深度教学**：GPU 调度、DCGM、vLLM、模型量化、LiteLLM 网关运维。
5. **RAG 全链路实操**：文档处理、向量化检索、知识库问答、效果调优完整演练。
6. **项目实战贯穿全程**：部署‑监控‑验证‑交付综合项目，对标企业真实工作流程。
学习内容模块
1. **Linux 与运维脚本基础**
Linux 服务器运维，Shell、Python 运维巡检脚本编写。
2. **容器与云原生 GitOps 体系**
Docker、Kubernetes 集群部署，GitLab CI+Argo CD 持续交付，Prometheus+Grafana 告警监控体系搭建。
3. **GPU 大模型推理运维**
NVIDIA GPU 环境部署、K8s GPU 调度，vLLM 推理服务，模型量化压缩，LiteLLM 统一模型网关。
4. **RAG 知识库全链路**
文档处理、Embedding 向量存储、检索策略、知识库问答搭建与效果验证。
5. **AI 应用平台运维**
Dify 自托管部署、MCP 服务接入、平台可观测、备份恢复运维实操。
6. **综合实战项目**
三套完整项目，覆盖部署、监控、验证、交付，训练岗位完整工作流程。
学完可掌握能力
- 熟练完成 Linux 服务器、中间件、日志基础运维，可编写 Shell/Python 运维脚本
- 掌握容器化、K8s 集群部署，搭建 GitOps 持续交付、指标日志告警整套链路
- 精通 GPU 环境、K8s GPU 调度，完成 vLLM 分布式推理服务部署调优
- 掌握模型量化、模型网关运维，完成 RAG 知识库完整搭建与效果验证
- 能够完成 Dify、MCP 平台部署运维，具备企业 AI 大模型运维岗位实操能力
-
萧山校区
地址：浙江省杭州市萧山区萧清大道988号1幢(1楼咨询服务大厅)
电话：400-029-0976 转 **** 查看号码
浙江数字技术人才资深顾问徐
招生顾问 微信号：157******44
关于我们 详情
浙江数字技术人才就业实训基地 2020 年 10 月经浙江省人力资源服务协会授牌成立坐落于杭州市萧山区，是政府政策重点扶持、集数字技术实训、人才输送、产教融合于一体的大型综合就业服务平台。在国家全面实施“人工智能+”行动的背景下，人工智能已成为发展新质生产力的核心引擎。为积极响应浙江省数字经济创新提质“一号发展工程”,全面落实《浙江省推进“人工智能+教育”行动方案(2025一2029年)》精神，基地积极响应国家数字经济发展战略，聚焦AI导演、AI大模型开发、AI全栈开发、AI大模型运维、AIGC等前沿技术领域，开展高质量、高技能人才培养工作，助力学员实现高质量就业。基地总建筑面积约 3.5 万㎡，自持 3 栋独立楼宇，包含 19000㎡独栋教学主楼、15000㎡配套宿舍楼、食堂、休闲配套区，可同时容纳 3000 人全日制封闭实训与食宿，常态在读学员稳定 1400–1500 人，是长三角单体规模比较大的 AI、云计算方向专业化实训园区。
