• 分类296
  • 产品2026
  • 服务96
  • 厂商1435
  • 学校3172
  • 智慧校园疑难问题
    大家一起去解决
教育数字化知识图谱

登录查询教育数字化知识信息

点击刷新

打开微信扫一扫

海贝达科技(北京)有限公司 教育数字化知识图谱

问答

共计14491条
首页 问答 问答详情
问答

大模型管理平台是做什么的?和推理服务平台、微调平台什么关系?

提问者:  在校师生 时间:  2026-09-06 分类:  使用问题
我的回答
  • 信息化服务顾问

    回答
    大模型管理平台是学校统筹 AI 能力的“模型层管理中枢”,负责大模型的统一接入、部署、评测、监控与治理,覆盖模型全生命周期。与相邻平台的关系:推理服务平台聚焦“算力底座与推理服务”,让模型跑起来跑得快;微调平台聚焦“模型定制训练”,负责炼模型;管理平台则管“模型从哪来、能不能用、用得怎么样、合不合规”,可视为推理平台的模型管理层。业界趋势是将算力调度、模型管理与推理服务融合为一体化智算平台。它的核心理念是 LLMOps(大模型运维)与 MaaS(模型即服务)——让全校各院系像用水用电一样规范地使用模型能力,而不是各自接入、重复建设、安全失控。
    收起>

    2026-09-06

海贝达科技(北京)有限公司 教育数字化知识图谱

微信订阅号

咨询顾问

Copyright@2024 EduDigital123.COM 教育数字化知识图谱
京公网安备11011502038001 京ICP备2024042673号-3