大模型管理平台是学校统筹 AI 能力的“模型层管理中枢”,负责大模型的统一接入、部署、评测、监控与治理,覆盖模型全生命周期。与相邻平台的关系:推理服务平台聚焦“算力底座与推理服务”,让模型跑起来跑得快;微调平台聚焦“模型定制训练”,负责炼模型;管理平台则管“模型从哪来、能不能用、用得怎么样、合不合规”,可视为推理平台的模型管理层。业界趋势是将算力调度、模型管理与推理服务融合为一体化智算平台。它的核心理念是 LLMOps(大模型运维)与 MaaS(模型即服务)——让全校各院系像用水用电一样规范地使用模型能力,而不是各自接入、重复建设、安全失控。
收起>