大模型应用在各行业落地,大模型平台愈发火热,近期,由中国信通院牵头,依托中国人工智能产业发展联盟模型服务(MaaS)工作组,联合30余家单位共同编制的《MaaS模型即服务技术与应用要求 第7部分:大模型API服务性能测试方法》标准(AIIA/T 0221-2025)正式发布。深信服作为核心参编,共促AI技术应用的规范发展与创新。
《MaaS模型即服务技术与应用要求 第7部分:大模型API服务性能测试方法》标准
模型即服务已成为大模型应用落地的主要模式之一,MaaS平台为用户提供便捷、灵活、低门槛的大模型服务,是重要的支撑平台。但不同平台上所提供的大模型服务能力参差不齐,中国信通院已发布一套全方位评估体系来衡量大模型API服务效能和MaaS平台能力,即《MaaS模型即服务技术与应用要求》。
本次深信服参与编制的文件为该标准的第7部分,有效填补了大模型API服务性能评估标准的空白。该标准主要规范和明确了以下内容:
性能测试的软、硬件环境要求;
关键性能测试指标及计算方法,多种测试类型及测试场景;
性能测试过程中的测试数据集选择原则和系统资源监控范围;
大模型API服务性能测试流程设计、数据集选择、性能指标计算方式和评价维度。
在本次标准编制过程中,深信服凭借在大模型技术上的深入探索以及对私有化大模型算力平台构建的丰富实践经验,为标准的科学性、实用性与前瞻性贡献了重要力量。
从安全GPT大模型到AICP算力平台的发布,深信服长期布局AI产业,已有深厚的AI能力积累。近期,深信服还将整合技术能力,升级AI创新平台,打造新智算时代的AI Infra平台,不仅为用户提供高性能、稳定、安全的平台能力,更为用户实现端到端AI应用建设TCO优化,让各行业用户以更轻松的方式拥抱AI。
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
一、前言:升级版的Intel7制程工艺带来更好的13代酷睿原本对13代酷睿没有太大期待,毕竟构架没有大改,制程工艺还是Intel7,i9-13900K最...
一、前言:Intel的高端显卡终于来了4个月前,Intel发布了20多年前来旗下第一块面向桌面游戏的独立显卡--ArcA380(中文名锐炫A380)。在...
12月6日,买车网Buycar获悉,据外媒报道称,德国证券交易所DeutscheBoerse表示,德国豪华车品牌保时捷将加入蓝筹股DAX指数,这距离其上...