2024MWC上海：浩鲸科技推出鲸智大模型平台

2024-06-28 16:00 · 互联网　　　

自2023年ChatGPT震撼发布，大模型技术成企业竞争关键，全球范围内大模型“百花齐放”，据国家数据局统计，当前中国10亿参数规模以上大模型数量已超100个。运营商作为数字中国建设的关键参与者和行业数字化转型的先锋，正全面推进AI+战略，构建智慧运营体系，以适应AI的快速发展和市场需求的变化，探索新的商业模式和服务创新。

2024 MWC上海，浩鲸科技重磅推出“鲸智大模型平台”，以“底座+模型+引擎+应用”的端到端模型工具及服务，助力运营商降低大模型应用落地及使用门槛，凭借*的产品实力，该平台荣获《通信产业报》2024MWC上海“编辑选择”奖。同时，浩鲸科技大模型创新中心总监王玉木在MWC主题论坛，就“构建人工智能就绪基础设施”发表演讲。

运营商“AI+”战略进行时，大模型落地远不止“最后一公里”

随着大模型应用的不断涌现，进一步激发了对高价值数据、高性能算力、高精度算法的迫切需求，在运营商AI+落地过程中，从算力资源的优化到大模型的精准应用，每一环都考验着运营商的智慧与创新能力，大模型落地之路挑战重重，远不止“最后一公里”。

(1) 算力资源的高效利用。智算需求的急速增长对算力资源提出了更高的要求，如何在现有异构及资源分散基础上提升资源效用，成为了亟待解决的难题。

(2) 大模型选型与管理。当前基座大模型种类繁多也各有所长，如何在众多模型中兼顾性能、成本与适用性选择最优方案也成为一大挑战。

(3) 应用规划与开发。全链路开发工具、集成化开发平台的缺失，使得模型从开发、训练、调优到部署迭代的整个流程效率低。

(4) 业务认知与应用。如何解决大模型普遍存在的幻觉问题，提升其业务认识精准度及业务流程的融合度，是运营商在大模型应用中必须面对的挑战。

鲸智大模型平台，浩鲸科技致力于做大模型价值使能者

2024 MWC上海，浩鲸科技结合近20年在云网、大数据和AI等方面的探索和实践，重磅推出“鲸智大模型平台”，围绕从异构GPU集群管理、智能算力调度与并网优化、模型服务与意图识别、数据供给与模型纳管、插件式的应用集成5大方面实现技术革新，为运营商提供先进的生成式AI生产及应用全流程工具链，致力于成为运营商大模型价值的赋能者。

(1)智算底座：Whale Power兼容国内外主流GPU，支持跨越异构GPU集群管理能力、跨越异构智算集群一体化调度能力、跨越算力主体的一体化并网能力，帮助企业高效进行算力资源整合与高效利用。

(2) 认知增强引擎：Whale Agent依托多种智能体优化技术，实现根据不同角色、不同业务环境优化模型输入，增强业务理解与处理能力，极大提升大模型应用准确性。Whale Knowledge，以知识图谱与RAG融合，支持对大模型输出进行知识关系链接和召回自动择优，增强RAG检索准确性，为业务决策提供更精准的支持。

(3) 应用开发框架：开箱即用的插件式应用开发框架，通过对前端交互、智能服务、智能体各类组件的标准沉淀，实现大模型应用的快速组装。通过Whale-Copilot统一交互入口，实现跨系统的链式集成，极大降低大模型应用开发成本和落地难度，业务人员在原有的系统中可以随处调用，0学习成本。

(4) “全链路”模型工具服务：涵盖Whale DataShop数据供给、Whale Review模型评测、Whale AIFatory模型开发、训练、微调及模型向量化等全流程，通过编排式生成、一键式向导、可见即可操作的模型工具服务，提升数据供给效率与质量，大幅缩短模型接入时间，提升模型管理的透明度与效率，加速大模型应用迭代周期从周到天，助力企业大幅提高大模型需求响应速度、落地效率及灵活性。

在鲸智大模型平台全面赋能下，不仅解决算力瓶颈，还提供全方位的模型工具服务与认知增强，辅以便捷的应用开发框架，加速AI+落地的同时，推动运营商在5G、云计算、物联网等领域的创新应用，为运营商构建了坚实的数智生产力。

深研技术，持续创新，赋能千行百业实现大模型端到端商用

浩鲸科技在深化大模型技术研发的同时，不断深入应用场景，落地成果丰富。当前，浩鲸科技基于鲸智大模型平台围绕AI+经营、AI+服务、AI+运维、AI+行业等4个方面构建了诸多创新应用，覆盖12大场景，为运营商及多行业提供全方位的智能化解决方案，取得显著进展。全球运营商、垂直行业商用及预商用案例近60例。

(1) 国内运营商：涵盖B、O、M、大数据等多域，在专业问答、运维诊断、自主数据分析、方案魔方、数字人客服等场景中应用，全力加速运营商AI+战略，实现智能化转型；

(2) 国际运营商：助力印尼等国家落地智慧客服交互，为“一带一路”共建共赢极助力；

(3) 垂直行业：耕耘电力、政务等，展示大模型技术的广泛应用潜力。