大模型狂奔第 二年，企业开始拼落地

自生成式AI爆火以来,大模型如同一股旋风席卷全球。

据Gartner预测,到2027年,企业使用的AI 模型中将有一半以上具有特定行业或业务功能,而在2023年这一比例仅为不到1%。

如果说2023年市场的关键词是“军备竞赛”,随着时间推移,市场逐渐冷静,进入了更为理性的探索阶段。大模型这股风,开始朝向关注真实价值、深耕应用,“产业落地”成为新的关键词。

11月12日,百度创始人李彦宏在百度世界2024大会上表示,百度不是要推出一个“超级应用”,而是要不断地帮助更多企业打造出数百万“超级有用”的应用。同时,他还在现场发布基于大模型的100大产业应用。在当天下午举行的《智能跃迁,产业加速》分论坛现场,来自金融、教育、招聘、医疗等行业的企业代表分享了自身大模型落地的经验和思考。

大模型正在深入企业核心场景、创造价值

大模型落地,首先要思考什么样的场景才能创造价值。

拿教育行业举例,过去由于资源、人力等因素的限制,想同时做到提供大规模个性化教育的服务非常难。

如今,借助大模型的能力,好未来正在尝试实现大规模的个性化教育。好未来集团CTO田密在现场提到,“利用AI老师能真正做到个性化和大规模,大模型的出现,让我们看到了一丝曙光。”作为行业知名的科技教育公司,好未来不仅运用百度百舸AI异构计算平台,为自研“九章大模型”提供关键支持,还调用文心大模型API打造中英文作文批改等能力,加速推动大模型深入教育场景。

在金融行业,高华证券正在尝试通过大模型模拟人类专业投资者的思维方式,进行信息处理和推理,最终为投资者形成投资组合建议。在论坛现场,华证指数、百度智能云和高华证券发布了基于大语言模型的股票指数系列——“高度指数”。高华证券首席执行官章星表示,高度指数的发布只是高华与百度智能云合作成果的*步,未来双方将继续深入探索更多大模型的机会。

在招聘领域,过去在一个职位发布之后,HR需要花大量时间用关键词搜索,浏览并筛选候选人简历,同时每场面试的开场还要经历大量机械性、重复的提问。而求职者,在简历通过筛选,和HR的线上沟通也常常因为回复不及时而错过理想的职位。智联招聘正在通过大模型帮助企业更加快速、准确、高效得完成过去冗长的招聘流程。

“过去的思路是看大模型能干什么,就给它找什么应用,但其实现在发现这个思路是不对的。如果你把大模型当成一个人类来看,你会发现你的思路打开了很多,它有可能能做更多很多人类的工作。”智联招聘CTO王昊在现场分享时提到。借助百度智能云千帆大模型平台,智联招聘开发了AI招聘助手,提供全流程的招聘服务,可以凭借多轮对话能力与求职者沟通,协助HR推进招聘流程。并且,AI招聘助手7天24小时全程在线,随时满足应聘者的需求。

“精确诊断是医学治疗的前提,而医学影像技术则是精确诊断的基石。” 上海全景医学影像科技股份有限公司总裁、联合创始人居培明在现场这样描述医学影像的重要性。近年来,随着医疗认知水平的增强和医疗需求的提升,第三方医学影像中心逐渐被重视起来。借助大模型的能力,可以通过数据监测和勾勒,让医学影像更加精确,帮助医生做出临床判断。全景医学通过百度智能云千帆大模型平台打造智能问答系统和健康管家,借助企业级RAG能力,不仅可以减少专业人工客服的工作量,增加预检效率,还能为患者提供个性化解答和服务,提供用药的提醒、术后问题解答等服务。

随着大模型能力不断向上突破,孵化出越来越多应用,基础设施平台也在不断向下生根做实,为AI应用生态爆发打好基础。

工具平台和模型能力同样重要

大模型落地企业需要选好三大路径

想清楚场景价值,选择用哪种路径实现大模型落地很重要。

百度副总裁谢广军表示,目前企业落地大模型的路径有三种:一种选择是直接调用模型,也就是模型推理;第 二种是模型应用效果优化,包含了提示词优化、模型精调以及模型能力增强;第三种则是大模型应用开发。

而对于大模型工具平台而言,百度智能云千帆大模型平台3.0(下文简称千帆3.0)从模型开发、模型服务、应用开发三大维度,为企业提供全流程服务,打通模型到应用“最后一公里”。

模型调用方面,百度智能云千帆ModelBuilder提供包括文心全系列模型在内的丰富模型,其中ERNIE 4.0 Turbo等旗舰模型适用于通用的复杂场景;ERNIE Speed Pro、ERINIE Lite Pro等主力模型,适用于垂直场景定制训练或构建行业模型;此外,还有轻量级、垂直场景模型,分别适用于特定垂直场景调用。

模型应用效果优化方面,百度智能云千帆ModelBuilder通过准确简练、逻辑详尽的提示词,以及提供模型精调全流程工具链,帮助企业快速实现效果调优。为激发大模型推理效果,百度智能云千帆ModelBuilder还预置了近300个行业场景的prompt模版,在论坛现场发布了覆盖广泛的模型精调样板间,提供了多场景模型精调工具链,并通过模型蒸馏、数据飞轮等工具,帮助企业实现模型精调快速冷启,持续提升模型及应用效果。

针对应用开发,百度智能云千帆AppBuilder为提供企业级大模型应用开发平台,不仅满足企业级Agent的开发、企业级集成和安全部署,另外沉淀了工业、政务、能源等6大行业应用开发解决方案。通过千帆AppBuilder,用户可以生成具有自主规划能力的Agent,支持用户自定义创建组件,并被Agent自动编排调用。此外,千帆3.0对企业级检索增强生成(RAG)进行了全面升级,目前该功能已在北京大学“小北学长”等智能体搭建中落地。

百度副总裁谢广军

AI应用正率先在B端爆发

企业级应用正在不断涌现

千帆大模型平台不仅加速了大模型技术在企业内部的普及,还为大模型应用产品的落地提供了基础设施支撑。

百度副总裁阮瑜表示,大模型应用落地加速发展,覆盖的广度与渗透的深度均达到了前所未有的高度。百度智能云大模型应用秉持场景满足、技术普惠、安全可信的建设理念,打造了面向政企内部通用场景和深入行业特色场景的*、创新应用,目前已经在千行百业落地实践,助力激活产业发展的新动能。其中,百度智能云客悦智能客服可以帮助企业更聪明地理解用户意图、探询用户需求和通过更高效的简单配置操作,提升客户自助解决效率与运营效率;百度智能云曦灵数字人帮助企业通过数字分身、IP塑造等2D、3D数字人快速生成和便捷应用,加速实现营销创新;百度GBI作为国内*生成式商业智能产品,可以为企业BI搭建和分析的全链路提效,并支持智能报表消费和低门槛的使用,帮助企业决策者和业务人员高效开展决策支持。文心快码智能代码助手,通过深度融合企业知识,提供企业级代码架构解释、代码辅助、代码审查等能力,助力研发提效20%,加速企业研发生产进程。

在通用应用产品外,百度智能云还深耕行业大模型应用领域,推动金融、工业、交通、政务、医疗等行业智能化升级。百度智能云智金、百度智能云一见分别将大模型与金融、工业行业深度融合,促进金融业务提效增收,赋能工业生产运营精益管理。在城市治理与服务领域,通过交通、政务等大模型应用,保障城市交通安全畅行,优化政务治理与公共服务供给质量。

百度副总裁阮瑜

基于在落地实践中建构起的全链服务能力,百度智能云发布大模型服务品牌“知一”,未来将通过知行合一的专业服务,助力企业AI落地。百度智能云副总经理贾殿龙表示,除了大模型平台和产品外,在面向各行业、各体量、各场景的客户落地实践过程中,我们也构建起了全链路的大模型服务能力,形成并发布了我们大模型服务品牌“百度智能云知一”,在过去一到两年时间里,已服务了20+行业的数百家客户。同时,百度智能云构建了包含100+门课程在内的大模型服务课程培训体系,并联合工信部等部门推出了工信部教考中心、百度智能云、行业联合等多项大模型认证,为更多大模型服务伙伴提供覆盖全面的培训认证权益扶持,以新质服务加速行业大模型落地。

百度智能云副总经理贾殿龙

此次论坛中,英特尔作为百度智能云的深度合作伙伴,也深入介绍了与千帆大模型平台长期紧密合作的最新成果。今年9月,英特尔正式发布英特尔至强6性能核处理器,为AI、数据分析、科学计算等计算密集型业务提供*性能。英特尔高级云计算软件架构师郭彬在现场分享道,为了向广大用户提供基于CPU端*优化的推理性能,用户在千帆ModelBuilder平台中,可以在模型推理部署以及prompt工程等多个应用场景选择Xeon CPU作为后端算力资源,使用CPU算力平台可以获得更高的性价比和更低的起建成本。