（原标题：“超等有用”的AI，被百度作念成了）

大模子，若何才叫成了？

11月12日的2024百度寰球大会上，李彦宏抛出这样一个问题。

“莫得应用，基础模子微不足道”，是李彦宏一贯的不雅点。在他看来，应用落地是接洽大模子的最好圭臬，当一个大模子的API日均调用量达到20亿，就不错说它成了。

而本年9月以来，百度文心大模子的日均API调用量出现爆发式增长，已达到15亿水平，短短半年增长7.5倍。

如斯看来，百度大模子果真快成了。

百度在AI大模子落地应用上的率先地位，也赢得第三方数据支捏。

IDC文书披露，2024年上半年，百度智能云以32.4%的阛阓份额，位居中国MaaS阛阓第一。与此同期，2024年上半年中国AI大模子管制决策阛阓，百度智能云营收占比达17.0%，位居阛阓第一。

谈到大模子，外界常常有种诬告，觉得基础大模子、GPU硬件的研发才是硬科技，作念应用只是随从；但潜入到时刻层面就会发现，思要竣事大模子的落地应用，挑战并不比大模子自己更小。

“快成了”的百度大模子，作念对了什么？

“大模子已基本管制幻觉问题”

当两年前ChatGPT-3横空出世，尽管其智商依然饱胀让东谈主惊艳，但“一册肃穆地瞎掰八谈”仍然时有出现。

这种风光被称为“幻觉”，如若不行把“幻觉”概率降到饱胀低，大模子就无法的确从一个好用的器用造成的确的智能伙伴。

为了管制幻觉问题，百度凭借搜索引擎的时刻累积，较早引入了检索增强机制。即通过搜索互联网上已有的东谈主类常识，来匡助大模子给出更准确的回答。

如今，检索增强在文本生成领域的应用依然较为纯熟，而百度又将元气心灵投向了文生图。

从下图不错看出，平时AI大模子生成的物体（左侧）比较于实际物体（右侧），常常还会存在较着幻觉，将天坛的三层结构造成了四层。

为此，百度开发了检索增强的文生图时刻iRAG（image based RAG），将百度搜索的亿级图片资源跟强盛的基础模子智商相攀附，不错生成各式超真实的图片，“举座后果远远跨越文生图原生系统，去除了机器味儿”。

李彦宏现场展示了一幅由文心大模子生成的民众揽巡汽车飞跃长城的图片。通过文心iRAG时刻，不管是这款特定型号汽车的车型车标、照旧算作布景的长城，均未出现失实或变形的幻觉问题。同期展示的“爱因斯坦环游寰球”图片中，爱因斯坦和各个布景景点的攀附也与真实寰球高度相似，质感接近相片。

?李彦宏指出：“曩昔24个月，AI行业的最大变化是什么？是大模子基本摈斥了幻觉。”

管制幻觉问题以后，AI大模子终于不错快速走向智能体，管待AI原生应用的大爆发。

例如百度文库和百度网盘连结打造的器用类智能体“开脱画布”，让用户不错在一块近似“画布”的界面上开脱拖拽文档、音视频等富媒体素材，飞速生成多模态内容。

更让东谈主惊艳的，是李彦宏提前剧透的无代码编程器用“秒哒”，由大模子径直生成代码，不需要东谈主写一溜代码。

“一个东谈主通过当然言语交互，就不错完成一套系统的搭建，”李彦宏指出，这意味着每个东谈主我方就能诱导多个智能体来协同完成任务，“只须有思法，你就不错情绪事成，咱们将迎来一个前所未有的，只靠思法就能获利的时期。”

AI算力的另一场硬实力竞争

AI幻觉的大幅编造，不仅让百度自身的AI应用快速进化，也大概让更多行业省心用上大模子。不外关于行业落地而言，低廉好用的算力同AI智商自己通常紧要。

因此在谈应用之前，咱们不妨先谈谈基础设施。

得算力者得天地，是大模子时期的共鸣。

这样的共鸣让GPU企业一飞冲天，也让单卡算力成为阛阓追赶的热门。不外东谈主们常常疏远了，悉数这个词算力集群的本体性能，并不毛糙等于单卡算力之和。

如若说CPU 是一个很复杂的大脑，GPU即是数目巨大的机械臂组合。GPU内的每一个策动中枢所作念的责任齐很毛糙，但的确的难度在于如何同期诱导这样多“机械臂”。

正如战场上需要实时把教导传达给每一个士兵，GPU中枢之间的通讯效率才是认知性能的要津。

单个GPU内的通讯依然会降速策动速率，而在万卡集群之中，GPU之间的通讯效率还会非凡量级的下落，如若说机内通讯带宽是50的话，机间可能就惟一2或3。

显卡加快一直齐是GPU应用中斥逐疏远的部分，如若作念不好加快，万卡集群的欺骗率以致可能低至10%，90%的算力齐被白白花消。

英伟达70%的东谈主力齐用于软件开发，东谈主们说，英伟达的确的壁垒是基于 CUDA的高大加快库。

因此，除了单卡算力以外，集群效率亦然中好意思之间围绕算力的另一场硬实力竞争。

在这场竞争中，百度依然用百舸4.0平台给出了万卡规模上的优异答卷。

百度集团履行副总裁沈抖在不久前的云智大会上曾暗示，百舸4.0预置了主流的大模子检修器用，大概竣事器用层面的秒级部署，并将万卡集群初始准备时候从几周缩减至1小时，极地面普及部署效率，镌汰业务上线周期。

踏实性方面，百舸4.0灵验检修时长占比99.5%以上，业界率先，极地面省俭了客户算力与时候本钱。此外，通过在集群假想、任务诊疗、并行政策、显存优化等一系列篡改，百舸4.0大幅普及了集群的模子检修效率，举座性能比较业界平均水平普及高达30%。

而在好意思国的算力限度下，中国算力平台还不得不濒临一个特殊穷苦——需要使用不同规格的显卡搭建异构集群，进行多芯混训

为此，百舸将不同地点、不同规模的异构算力进行长入管制，构建起多芯资源池。当业务提交责任负载时，可自动进行芯片选型，依据集群剩余的芯片资源，聘用性价比最高的芯片来初始任务，从而最大化地欺骗集群的剩余资源。最终，可竣事高达95%的万卡多芯羼杂检修遵循。

作念好国产大模子的基础设施

凭借高效的百舸AI异构算力平台，百度不仅捏续升级我方的文心大模子，也在为更多中国AI企业提供劳动。

西宾无疑是AI应用最专门旨的领域，然则对AI的准确率也提议了更高条目，这就需要深耕西宾领域的企业基于垂直数据来检修模子。

关于好翌日这样的企业来说，我方去购买显卡搭建算力集群的参预是难以承受的，而百度百舸为好翌日自研“九章大模子（MathGPT）”早期高效低本钱“跑起来”提供了要津撑捏作用。

基于百度百舸平台，好翌日不错快速、粗略的创建出千卡级别的训推任务集群。算力方面，集群最大可撑捏 16000 GPU卡的规模；存储方面，适用于大规模深度学习检修场景，可提供亚毫秒级（300us）的时延，支捏百万级 IOPS，劳动可用性不低于99.95%。

百舸还提供了强盛的加快智商，LLaMA2系列、GLM系列等多尺寸模子齐竣事了检修谋划的最好实践，千卡任务加快比保捏在90%，检修迷糊与大模子检修表面值荒谬。

百度自身欺骗百舸检修文心大模子的纯熟教训，也大概匡助其它大模子企业快速检修。

栽种于2023年3月的生数科技，只是一年后就发布了被称为“国产Sora”的视频生成大模子Vidu。

在影响用户体验的推理速率层面，Vidu竣事了业界最快的实测推理速率，生成一段4秒片断只需30秒。而市面上的主流 AI视频器用在生成4秒傍边的视频片断时，用户常常需要恭候1到5分钟，以致更长。

传统行业的分娩力飞升

在大模子落地层面，径直由大模子催生的AI原生应用看上去酷炫，然则不要疏远了，AI对千行百业传统分娩经由的雠校可能会创造更大价值。

李彦宏曾例如说，“Microsoft 365 Copilot 一年营收 50 亿好意思元，比 OpenAI 全年的收入齐大好多倍。仅就对现存居品的雠校而言，就依然创造出来这样多新的价值。”

因此在李彦宏看来，“百度不是要推出一个‘超等应用’，而是要左右地匡助更多东谈主、更多企业打造出数百万‘超等有用’的应用。”

在中国，典型的AI应用场景是智能客服，然则传统的智能客服多数需要东谈主工提前准备好现成的FAQ，对用户问题的相接智商也相等有限。而在大模子的加捏下，智能客服对当然言语的相接智商出现了质的飞跃，不管是应用范围照旧部署本钱齐较着改善，是大模子关于现存居品雠校的绝佳案例。

百胜中国事国内最大的餐饮公司，其基于文心大模子打造的AI智能客服系统，依然在为旗下包括肯德基在内的多个品牌提供劳动。

现在，AI客服每天大概为百胜中国处理跨越15万次客服换取任务，问题管制率高达90%；扶植东谈主工客服快速追念换取历史，整理归纳诉求，提供建议申报话术、一键发送等功能，普及客服职工产能效率10%。

杭州全诊医学基于千帆平台和文心大模子打造了AI医疗助理当用，则大概在导诊、预诊、诊间、住院、手术、随访等全阶段劳动医师患者。以扶植医师撰写病历为例，全诊医学通过使用20万份精标病历数据对大模子进行了精调，使AI医疗助理的医学用语更准确、更口头，大幅普及病历内容质料。病历生成的准确度普及了45%，医师的接诊量提高了20%，造福更多病患。

大模子的应用不仅限于当然言语相接，也大概潜入雠校传统企业的分娩口头。

在动力电力行业，国度电网正在围绕文心大模子、千帆平台，攀附电力行业高质料数据，连结百度共创电力行业大模子基础底座，并在诊疗、开荒、营销等六大专科领域潜入探索。现在，依然在电力开荒运检、供电劳动等电力行业中枢场景顺利完成应用落地。

收货于在全栈AI时刻、居品篡改和产业落方位面的捏续参预，百度智能云领有中国最广最深的大模子产业落地规模，超60%的央企正在使用百度智能云进行AI篡改。百度智能云千帆大模子平台依然匡助客户精调了3.3万个模子、开发了77万个企业应用、文心大模子日均调用量跨越15亿次。

这即是李彦宏说出“应用来了”的底气：“我是软件工程师诞生🔥欧洲杯正规(买球)下单平台·中国官方全站，海外有一种说法叫‘软件吞吃寰球’。但我觉得，这个寰球不应该被吞吃，而应该被创造。AI时期，应用创造寰球。是以请寰球和我一谈见证，AI applications creating the world。”