杨元庆：大模型的算力需求正在向边缘侧和端侧下沉

11月22日，“《财经》年会2024：预测与战略”在北京举办，联想集团董事长兼CEO杨元庆在年会发表《加快“新IT”技术创新，促进人工智能普惠》主题演讲。演讲中，他系统阐述了联想对人工智能大模型技术浪潮的洞察与业务布局，还首次完整定义了未来AI PC（人工智能电脑）所具备的五大特质。

杨元庆在演讲中提到，丰富多样的公共大模型为人们带来了高效与便利，但同时也带来了很现实的问题，即如何在享受大模型带来的效率红利的同时，能够有效保护隐私和数据安全。杨元庆认为，通过公共大模型和私有大模型（个人/企业级大模型）的混合并用，可以实现这样的“既要-又要”。未来的人工智能大模型将会是公共/企业/个人大模型共存的混合式的人工智能。

他指出，混合式人工智能的实现离不开强大算力基础设施支撑。目前大模型的用户规模还比较小，大多数大模型都在算力较强的公有云上训练。未来，随着用户规模扩大，无论是出于数据安全和隐私保护的考虑，还是更高效率、更低成本响应用户需求的考虑，大模型的计算负载将逐渐由云端向边缘侧和端侧下沉，越来越多的人工智能的推理任务将会在边缘和设备端进行，这使得个人大模型更加成为必要和可能。而要构建和优化大模型，支持更多生成式人工智能的应用，不仅需要提升云端的算力，在边缘和端侧也需要更强大算力的配合，形成“端-边-云”混合计算架构下更平衡的算力分配。这让能够支持运行个人大模型的AI PC成为顺应大模型发展趋势的必然和必需。

杨元庆在演讲中提到，相较于今天的个人电脑，未来AI PC将具备五大核心特质：第一，AI PC能够运行经过压缩和性能优化的个人大模型；第二，具备更强的算力，能够支持包括CPU、GPU、NPU在内的异构计算；第三，具备更大的存储，能够容纳更多个人全生命周期的数据并形成个人知识库，为个人大模型的学习、训练、推理、优化提供燃料；第四，具备更顺畅的自然语言交互，甚至可以用语音、手势跟它完成互动；第五，具备更可靠的安全和隐私保护。

“你未来的人工智能个人电脑，既能够作为公共大模型的入口，又能独立运行个性化的私有大模型，它掌握最全面的个人数据和信息，又能严守你的秘密。只有你能唤醒它、使用它，同时也只有它最懂你，远胜于公共大模型。”他解释。

联想集团董事长兼CEO杨元庆

附：杨元庆演讲全文

加快“新IT”技术创新，促进人工智能普惠

各位来宾，朋友们，大家好！

很高兴再次参加财经年会。2023临近尾声，如果要给今年的科技行业总结一个关键词的话，我想应该非“人工智能”莫属。今年以来，ChatGPT带动起来的生成式人工智能、大模型热潮，成为人工智能应用普及的加速器、催化剂，提速了各行各业的智能化转型。我们都真切地感受到，人工智能变得比以往任何时候都更加真实，与每一个人、每一家企业都越来越息息相关；我们也深刻地认知到，所有行业、所有场景都可能被人工智能重塑，这让我们对未来有了更多的憧憬，更多的期待。

实际上，人工智能诞生至今已经有70多年历史，现在大热的大模型其实只是人工智能技术的一个分支。大模型技术的创新突破，让众多公共大模型如雨后春笋般涌现，公共知识库的丰富性显而易见，无论是作为平台型应用，还是切入各种行业应用场景，都给我们带来了高效与便利，让我们真正感受到了“智能”的意义。

但这里也存在一个现实问题，那就是要想让公共大模型在跟你对话时，提供你想要的正确、恰当的内容，你就必须告诉它真实想法，提供真实信息，而那样的话，你的个人数据甚至隐私，还有企业的商业机密就变成了公众信息的一部分。实际上，人们既希望拥有跟大模型交互带来的高效便利，又希望自己的数据只留存在自己的设备上或只在企业内部流动。是否可能做到这样的“既要-也要”呢？我认为，通过公共大模型和私有大模型，包括个人大模型/企业级大模型的混合并用，是可以实现的。

所谓个人大模型，是指部署在个人智能设备或家庭服务器上，使用存储在本地的个人数据进行推理和学习的人工智能基础模型。它不仅仅可以像公共大模型那样通过对话提供答案、创作内容，而且更加精准、贴切，甚至根据你的思维模式预测任务，并自主寻找解决方案。除非用户授权，否则用户的个人数据不会被共享或发送到公有云，从而确保了个人隐私和数据安全。

而企业级大模型是指使用从企业内部的智能设备、智能边缘提取的数据，以及存储在私有云上的数据和知识库进行推理、学习并训练优化的人工智能基础模型。它能够根据企业的业务场景和应用需求，归纳整合出判断和结论，并提出决策建议。它部署在企业内部，能确保相关信息的私密和安全。

我认为，未来的人工智能大模型将会是个人、企业和公共大模型共存的混合式的人工智能，这跟公有云、私有云和混合云的概念是一脉相通的。

我举个例子，来体现企业级大模型和公共大模型如何协同作用。当台风即将来临时，企业可以通过公共大模型得到台风的准确位置、风力预测，但涉及到具体哪些客户的订单交付可能受到影响，就是企业级大模型大显身手的时候了——它能够告诉我们，客户A的订单尚未生产，可能受到工厂暂时关闭的影响；客户B的订单尚未运输，可能受到陆运中断的影响；客户C的订单尚未排产，可能受到物料延误的影响。有了这些信息，模型还能进一步给出优化运输方式、调整订单排序等建议，保障按优先级出货、交付。这样的行业智能化解决方案，对于企业供应链高效管理是非常有意义的。

而混合式的人工智能要如何实现呢？这离不开基于 “端-边-云-网-智”的新IT技术架构的支撑。大模型的构建需要对海量的数据进行训练、推理，计算量爆发式增长，对计算力提出了极高的要求。同时，随着人工智能应用的深入，训练和推理的计算负荷比重也将发生重大变化，从而对计算的配置提出了新的要求。

目前，大模型的用户规模还比较小，大多数大模型都部署在公有云上，借助那里更强大的算力资源，其计算负载主要用于模型的训练。未来，随着每个人都要使用大模型，用户规模不断扩大，用于推理的计算负载需求将迅速提升，很快会超过训练的计算负载，那时候在公有云上完成所有的训练和推理任务就会让效率低、成本高的问题日益凸显。

因此，无论是出于数据安全和隐私保护的考虑，还是更高效率、更低成本响应用户需求的考虑，大模型的计算负载，将逐渐由云端向边缘侧和端侧下沉，越来越多的人工智能的推理任务将会在边缘和设备端进行，使得个人大模型和企业大模型的运行更加成为必要和可能。所以，要构建和优化大模型，支持更多生成式人工智能的应用，不仅需要提升云端的算力，在边缘和端侧也需要更强大算力的配合，形成“端-边-云”混合计算架构，实现更加平衡的算力分配。

早在6年前，联想已经预见了人工智能将会带来的时代机遇，开始推进智能化转型，从智能物联网终端、智能基础设施和行业智能三个维度入手，围绕“端-边-云-网-智”新IT技术架构，加大投资技术创新，加快以解决方案和服务为导向的业务转型，致力于成为各行各业智能化转型的引领者和赋能者。

现在，联想的智能化转型开始步入收获期，形成了包括人工智能导向、人工智能优化、人工智能赋能的终端、基础设施和方案服务在内的全景式人工智能业务生态。

在智能终端方面，我们拥有个人电脑、手机、平板、AR/VR、工作站等各类智能设备，并且在不断提升它们的智能计算能力。在前不久的联想创新科技大会上，我们还展示了即将发布的AI PC人工智能电脑。

相较于今天的个人电脑，未来的 AI PC能够运行经过压缩和性能优化的个人大模型，它将实现这样几个“战斗力”的突破性升级：第一是更强的算力，能够支持包括CPU、GPU、NPU在内的异构计算；第二是更大的存储，能够容纳更多我们个人全生命周期的数据并形成个人知识库，为个人大模型的学习、训练、推理、优化提供燃料；第三是更顺畅的自然语言交互，我们可以用语音、手势跟人工智能个人电脑来互动；第四是更可靠的安全和隐私保护。也就是说，你未来的人工智能个人电脑，既能够作为公共大模型的入口，又能独立运行个性化的私有大模型，只有它能够掌握你最全面的个人数据和信息，又能严守你的秘密。只有你能唤醒它、使用它，同时也只有它最懂你，远胜于任何一个公共大模型。

举个例子说，如果你想做个旅行计划，即使你在飞机上，在不联网的状态下，你也可以跟你的电脑对话，甚至不需要告知你的需求和偏好，电脑也会为你推荐你心仪的航班、酒店、路线、餐厅等等。未来你的电脑、你的手机，亦或是你的汽车，就像是你个人的数字延伸、数字镜像，成为你个人的人工智能双胞胎，大幅提升你的生活品质和工作效率。

在智能基础设施方面，联想是全球第三大的人工智能基础设施和服务器供应商，也是第三大存储厂商。全球最快的500套高性能计算机中，联想连续多年保持1/3左右的上榜总数，稳居全球第一。我们的算力基础设施产品包括了服务器、存储、网络、软件等，全面覆盖数据中心、公有云、私有云、边缘计算等各类计算场景，能够为人工智能大模型的训练、推理需求提供强有力的支持。我们还搭建了联想混合云平台，能够实现云原生、智能运维、私有云和多云管理等目标；而我们的服务品牌“臻算”，能够为用户提供按需付费、可订阅式的算力服务。

在行业智能解决方案方面，联想首先自身就是智能化转型的先行者，通过自研技术建立起覆盖“研发-生产-供应-销售-服务”全价值链的智能化管理体系。现在，我们把自身的转型经验提炼出来，形成积木式通用解决方案，包括数字化办公空间解决方案、混合云解决方案、人工智能导向的边缘计算平台等等，并把它们嵌入到垂直行业的智能化整体解决方案中，比如智能制造、智慧教育、智慧政务、智慧金融、智慧医疗等等。现在，我们已经为包括三一重工(600031)、吉利汽车、蔚来汽车、宁德时代(300750)等近千家大型行业企业提供了智能化转型方案。我们的混合式人工智能解决方案和专业服务致力于打造企业人工智能双胞胎，将为混合式基础设施与人工智能在企业的落地应用提供有力支持。

技术创新总是激动人心，因为它能切切实实提升社会生产效率，让人们的生活和工作方式更加便捷。在中国经济转型升级、实现高质量发展的进程中，生成式人工智能、大模型在各行各业的落地，人工智能跟实体经济场景的融合应用，也就是“数实融合”，正在成为经济增长的新动能和新引擎。

自创立以来，“计算”一直是联想的基因和底色。近几年，我们把人工智能和计算作为联想的两个技术锚点，围绕“新IT”持续投资技术创新，致力于让人工智能更加易得、更具包容性，让人工智能惠及每一家企业、每一个个人。当然，人工智能的发展离不开百花齐放的产业生态和应用场景，我们也愿意与各行各业的企业携手合作，共同提速千行百业的智能化转型，助力经济实现高质量发展，为智能化社会的美好未来贡献力量！

谢谢大家！