芯东西(公众号:aichip001)
作者 |  ZeR0
编辑 |  漠影

芯东西3月29日报道,AI PC到底能干啥?跟传统PC差别有多大?跑大模型真的能重塑PC体验吗?这些问题从去年AI PC概念诞生起一直被问到现在,就在本周二,全球最大PC处理器供应商英特尔,拉着智谱AI、百川智能、星环科技、面壁智能、中科创达、无问芯穹等国内AIGC独立软件开发商(ISV)们,集中展示了商用AI PC的新应用和新功能。

现场,英特尔与超过35家ISV和10家OEM合作伙伴展出了各种PC版本AIGC工具的花式用法。在断网状态下,一个笔记本电脑就能运行AI聊天回答、智能生成PPT、AI文生图、会议总结、视频总结及问答等常见的办公和创作应用。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验▲无问芯穹研发的端侧专属Agent在英特尔AI PC上完成文件操作

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

▲面壁智能演示基于MiniCPM-V多模态模型的图片理解和问答

其中一些功能相当戳中人心,比如你忘记了具体文件名,输入一些偏模糊的描述,如“打开昨天没看完的研究案例文件”,AI工具能准确找到对应文件;再比如操作Excel表格,不用记住复杂的各种函数和指令,只要文字描述你的要求,AI助手就会告诉你怎么完成相应的操作。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验▲欧菲思研发的Office扩展工具Kutools AI演示

国内AI绘画社区爱好者开发的一款免费AI绘画启动软件绘事启动器,已支持用酷睿Ultra核显进行AI绘画创作,打开开源Stable Diffusion WebUI项目本地运行ControlNet,过程很流畅。

可以看到,在芯片企业与ISV厂商、模型厂商、系统厂商的合力下,AI PC生态正逐渐变得丰富起来。

英特尔客户端事业部副总裁、细分市场部总经理冯大为宣布,全球有近100款商用笔记本产品会陆续上市,包括90多款基于酷睿Ultra处理器的vPro平台商用PC以及10多款工作站设计,其中有超过30款同时满足vPro和Evo的要求。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

英特尔酷睿Ultra处理器还把AI计算能力带进了掌机游戏,为掌机跑大语言模型打好算力基础,并与腾讯合作在英特尔平台上做了编解码优化,以提供极低延迟的串流体验。通过局域网或公网,玩家就能将游戏电脑或游戏主机中的顶级3A游戏无缝串流到掌机。

会后,英特尔客户端事业部副总裁兼细分市场部总经理冯大为、英特尔中国区技术部总经理高宇、智谱AI首席运营官张帆、星环科技副总裁杨一帆、当虹科技CTO黄进接受芯东西等媒体的采访,进一步分享AI PC的商用进展和未来构想,解答把大模型塞进PC所面临的技术挑战。

一、AI PC能干啥?六大创新玩法,满足办公娱乐需求,还能提效电脑管理

在中国,英特尔联手生态伙伴面向AI PC领域打造创新解决方案,率先锚定了六大关键应用——AI Chatbot、AI PC助理、AI Office助手、AI本地知识库、AI多媒体处理、AI PC管理这些应用均能在离线环境下本地运行。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

1、AI PC助理:简化PC操作,智能管理PC上的数据和个人文档,可根据用户指令自动操作电脑,能做到一次性接受复杂的多指令并执行。

国内AI大模型独角兽智谱AI的首席运营官张帆进行现场演示:发语音要求智谱AI PC智能助手“把电脑静音+切换至最佳性能模式+打开昨天没看完的研究案例文件”,智能助手随即一气呵成地完成这一连串任务。整个操作过程自然流畅。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

注意前面并没有指明文件名,智能助手能根据关键词描述,准确找到对应的文件。这个搜索功能如果能做好,对快速查找文件非常有帮助,因为很多人都会碰到一时想不起来文件名的情景。

打开文件后,你还可以进一步要求它做文档内容提炼、生成观点等任务。文件批量重命名、自动写邮件并发送等更是不在话下。智能助手能针对用户的习惯进行优化,就像给用户配备了一个随时听指示而且很懂你的个性化需求的贴身助理。

2、AI Office助手:以AI插件形式提高日常办公中处理文档、表格、幻灯片的工作效率。

欧菲思(Extend Office)开发了基于本地AI的Office扩展工具,除了自动回复邮件、在Word生成指定文案等相对常见的功能外,一个很有用的工具是针对Excel表格设计的,用户只用提要求,比如“把XXX类别的金额都从美元转换成人民币”、“把XXX范围内的单元格加密”,AI工具就能理解并执行复杂的指令,自动调用相应功能,甚至学习用户的工作习惯。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

3、AI Chatbot:除了陪聊,还能对特定行业领域提供专业问答。

比如中科创达开发了经过大量专业法律案例训练的法务智能助手,不仅能解答各种法律基础问题,而且能对法律案例快速地进行分析、做出判断并生成结论,而且跑在离线端非常安全,不会出现文件泄密的情况。

在展区,中科创达还演示了基于13B基础大语言模型开发的魔方智能编程助手。现场讲解人员告诉芯东西,PC版本的编程助手跟在线版本使用的是相同模型,通过量化技术塞进PC,并已针对英特尔芯片进行性能优化,能以离线服务方式提供代码补全、代码生成、技术问答等功能,支持C++、Java、Python等主流编程语言。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

4、AI本地知识库:可将本地文件和资料转化成一个运行在AI PC上的知识库,进行快速文档处理和知识检索。

星环科技在现场展示了RAG产品无涯·问知,这是一个在AI PC本地运行的多模态向量数据库,能够针对不同格式,不限长度地将知识和文档入库,并提供准确的数据分析。

比如你可以上传一个几十页的文档,然后向它提问。通过RAG技术对文档进行切分、存储、本地化检索,它能给出非常精准的答案,还能生成配套的图谱。无涯·问知支持文本检索、图像查询、视频总结和摘要等功能。星环科技副总裁杨一帆预告这款产品将在4月份上线。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

5、AI多媒体处理能力:输入提示词即可生成多媒体内容,并进行灵活的后期处理。

例如,当虹科技推出了一个在AI PC上本地运行的视频慢动作解决方案,任何机位、任何片段,上传后均可通过用AIGC插入更多视频帧的方式生成流畅、高质量的慢动作,满足专业级后期制作需求。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

对于普通人来说,这个工具也能用到很多有趣的场景,比如用来生成变魔术的慢动作,逐帧分解查找魔术师的手法漏洞。

“有了英特尔AI PC的配合,原来我们只在专业服务器和大型工作站才具备的能力,现在可以普惠给普通的UGC、PGC用户,可以使得更多2C的用户可以享受到相应的技术。”当虹科技CTO黄进分享说。

6、AI PC管理:帮助企业智能高效地管理设备资产,增强安全性。

很多软件商正在发力这个赛道,比如火绒安全用AI做威胁检测,降低CPU利用率,避免系统卡顿;贝锐向日葵将酷睿Ultra的NPU与OCR技术结合,远程控制图像识别与分析,生成远程控制工作的回溯报告;VMware集成端侧AI算法来做安全漏洞管理。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

英特尔AI PC解锁AI应用的初衷是打通行业落地“最后一英里”,其创新应用方案主要覆盖了6个垂直行业,包括教育、医疗、康复养老、政务、零售(2D数字人)、制造

2D数字人为例,以前做数字人需要用到专业设备,现在用一台AI PC,只需上传一段简单的视频、读一段话,在大模型和RAG的加持下,就能创造个人专属分身。

再比如在教育领域,用AI大幅提升教师备课效率,自动生成教学大纲,基于视频生成知识图谱和解答问题,针对编程教育提供代码纠错等辅助功能,实现优质教育资源共享。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验▲华东师范大学教育大模型一体机演示

医疗领域,英矽智能将AI药物研发平台PandaOmics适配到AI PC上,结合AI PC本地算力和平台自身的科研数据库、AI算法、大语言模型及多层次安全机制的保护,为用户构造一个既能保护用户又能平稳运行的一体化方案。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

面向康复养老,腾宇智远和英特尔开展深度合作,打造在AI PC上运行的跌倒风险评估与康复产品,可通过智能运动分析技术实时评估老人健康,并进行康复指导。该产品支持平衡能力评估、中医健身功八段锦的智能指导,现处于小范围用户测试阶段,将于下半年推向市场。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

面向政务领域,实在智能把大模型引入AI PC,让它代替人去思考和推理,自动生成代码,调用RPA(机器人流程自动化)的能力去自动拆解并完成任务,同时通过本地化兼顾到隐私问题。

面向制造领域,科东软件研发了工业AI机器人,用大模型将用户的指令转换成机器人的运动命令,能同时处理复杂的AI任务和高要求的实时运动控制任务,并保障了在严苛工业环境下的系统稳定性和可靠性。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

二、解读AI PC八大灵魂问题:从定义、硬件配置到商用挑战

从概念诞生至今,AI PC的发展只有短短数月,还处于早期发展阶段。英特尔与多家ISV代表企业的高管围绕AI PC的定义、算力需求、芯片分工、硬件配置、合作方式、商用盈利、落地挑战、发展方向等问题与芯东西等媒体进行交流。

1、怎么定义AI PC?

英特尔中国区技术部高宇总结说,将要推出的商用AI PC有三大特点:1)生产力性能大幅提升;2)可管理性增强;3)内置强大的GPU而NPU,AI性能跨越式提升。

在联想集团副总裁、中国区首席市场官王传东看来,AI PC应具备强大的混合算力、安全和存储能力。戴尔科技集团全球副总裁、大中华区商用市场部总经理石峰认为,要让AI PC真正帮助客户提高工作效率,首先应该运行在一个可靠、安全、先进的技术平台上。

2、AI PC需要多大算力?

英特尔客户端事业部副总裁、细分市场部总经理冯大为回顾道,过去一年与全球ISV开发者沟通时,很多人对“英特尔未来PC客户端的AI算力到底会有多少”的问题非常感兴趣。

“我们就反问他们,你们需要多少?他们说你有多少我就能用多少,因为我们有很多的模型,我会把模型更多部署在工地,降低用户成本,提高用户体验,并且帮助用户保护数据的隐私和安全。”冯大为说。

智谱AI首席运营官张帆和星环科技副总裁杨一帆都强调“算力需求永无上限”,硬件能力是客观条件,应回归到如何尽可能将端侧算力发挥到极致,来为用户提供更好的体验,然后与云侧做无缝结合,让用户在保障高可用、稳定性的同时享受更高性能、更便捷安全的环境。

冯大为补充了功耗管理的重要性,不能因为狂堆算力把电池续航从15个小时缩短到1.5小时,这需要一个平衡的平台设计。

3、CPU、GPU、NPU如何分工?

冯大为坚信AI要完成对计算的重构,仅有CPU、GPU是不完整的,CPU通用性强、GPU吞吐能力强,这两个计算单元完成任务的功耗都很高,而NPU的特性是节能。

他还拿游戏举例,很多用户边玩游戏边听直播,NPU本身对游戏性能的提升没有直接贡献,但它通过把一部分功能卸载,让GPU和CPU释放出来,间接让游戏性能提升30%。

高宇补充说,NPU特别适合做计算机视觉类应用,比如捕捉骨骼点,另外一些持续性的、后台性的、对功耗敏感的任务跑在NPU上收益最多;但大语言模型更适合跑在GPU上,因为吞吐量高,处理速度快。

4、AI PC对硬件配置会有什么需求?

高宇提到几个基本要素:1)CPU整体散热能力增强,因为在AI峰值运算时,GPU功耗冲得高;2)内存速度要快,因为大语言模型的下一个token生成速度与内存带宽成正相关,内存速度越快,吐字速度速度越快;3)未来可能出现容量更大的内存配置;4)SSD容量越大,吞吐约稿,跑大模型的用户体验就会越好。

5、如何满足不同行业对AI的差异化需求?

以智谱AI与芯片企业英特尔的合作为例,张帆解释说,双方会针对芯片把模型优化到极致,让其发挥出最大算力价值。智谱AI展示的AI PC智能助手是一个最佳实践,不是一个完整的终端产品,也不会由智谱对外推出。

他坦言目前还没有成熟的盈利模式,后续需继续探索一个用户体验、用户价值和盈利的平衡点。

6、PC版AIGC软件以什么形式落地?

高宇说,当前AI PC处于早期阶段,产业演化不到半年,未来商业模式有待全行业探索。OEM PC预装捆绑会是一种模式,也应该是早期一种较快的方式,但不会是唯一路径,未来一定会出现客户在应用商店或网站里通过个人付费自主下载AI PC应用软件的情景。他预估两三年后,自主下载的方式会越来越多。

7、AIGC产品商业化落地面临哪些挑战?

当虹科技CTO黄进认为AIGC最大的瓶颈是成本,ChatGPT每天在云上烧钱近百万,对很多中小企业来说是沉重负担。AI PC带来一种可能赚钱的商业模式,把基础功能放到AI PC上运行,把高价值的应用放到云上运行,这样就能通过高价值用户去覆盖云上的运营成本,刺激很多AI公司做应用创新,也使得更多用户先在AI PC上试用,再到云上使用更高级的功能。

张帆坚信商业价值的前提是用户价值,过去6个月,智谱的付费API每日消耗涨了30多倍,在成百上千个应用中用大模型产生价值,现在要做的是如何把一部分能力从云侧下沉到端侧,覆盖更多场景,已经得到不错收入的WPS AI就是一个典型例子。

杨一帆从To B的角度来看,发现AI PC下沉过程中有两大难点:一是在AI PC的有限算力上提供什么,二是在AI PC上如何不断提供杀手级应用,让大模型真正能够带来实际增值。

8、未来AI PC怎么发展?

张帆判断AI PC未来发展要经过从专项助理、全能助理到更加自主的智能伙伴的进阶。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

黄进很看好AI PC的升级需求,认为AI PC快速带动整个AIGC生态终端成本降低,比以前要花五年甚至更长时间去消化一个生态快多了,可能只要花两年时间就能走完原来要走五年的路。

三、酷睿Ultra+vPro平台:开启商业AI PC元年

“酷睿Ultra处理器是我们40年来架构上的最大变革,极大降低了功耗,提高了性能,也开启了AI PC时代。”冯大为说,基于酷睿Ultra和vPro平台,能够为商业用户提高生产力、可管理性、安全性、稳定性,并助力全面节能减排,提高可持续性。

总体而言,AI应用对端侧设备本地算力提出了前所未有的需求,需要更强的CPU和GPU,还要重构整个计算机架构,引入高性能和低功耗的推理引擎,以满足终端用户对更长待机的需求。

从企业IT角度,系统的安全性和可管理性需求不断提高。而每个PC终端的安全性都与企业的信息安全息息相关,提高PC终端的可管理性有助于提高企业生产力,同时环保要求从产品的全生命周期来严格把控节能减排,降低污染。

在硬件设计上,英特尔酷睿Ultra处理器通过CPU+GPU+NPU三大引擎来有的放矢,其架构更新体现在三个方面:

1)低功耗管理:首次引入2颗低功耗核心,加上Intel 4制程的提高,极大提升了能效。

2)显卡:首次集成独显架构,性能达到前代产品的2倍。内置的Arc显卡已经达到移动工作站的性能需求,英特尔第一次在内置显卡深提供了PRO级别的ISV软件认证。

3)NPU:提高AI推理性能,降低功耗。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

与三年前的PC相比,酷睿Ultra性能提升最高可达47%,在运行视频会议时功耗可降低36%,在运行视频编辑应用时AI性能可以达到上一代产品的2.2倍,在3D渲染评分上性能可达到上一代产品的12倍,在运行Adobe光线追踪时通过软硬件优化能将性能提高到上一代产品的8倍。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

基于酷睿Ultra处理器有两类平台产品,一类是优化个人用户体验的Evo平台,另一类是针对企业级需求优化的vPro平台。冯大为说,基于酷睿Ultra和vPro平台开启了商业用户的AI PC元年。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

vPro平台集成了硬件、软件和系统级部件,注重生产力、稳定性、安全性、可管理性四大特性。

高宇和黄进都谈道,面向消费者和面向商用的产品测试流程、软件设计等都会有所不同。张帆和杨一帆则强调稳定性的差别,商业信任比个人信任建立周期会更长,今天推出的产品都要经过充分的测试和试水,才敢放到ToB市场上扩张。

在可管理性上,通过系统的远程支持,vPro平台最高可减少90%的硬件现场技术支持需求;对于IT人员每天都要处理的服务单量,最高可以降低40%,加快硬件和软件问题解决的速度。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

英特尔还在这一代产品上专门提供了Windows 10的支持,并长期保持在99.7%的应用级软件兼容性,这就能保证企业正常运转各种专有软件。

通过全生命周期的管理优化,vPro平台在可持续性的表现上也非常突出。基于vPro的系统级产品有94%都通过了EPEAT电子产品环境影响评估工具的银牌,71%获得了金牌认证按照。每使用一次vPro的远程支持功能,无需派遣技术人员上门服务,所避免的碳排放量相当于这台PC两年使用的碳排放量总量。

在可持续性方面,英特尔不断提出新的技术和特性,比如其平台服务记录帮助IT管理人员了解PC过去使用历史,充分利用它的声誉价值。

结语:AI PC应用爆发进行时,加速AI落地千行百业

英特尔公司高级副总裁、英特尔中国区董事长王锐谈道,英特尔在AI转型的历史性时代,可以为大家带来一块无限的帆布,英特尔搭台,在以AI PC为代表的基础设施的架构上,联手生态伙伴一起展示创新的AIGC应用。

在英特尔公司市场营销集团副总裁、中国区云&行业解决方案部梁雅莉看来,生成式AI技术颠覆了所有传统的业务模式,重塑了商业效率和创新价值链,并驱动了未来计算,AIGC也会以一个高效、低成本、高质量的方式为各行各业提供新的内容生产方式和创新路径,推动智能技术和千行百业以及多元化业务场景的深度融合。

她相信AI作为新质生产力,未来会成为所有企业创新的原动力和新动力。企业在开发新产品、做创新业务的过程中会从源头开始,从研发、设计、生产、运营到市场,将AI原生能力贯穿于整个业务应用的生命周期中,驱动业务重构。

英特尔给商用AI PC打了个样!展出数十款国产AIGC应用,六大玩法改造电脑体验

英特尔与合作伙伴此次围绕AI PC的集中展示只是“开胃菜”,更多创新应用正在紧密开发中。

为了激励全行业对AI PC开发的热情,英特尔还特别举办了“英特尔人工智能创新应用大赛”,迄今共收到2120个团队的报名,其中30%来自高校大学生,共收到1083件AI应用作品,至少有4500名工程师参加了线上直播培训,产生超过10万次互动,现在赛程已进入半决赛,共有54个人团体和26个企业团队成功晋级。

同时,英特尔也在教育行业和各大高校进行持久合作,推动产学研融合的AI专业人才培养计划。梁雅莉希望与业界合作伙伴一起打造更包容开放的生态,全栈加速AIGC应用,为千行百业数字化转型提供源源不断的新动力。