高通孟樸:当终端随时都能运行生成式AI,才会实现广泛应用

发布时间:2024-11-27 12:02:12 来源: sp20241127

  中国龙年春节期间,OpenAI发布了视频生成模型Sora,被称为“世界模拟器”,引起了广泛的关注和讨论。近年来,从文字对话机器人到文字生成图像、文字生成视频等,各种AI模型层出不穷,生成式AI呈现出强劲的发展势头。麦肯锡发布的研究数据显示,生成式AI技术可使60多个用例每年实现2.6万亿至4.4万亿美元的总体经济效益增长。

  不过,目前生成式AI大模型主要运行在云端,需要强大的算力提供支撑,难以普及应用。高通中国区董事长孟樸在最近举办的MWC2024期间接受采访时表示,如果我们希望让更多人快捷、便利地享受到AI发展带来的新体验,让生成式AI惠及更多人,这就需要将AI技术引入最贴近用户的地方。因此,只有在我们触手可及的智能手机、移动PC和网联汽车等终端设备中,实现随时随地运行生成式AI功能,才能使终端与云端紧密融合,从而推动生成式AI的广泛应用。

 

  在今年的MWC大会上,高通推出了全新的高通AI Hub,为开发者提供一个全面的AI预优化模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。目前,高通AI Hub能够为开发者提供超过75个主流的AI和生成式AI模型,包括大家比较熟悉的Stable Diffusion、ControlNet、Baichuan-7B等等,所有这些模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,从而使推理速度提升4倍。开发者可以快速将这些模型无缝集成到应用程序之中,缩短产品上市时间,发挥终端侧AI部署的诸多优势,比如即时性、可靠性、隐私、个性化和成本优势。

 

  为了服务更多的开发者,高通已经将这些优化模型同步上线到高通AI Hub、全球最大的代码托管平台GitHub以及AI开源社区Hugging Face。开发者注册登陆后,就可以在搭载高通平台的云托管终端上自行运行模型,还可以通过高通AI Hub提前获取新特性和AI模型,从而加快产品开发和升级的步伐,让用户获得全新的使用体验。此外,高通AI Hub后续还将持续增加新模型,同时还将支持更多平台和操作系统,不断丰富生成式AI应用开发生态,加速推动生成式AI在各类终端上的广泛应用。

 

  此前,高通已经推出了公司首个专为生成式AI打造的移动平台——第三代骁龙8,支持在智能手机上运行100亿参数的AI大模型。同时,高通还专门面向AI PC推出了骁龙X Elite平台,支持在终端侧运行超过130亿参数的生成式AI模型。目前,包括小米14系列、iQOO12系列、荣耀Magic6系列、三星Galaxy S24系列、OPPO Find X7 Ultra等在内,已经有超过10款搭载第三代骁龙8的智能手机上市,而搭载骁龙X Elite的更多AI PC也将于今年晚些时候上市。所有这些,为生成式AI在终端上的应用提供了广泛的硬件基础,让更多消费者都能随时随地享受到生成式AI带来的创新体验。

  孟樸进一步指出,随着芯片算力的提升和软件的持续优化,以及在生成式AI应用持续发展的过程中AI模型不断精简,未来12个月到18个月,生成式AI将从目前的骁龙8系列旗舰手机广泛扩展到骁龙7系列甚至骁龙6系列的产品上,而广大消费者也将体验到更加丰富的各种生成式AI功能。展望未来,高通也将继续致力于拓展终端侧AI在下一代PC、智能手机、软件定义汽车、XR设备和物联网等领域规模化商用,让智能计算无处不在。

【编辑:邵婉云】