联发科天玑AI开发套件：加速生成式AI大模型终端部署

近日，主题为“AI予万物”的联发科天玑开发者大会2024(MDDC)在深圳成功举办。众多移动生态领域的领先厂商与开发者汇聚一堂，共同探讨端侧生成式AI技术及生成式AI手机的未来发展，并分享了天玑AI生态战略与终端生成式AI应用开发一站式解决方案——“天玑AI开发套件”。此外，联发科携手业界生态伙伴共同发布《生成式AI手机产业白皮书》，并针对全球开发者推出“天玑AI先锋计划”。这一举措既为生成式AI手机的定义与发展提供了新的思考与期待，也整合了产业各方资源，为全球开发者提供优质平台与资源，助力全场景生成式AI应用的普及与发展。

　　当前生成式AI应用的体验升级已成为行业和用户的共同期待，智能终端是生成式AI普及的关键载体。智能手机凭借移动便携性、个人专属化、多模态感知以及强劲的AI算力和通信功能，毫无疑问将成为端侧生成式AI应用落地的最佳选择。伴随生成式AI与智能手机融合加速，智能手机迎来了继触控屏幕之后的又一个革新机遇，在联发科等行业先行者的推动下，属于“生成式AI手机”的时代已经到来。

　　天玑AI先锋计划启动，助力开发者打造创新用户体验

　　目前，由于生成式AI模型积累不足、硬件多样移植难度大、开发界面不统一等问题，生成式AI普及仍面临由点向面发展的巨大挑战。为促进产业共创实现生态共赢，联发科在天玑开发者大会上联合阿里云、百川智能、传音、零一万物、OPPO、荣耀、vivo、小米面向全球开发者启动“天玑AI先锋计划”，提供基于模型化、算力化和软硬件等方面的开发资源和支持，并提供广泛的商业机遇。通过天玑AI先锋计划，开发者可以充分发挥天玑移动平台的优势，加速端侧生成式AI应用的开发与落地，为用户打造独具创新的AI体验。

　　为实现这一长期计划和全场景生成式AI愿景，联发科在大会上提出了天玑生态战略，从芯片、模型、应用三个层面，联合产业伙伴和开发者共同探索端侧AI技术路线，推进颠覆性的端侧AI应用和服务创新。

　　联合产业伙伴发布《生成式AI手机产业白皮书》，共同定义“生成式AI手机”

　　在天玑开发者大会上，联发科联合Counterpoint并携手阿里云通义千问、百川大模型、虎牙、酷狗音乐、零一万物、OPPO、Soul、腾讯AI Lab、腾讯混元、vivo行业头部伙伴联合发布《生成式AI手机产业白皮书》，共同定义了“生成式AI手机”的概念和典型特征。《白皮书》提到：生成式AI手机是利用大规模、预训练的生成式AI模型，实现多模态内容生成、情境感知，并具备不断增强的类人能力。生成式AI手机开启了智能手机发展的新周期，长远看，智能手机将会发展为移动智能体。

　　同时，《白皮书》这样定义了生成式AI手机的典型特征：在未来，生成式AI手机将具备强大的AI算力，支持大模型的本地部署，或是通过云端协同的方式执行复杂的生成式AI任务，无需完全依赖云端服务器。同时将具备多模态能力，处理文本、图像、语音等多种形式的内容输入，以生成各种形式的输出，确保流畅、无缝的用户体验，设备能够以自然而直观的交互方式，快速响应用户的请求。而为了实现这一目标，生成式AI手机将需要强大的硬件支持，包括但不限于基于领先工艺和先进架构设计的移动计算平台，集成或者独立的神经网络运算单元(如APU/NPU/TPU)，大容量和高带宽的内存，以及稳定和高速的连接，硬件级和系统级的安全防御。

　　从《白皮书》中可以预见，未来的手机将成为一个能够理解并预测用户需求、提供创造性解决方案的智能伙伴，搭载多个AI智能体的生成式AI手机将成为用户访问数字生态的超级入口，端侧的AI应用将进入人们日常生活的购物、旅游、游戏等场景，扮演购物达人、私人顾问、互动NPC等专属角色，实现用户体验的优化与飞跃。

　　天玑AI开发套件，为广大开发者提供“快、全、强、易”的专业开发体验

　　很多开发者都面临着终端生成式AI应用开发起步期的多元挑战，联发科不仅研发出领先的天玑芯片，更重要的是，帮助开发者在搭载天玑芯片的终端上打造出更具创新性的生成式AI用户体验，从而推动整个AI新生态的繁荣与发展。会上，联发科隆重推出了“天玑AI开发套件”，为广大开发者提供终端生成式AI应用开发的一站式解决方案。天玑AI开发套件包含四大模块，包括快速高效的GenAI最佳实践、覆盖全球主流大模型的GenAI Model Hub、高效提升性能的GenAI优化技术和Neuron Studio一站式视觉化开发环境等四大模块，为广大开发者提供“快、全、强、易”的专业开发体验，赋能终端生成式AI应用开发全流程。

　　其中，GenAI 最佳实践，它可以提升大模型的终端部署速度，从原先的数周加速到一天即可完成部署。在模型的量化、编译、推理方面，为开发者提供先进的INT4量化技术、内存压缩技术、Token加速技术、最优缓存配置，还可以开放端侧部署源码。让开发者在与时间赛跑的创新竞赛中，抢得先机，更好地把握创新机遇。

　　全面的GenAI Model Hub ，是联发科为开发者打造的模型库，目前已适配包括：Meta Llama、百川大模型、阿里云通义千问在内的全球主流大模型。开发者可以轻松获取并使用这些不断新增的大模型，进而大幅降低模型部署的难度和复杂性。

　　强大的GenAI优化技术，是生成式AI应用体验的关键。目前已导入了多项业界最新、最快的软件优化技术，包括“推测解码加速”和“LoRA Fusion”等等，可显著提升AI应用的生成速度，功能包所占用的存储空间也可以大幅减少。

　　易用的Neuron Studio 集成开发环境，跳出传统的代码开发环境，可为开发者提供高度集成的，一站式、可视化开发环境 ，带来“所见即所得”般更易用的开发体验，让开发过程变得更加直观、易用。

　　目前天玑AI开发套件，已覆盖包括智能手机、智能汽车、物联网、个人电脑等智能终端设备，推动这些领域的AI应用快速创新和落地。

　　从应用落地成果来看，联发科凭借其优秀的AI平台能力，已携手阿里云通义千问、Cocos、Honor of Kings、虎牙直播、酷狗音乐、美图、全民K歌、RWKV、Soul、腾讯AI Lab、小红书等数十家生态伙伴共创体验更精彩的生成式AI应用。

　　天玑9300+全大核旗舰亮相，AI芯更强

　　本届MDDC2024上，联发科还重磅发布旗舰5G生成式AI移动平台天玑9300+，以先进架构和强劲算力为生成式AI手机提供硬件支持。天玑9300+率先支持AI推测解码加速技术，同时支持天玑AI LoRA Fusion 2.0技术，为用户带来高速和个性化的生成式AI体验。天玑9300+还支持AI框架ExecuTorch，可加速端侧生成式AI应用的开发进程。此外，这款旗舰芯支持多种前沿主流AI大模型，包括阿里云通义千问大模型、百川大模型、文心大模型、谷歌Gemini Nano、零一万物终端大模型、Meta Llama 2 & Llama 3等。用一句话概括天玑9300+就是，不仅拥有卓越的全大核性能和低功耗设计，还具备多项业界领先的生成式AI技术，以及联发科与生态伙伴共创的优质游戏体验，无疑是当下生成式AI手机的最优选择。

　　显然，联发科的天玑生态战略凸显出卓越的前瞻性、技术领先地位以及显著的产品优势。通过参与天玑开发者大会，联发科从生成式AI产业的先驱及参与者，跃升为该领域发展的引领者。全方位推动生成式AI在终端侧的广泛普及和持续发展，携手产业合作伙伴共同开创生成式AI的新生态。