人工智能正迅速从集中式的云端环境向边缘迁移，从而更加接近必须进行数据生成和决策的场景。边缘AI实现了实时响应、更强的系统韧性、以及更强大的数据隐私保护。
然而，尽管已有许多令人印象深刻的演示和概念验证，多数边缘AI项目仍未能进入量产阶段。
为什么会出现这种情况？因为边缘AI最难的部分并非构建模型，而是将原型转化为已部署、可扩展的系统。
这正是高通技术公司致力于弥合的差距。
通过整合高通跃龙处理器、Arduino平台、高通预优化AI模型库、Edge Impulse平台、以及Foundries.io平台，我们提供了一条从创意到量产、再到工业级规模部署的端到端路径，将芯片、软件、AI与全生命周期管理整合为统一协同的生态系统。
高通跃龙堆栈架构
一条从原型构建到量产的连续路径
传统上，边缘AI开发在整个过程的各个阶段将不相关的各种工具衔接在一起。跃龙开发者生态系统用集成化的端到端流程取代了碎片化的模式：
原型构建 → 模型选型、设计与优化 → 应用开发 → 部署与扩展 → 全生命周期管理
采用这种方法时，整体基于高通跃龙平台，确保开发者可以快速启动实验，然后自信地进行扩展，确保从第一天起即在量产基础上进行构建。
在搭载Arduino平台的量产级硅片上快速进行原型构建
Arduino平台长期以来一直是创新入门的首选平台。借助Arduino UNO™ Q开发板和Arduino VENTUNO™ Q开发板，开发者现在可以在熟悉的Arduino平台环境中（运行Ubuntu或 Debian Linux系统），利用跃龙处理器对边缘AI应用程序进行原型构建。
这一点至关重要，因为早期的实验现在可以直接在真实的、量产级硅片上进行，而不是在与实际部署环境脱节的抽象开发套件上完成。
利用Arduino UNO Q开发板和Arduino VENTUNO Q开发板，开发者可以获得以下功能：
- CPU、GPU和NPU加速支持
- 高能效的性能表现
- 集成的摄像头与计算机视觉、音频和视频处理、以及网络连接功能
Arduino App Lab软件使用模块化构建块和集成AI模型实现可视化应用程序组合，而Arduino平台集成开发环境与我们基于VS Code的集成开发环境则支持完整的固件和软件开发。
最终成果：在原型构建过程中所使用的代码和模型不会被废弃。可以利用跃龙处理器组合将这些代码和模型直接迁移到生产环境中。
Arduino VENTUNO Q开发板
利用Edge Impulse平台设计量产级模型并将其转化为应用程序
通用模型本身无法解决实际问题。利用Edge Impulse平台，开发者可以将数据转换为精准、经过优化、且可部署的AI流水线，并且不需要AI或嵌入式专业知识。
利用Edge Impulse平台，确保各个团队能够完成以下任务：
- 收集来自现实世界的传感器、视觉、音频和时间序列数据
- 为实现跃龙处理器的加速性能设计、训练、调整和优化模型
- 构建多模型与级联式推理流水线，包括各种视觉-语言模型
- 将各种AI工作负载打包为容器化应用程序
- 主动监控模型性能与漂移情况
通过我们提供的工具，确保开发者可以通过各种预优化模型起步，并利用自有数据进行精细化调整，从而将AI从实验阶段转变为可复用的工程化工作流。
简化边缘AI部署
AI如何走向应用落地：Arduino App Lab
这就是生态系统汇集在一起的集成开发环境。
Arduino App Lab是生态系统的应用层，可以将各种AI模型与流水线转化为完整且可部署的体验。App Lab与Arduino平台硬件和开发流直接集成，从而支持开发者直接部署以下各项：
- Edge Impulse平台的模型应用容器
- 打包为容器的完整AI推理流水线
- 在跃龙处理器中实现CPU、GPU和NPU优化加速的各种应用程序
开发者无需手动集成运行时与依赖项，只需选择经过验证的AI应用程序堆栈，即可在真实的硬件上立即运行。
边缘端的高级AI与生成式AI成为可落地的应用体验，而非复杂的科研项目。
App Lab同样支持精选的高通智能多媒体SDK容器，从而实现：
- 视觉-语言与多模态流水线
- 设备端生成式AI工作负载
- 媒体、感知与AI系统服务
这些容器具备硬件感知能力，开箱时即可实现经过优化的性能，从而能够灵活选用和组合先进的边缘AI功能，无需进行定制化集成。
从原型构建到量产硬件 – 无需彻底改造堆栈
Arduino开发板并非为大规模部署而设计 – 也不需要对其进行大规模部署。
由于开发工作是从跃龙处理器开始，因此客户可直接从基于Arduino平台的原型构建过渡到采用相同处理器架构构建的全规模量产硬件。原始设备制造商和原始设计制造商可以从一系列基于跃龙处理器的合作伙伴模块中进行选择，但该等模块应当满足成本、性能、散热与外形尺寸等要求。
整个开发链保持一致。软件应保持可移植性。开发风险大幅降低。
利用Foundries.io平台实现安全扩展与全生命周期管理
当项目从试点进入量产阶段，各种新挑战随之而来，包括制造与配置、安全性、系统更新、设备集群管理及长期维护等方面的挑战。
Foundries.io平台提供了以下功能，从而完成了整个开发过程：
- 利用Yocto项目构建具有优化占有空间的安全、可定制、量产级Linux系统
- 支持不可变构建的SaaS（软件即服务）平台，具有SBOM（软件物料清单）生成、CI/CD（持续集成/持续部署）流程、确保设备安全、PKI基础设施，以及支持公有云/私有云和本地部署的设备/集群管理
- 基于容器的应用交付与更新管理
- 支持回滚与版本控制的远程更新
- 长期的生命周期与安全维护
目前可以将原型构建过程中开发的各种AI应用程序无缝扩展至成千上万的已部署设备。
是否准备好从原型构建转向量产？今天就利用跃龙开发者生态系统开始构建工作。探索各种专用工具、模型、平台和文档，以帮助您自信地部署可扩展边缘AI。现在请访问高通开发者网站，开始利用跃龙平台芯片进行开发。
在所发布内容中表达的观点仅为原作者的个人观点，并不代表高通技术公司或其子公司（以下简称为“高通技术公司”）的观点。所提供的内容仅供参考之用，而并不意味着高通技术公司或任何其他方的赞同或表述。本网站同样可以提供非高通技术公司网站和资源的链接或参考。高通技术公司对于可能通过本网站引用、访问、或链接的任何非高通技术公司网站或第三方资源并没有做出任何类型的任何声明、保证、或其他承诺。
高通品牌产品均为高通技术公司和/或其子公司的产品。
关于作者
曼文德·辛格，高通技术公司产品管理副总裁
