Qualcomm AI Engine(1)下载

这个系列主要是介绍 Qualcomm AI Engine Direct SDK,高通新的AI模型推理框架,又名QNN。 本文主要介绍SDK的下载步骤

Qualcomm AI Engine Direct

时间:2023-07-07 14:42:51

高通OpenCL ML扩展之自定义操作

通过OpenCL的cl_qcom_ml_ops(CLML)扩展,我们为开发人员提供了一套常用的machine learning ops,可以在高通平台的Adreno GPU上获得最佳性能。对于希望创建自定义操作的开发人员,CLML提供了添加自定义操作的接口。

Adreno GPU OpenCL

时间:2022-09-23 12:37:41

高通OpenCL ML扩展之可记录队列

高通的OpenCL驱动程序支持用于加速机器学习操作的cl_qcom_ml_ops扩展(CLML)。cl_qcom_ml_ops扩展可与cl_qcom_recordable_queues扩展一起用于记录ml ops。示例程序-clml_mobilenet_recordables已包含在OpenCL ML SDK中。此示例演示如何使用CLML和可记录队列来构建和运行mobilenet图像分类网络。

Adreno GPU OpenCL

时间:2022-09-23 12:33:44

上手SNPE(7)V1.62.0-支持骁龙8Gen1平台

SNPE更新到了v1.62.0, 最大的改动是开始支持骁龙8Gen1平台,解决HTP模型兼容性问题。

Qualcomm SNPE 量化

时间:2022-05-30 09:34:18

动手学AIMET(1)- 什么是AIMET?

越来越多的模型部署在手机端,而端侧可用的计算能力有限、电池容量有限,为了高效的部署推理AI模型,产业界已经有很多算法框架,高通也推出了针对端侧的优化工具库AIMET。

Qualcomm AIMET

时间:2022-05-24 10:13:49

边缘机器学习训练:移动设备端训练

介绍利用高通open CL ML SDK进行反向传播以及权重更新

Adreno GPU Open CL Machine Learning

时间:2022-04-11 12:46:16

利用高通openCL ML SDK加速机器学习模型

介绍高通open CL ML SDK的作用。

Adreno GPU Open CL Machine Learning

时间:2022-04-11 12:31:35

上手SNPE(6)HTP推理YoloV5

Yolo系列模型在业界有着广泛的应用,这里简单介绍下如何用SNPE在HTP上做Yolov5的推理。

SNPE YoloV5 量化

时间:2022-04-08 16:40:00

上手SNPE(5)重写DLC量化参数

量化训练通常会得到对应的量化参数,SNPE可以将量化训练得到的参数写入到量化的DLC中。 这里,我就简单介绍一下重写DLC量化参数的办法和需要注意的点。

SNPE AI 量化

时间:2022-03-22 15:54:45

上手SNPE(4)后量化工具

简单介绍SNPE量化工具snpe-dlc-quantize的使用以及包含的后量化技术。 本文包含以下部分:snpe-dlc-quantize 基本使用,增强量化(Enhanced Quantization Mode),和后量化优化技术 CLE和BC。

SNPE AI 后量化

时间:2022-03-22 15:48:09

每页显示 共13条数据 < 1 2 >      到第 GO

Qualcomm 解决方案

 

高通 AI Hub

全新高通 AI Hub 包含预优化AI模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。
该模型库为开发者提供超过75个主流的AI和生成式AI模型,比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B,可在不同执行环境(runtime)中打包,能够在不同形态终端中实现卓越的终端侧AI性能、降低内存占用并提升能效。所有模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,从而使推理速度提升4倍。

了解更多

SDK 下载

本版块下载 SDK,只需简单注册,就可轻松下载。