上手SNPE(5)重写DLC量化参数

量化训练通常会得到对应的量化参数,SNPE可以将量化训练得到的参数写入到量化的DLC中。 这里,我就简单介绍一下重写DLC量化参数的办法和需要注意的点。

SNPE AI 量化

时间:2022-03-22 15:54:45

上手SNPE(4)后量化工具

简单介绍SNPE量化工具snpe-dlc-quantize的使用以及包含的后量化技术。 本文包含以下部分:snpe-dlc-quantize 基本使用,增强量化(Enhanced Quantization Mode),和后量化优化技术 CLE和BC。

SNPE AI 后量化

时间:2022-03-22 15:48:09

上手SNPE(3)API详解

简单介绍如何在APP中通过SNPE API使用HTP,加速模型的同时减少功耗。本文包含以下部分:SNPE Native C++ API 的介绍,在 888 手机的HTP上运行示例代码,调试API的介绍。

SNPE AI SNPE Sample

时间:2022-03-03 18:55:05

上手SNPE(2)使用手机推理inceptionV3

SNPE 是神经网络在骁龙平台上推理的开发套件,方便开发者在使用高通芯片的设备上加速AI应用。本文包含以下两部分 (1)使用手机的CPU和GPU推理inceptionV3 (2)使用SNPE工具在HTP上推理inceptionV3

SNPE HTP 骁龙888

时间:2022-03-03 18:53:08

上手SNPE(1)推理InceptionV3

SNPE 是神经网络在骁龙平台上推理的开发套件,方便开发者在使用高通芯片的设备上加速AI应用。本文首先安装SNPE SDK,然后使用SNPE在Ubuntu系统下推理inceptionV3.

SNPE AI 模型推理

时间:2022-03-03 18:44:27

每页显示 共25条数据 < 1 2 3 >      到第 GO

Qualcomm 解决方案

 

高通 AI Hub

全新高通 AI Hub 包含预优化AI模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。
该模型库为开发者提供超过75个主流的AI和生成式AI模型,比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B,可在不同执行环境(runtime)中打包,能够在不同形态终端中实现卓越的终端侧AI性能、降低内存占用并提升能效。所有模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,从而使推理速度提升4倍。

了解更多

SDK 下载

本版块下载 SDK,只需简单注册,就可轻松下载。