高通云AI 100开发者指南(四)

本文博客主要介绍ESXi和 SDK 安装指南。

Qualcomm AI

时间:2024-06-20 09:37:10

高通云AI 100开发者指南(三)

本文博客主要介绍安装指导。

Qualcomm AI

时间:2024-06-19 09:58:52

高通云AI 100开发者指南(二)

Qmonitor是一个客户端-服务器工具,提供基础设施来配置和获取云端AI 100设备的状态信息。与Qmonitor的主要接口是协议缓冲区。它是使用Protocol Buffer 3构建的,允许为任何支持的语言生成客户端的绑定 - 包括C++和Python。Qmonitor支持封装服务,用于直接消息(命令-响应)或异步服务(注册和接收异步回调)。

Qualcomm,AI

时间:2024-06-18 09:50:57

高通云AI 100开发者指南(一)

高通云端AI 100加速卡和配套的软件开发工具包(SDK)提供卓越的动力和性能能力,满足云数据中心、边缘计算和其他机器学习(ML)应用不断增长的推断需求。云端AI 100卡由AIC100系统芯片(SoC)提供动力支持,专为ML推断工作负载量身定制。应用程序和平台SDK提供了编译、优化和在云端AI 100硬件上运行来自流行框架(如PyTorch、TensorFlow、ONNX、Caffe和Caffe2)的深度学习模型的能力。

Qualcomm AI

时间:2024-06-17 10:05:47

神经网络量化(八)

本文博客主要介绍实验及摘要与结论。

Qualcomm 神经网络

时间:2024-06-14 09:39:24

神经网络量化(七)

本文博客主要介绍批归一化折叠和量化感知训练(QAT)、QAT的初始化和标准QAT流程。

Qualcomm 神经网络

时间:2024-06-13 13:27:35

神经网络量化(六)

在本节中,我们将探讨在模拟量化网络中如何进行反向传播,并提供有效训练QAT模型的标准流程。我们还将讨论批归一化折叠和通道量化在QAT中的影响,并提供各种任务和模型的结果。

Qualcomm 神经网络

时间:2024-06-13 13:26:34

神经网络量化(五)

本文博客主要介绍实验和调试的结果。

Qualcomm 神经网络

时间:2024-06-11 10:10:19

神经网络量化(四)

本文博客主要介绍如何纠偏和AdaRound。

Qualcomm 神经网络

时间:2024-06-06 10:31:54

神经网络量化(三)

当对具有多个层的神经网络进行量化时,我们面临着一个庞大的量化选择空间,包括量化方案、粒度和位宽。在本节中,我们探讨一些实际考虑因素,以帮助减少搜索空间。

Qualcomm 神经网络

时间:2024-06-05 11:10:30

每页显示 共1722条数据 < 1 2 3 4 ...173 >      到第 GO

Qualcomm 解决方案

 

高通 AI Hub

全新高通 AI Hub 包含预优化AI模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。
该模型库为开发者提供超过100个主流的AI和生成式AI模型,比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B,可在不同执行环境(runtime)中打包,能够在不同形态终端中实现卓越的终端侧AI性能、降低内存占用并提升能效。所有模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,从而使推理速度提升4倍。

了解更多

SDK 下载

本版块下载 SDK,只需简单注册,就可轻松下载。