aclblasS8gemv【免費(fèi)下載鏈接】geGEGraph Engine是面向昇騰的圖編譯器和執(zhí)行器提供了計(jì)算圖優(yōu)化、多流并行、內(nèi)存復(fù)用和模型下沉等技術(shù)手段加速模型執(zhí)行效率減少模型內(nèi)存占用。 GE 提供對(duì) PyTorch、TensorFlow 前端的友好接入能力并同時(shí)支持 onnx、pb 等主流模型格式的解析與編譯。項(xiàng)目地址: https://gitcode.com/cann/ge產(chǎn)品支持情況產(chǎn)品是否支持Atlas A3 訓(xùn)練系列產(chǎn)品 / Atlas A3 推理系列產(chǎn)品√Atlas A2 訓(xùn)練系列產(chǎn)品 / Atlas A2 推理系列產(chǎn)品√功能說明執(zhí)行矩陣-向量的乘法y αAx βy輸入數(shù)據(jù)的數(shù)據(jù)類型為int8_t輸出數(shù)據(jù)的數(shù)據(jù)類型為int32_t。異步接口。函數(shù)原型aclError aclblasS8gemv(aclTransType transA, int m, int n, const int32_t *alpha, const int8_t *a, int lda, const int8_t *x, int incx, const int32_t *beta, int32_t *y, int incy, aclComputeType type, aclrtStream stream)參數(shù)說明參數(shù)名輸入/輸出說明transA輸入A矩陣是否轉(zhuǎn)置的標(biāo)記。m輸入矩陣A的行數(shù)存儲(chǔ)矩陣乘數(shù)據(jù)時(shí)行優(yōu)先。n輸入矩陣A的列數(shù)。alpha輸入用于執(zhí)行乘操作的標(biāo)量α的指針。a輸入矩陣A的指針。lda輸入A矩陣的主維此時(shí)選擇轉(zhuǎn)置按行優(yōu)先則lda為A的列數(shù)。預(yù)留參數(shù)當(dāng)前只能設(shè)置為-1。x輸入向量x的指針。incx輸入x連續(xù)元素之間的步長(zhǎng)。預(yù)留參數(shù)當(dāng)前只能設(shè)置為-1。beta輸入用于執(zhí)行乘操作的標(biāo)量β的指針。y輸入輸出向量y的指針。incy輸入y連續(xù)元素之間的步長(zhǎng)。預(yù)留參數(shù)當(dāng)前只能設(shè)置為-1。type輸入計(jì)算精度默認(rèn)高精度。stream輸入執(zhí)行算子所在的Stream。返回值說明返回0表示成功返回其他值表示失敗請(qǐng)參見aclError?！久赓M(fèi)下載鏈接】geGEGraph Engine是面向昇騰的圖編譯器和執(zhí)行器提供了計(jì)算圖優(yōu)化、多流并行、內(nèi)存復(fù)用和模型下沉等技術(shù)手段加速模型執(zhí)行效率減少模型內(nèi)存占用。 GE 提供對(duì) PyTorch、TensorFlow 前端的友好接入能力并同時(shí)支持 onnx、pb 等主流模型格式的解析與編譯。項(xiàng)目地址: https://gitcode.com/cann/ge創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考