产品上手指引
Linux PC
AI 加速卡
LLM-8850 Card
大语言模型
实时 AI 语音助手
火山引擎语音助手
离线语音识别
工业控制
Ezdata
Ethernet 摄像头
PoECAM
Wi-Fi 摄像头
Unit CamS3/-5MP
AI 摄像头
LoRa & LoRaWAN
电机驱动
恢复出厂固件教程
Whisper
- 本小节只指导如何在 Raspberry Pi 5 上运行预编译好的基于 Whipser Small 的语音转文字示例；
- 模型转换、示例源码编译请参考 whisper.axcl。
- 下载
git clone https://github.com/ml-inory/whisper.axcl.git- 编译
cd whisper.axcl
mkdir -p build && cd build
cmake -DCMAKE_INSTALL_PREFIX=../install -DCMAKE_BUILD_TYPE=Release ..
make install -j4- 预编译模型
预编译模型下载 百度网盘
- 运行 Whisper
cd install
./whisper -w ../demo.wav运行结果：
(base) axera@raspberrypi:~/qtang/whisper.axcl/install $ ./whisper -w ../demo.wav
encoder: ../models/small-encoder.axmodel
decoder_main: ../models/small-decoder-main.axmodel
decoder_loop: ../models/small-decoder-loop.axmodel
wav_file: ../demo.wav
language: zh
Load encoder take 3336.25 ms
Load decoder_main take 6091.89 ms
Load decoder_loop take 5690.05 ms
Read positional_embedding
Encoder run take 190.26 ms
First token: 17556 take 51.49ms
Next Token: 20844 take 30.15 ms
Next Token: 7781 take 30.21 ms
Next Token: 20204 take 30.20 ms
Next Token: 28455 take 30.17 ms
Next Token: 31962 take 30.02 ms
Next Token: 6336 take 30.09 ms
Next Token: 254 take 30.22 ms
Next Token: 2930 take 30.14 ms
Next Token: 236 take 30.14 ms
Next Token: 36135 take 30.12 ms
Next Token: 15868 take 30.18 ms
Next Token: 252 take 30.01 ms
Next Token: 1546 take 30.17 ms
Next Token: 46514 take 30.17 ms
Next Token: 50257 take 30.15 ms
All Token: take 503.68ms, 31.77 token/s
All take 735.09ms
Result: 甚至出现交易几乎停滞的情况
(base) axera@raspberrypi:~/qtang/whisper.axcl/install $