3. rknn-toolkit2 설치하기

RKNN SDK 설치하기

rknn-toolkit2

rknn-toolkit2는 x86 계열 리눅스 컴퓨터에 설치하는 것을 권장합니다. (arm 계열 지원하지 않음)

$ mkdir rknn_project 
$ git clone https://github.com/airockchip/rknn-toolkit2.git
$ conda create -n rknn python=3.8
$ conda activate rknn
$ pip3 install -r rknn-toolkit2/packages/requirements_cp38.txt
$ pip3 install rknn-toolkit2/packages/rknn_toolkit2-2.0.0b0+9bab5682-cp38-cp38-linux_x86_64.whl 

설치를 완료하면

$ python3
>> from rknnlite.api import RKNNLite

으로 설치가 정상적으로 되었는지 확인할 수 있습니다.

rknn-toolkit-lite2

rknn-toolkit-lite2는 오렌지 파이에 설치 가능합니다. 마찬가지로 rknn_toolkit2 깃헙 레포지토리를 clone 하고, 시스템 Python 버전에 맞춰서 whl 파일을 설치합니다.

$ pip3 install rknn-toolkit2/rknn-toolkit-lite2/packages/rknn_toolkit_lite2-2.0.0b0-cp38-cp38-linux_aarch64.whl

$ sudo cp rknn-toolkit2/rknpu2/runtime/Linux/rknn_server/aarch64/usr/bin/rknn_server /usr/bin/
$ sudo chmod 777 /usr/bin/rknn_server
$ sudo cp rknn-toolkit2/rknpu2/runtime/Linux/librknn_api/aarch64/librknnrt.so /usr/lib
$ sudo chmod 777 /usr/lib/librknnrt.so

$ export LD_LIBARY_PATH

rknn-toolkit-lite2 설치가 완료되면,

$ python3
>> from rknnlite.api import RKNNLite

이와 같이 확인이 가능합니다.

RKNPU2 드라이버가 잘 잡히는지 확인

dmesg | grep -i rknpu
# or
cat /sys/kernel/debug/rknpu/version
# or
cat /sys/kernel/debug/rknpu/driver_version # or
cat /proc/debug/rknpu/driver_version

이와 같이 터미널에 입력했을 때

RKNPU driver: vX.X.X

드라이버 버전이 잘 잡히면 문제가 없는 것입니다.

예제 컴파일

예제 컴파일 : Please set GCC_COMPILER for rk3588 에러가 뜰 때

RKNPU2 드라이버가 안 잡힐 때

정상적으로 드라이버가 잡히는 경우라면 다음과 같은 커맨드를 줬을 때 정보가 출력됩니다.

dmesg | grep -i rknpu
# or
cat /sys/kernel/debug/rknpu/version

다만 가끔씩 (저의 경우에는 Orange Pi AI pro를 세팅할 때) rknpu 드라이버가 안 잡히는 경우가 있습니다.

fopen /home/HwHiAiUser/libs/grpc/examples/cpp/inference_idmap/model/pidnet_medium_quantized_kl_divergence_intp_argmax.rknn fail!
E RKNN: [14:16:30.934] failed to open rknpu module, need to insmod rknpu dirver!
E RKNN: [14:16:30.935] failed to open rknn device!

매뉴얼을 보면 다음과 같이 설명하고 있습니다.

---

Rockchip's firmware comes with RKNPU driver pre-installed. If the above commands cannot query the NPU driver version, it may be that the third-party firmware has not installed the RKNPU driver. Open the kernel config file with the "CONFIG_ROCKCHIP_RKNPU=y" option, recompile the kernel driver and flash it. It is recommended that the RKNPU driver version is >= 0.9.2.

---

일단 저도 아직 rknpu 드라이버가 안 잡힐 때 어떻게 해야 하는지 잘 모르겠어서 포기... 혹시 아시는 분 있으면 알려주세요...