measurement.md

성능 측정

벤치마크 도구

TensorFlow Lite 벤치마크 도구는 현재 다음과 같은 중요한 성능 지표에 대한 통계를 측정하고 계산합니다.

• 초기화 시간

• 워밍업 상태의 추론 시간

• 정상 상태의 추론 시간

• 초기화 시간 동안의 메모리 사용량

• 전체 메모리 사용량

벤치마크 도구는 Android 및 iOS용 벤치마크 앱과 기본 명령줄 바이너리로 사용할 수 있으며, 모두 동일한 핵심 성능 측정 로직을 공유합니다. 런타임 환경의 차이로 인해 사용 가능한 옵션 및 출력 형식이 약간 다릅니다.

Android 벤치마크 앱

Android에서 벤치마크 도구를 사용하는 데는 두 가지 옵션이 있습니다. 하나는 기본 벤치마크 바이너리이고 다른 하나는 Android 벤치마크 앱으로, 이 두 번째가 모델이 앱에서 어떻게 작동하는지 보다 잘 나타내줍니다. 어느 쪽이든, 벤치마크 도구의 수치는 실제 앱에서 모델로 추론을 실행할 때와 여전히 약간 다릅니다.

이 Android 벤치마크 앱에는 UI가 없습니다. adb 명령어로 설치 및 실행하고 adb logcat 명령어로 결과를 가져옵니다.

앱 다운로드 또는 빌드

아래 링크를 사용하여 야간 사전 빌드된 Android 벤치마크 앱을 다운로드합니다.

• android_aarch64

• android_arm

Flex delegate를 통해 TF 연산을 지원하는 Android 벤치마크 앱의 경우, 아래 링크를 사용하세요.

• android_aarch64

• android_arm

다음 지침에 따라 소스에서 앱을 빌드할 수도 있습니다.

참고: x86 CPU 또는 Hexagon 대리자에서 Android 벤치마크 apk를 실행하려는 경우 또는 모델에 일부 TF 연산자 또는 사용자 지정 연산자가 포함된 경우 소스에서 앱을 빌드해야 합니다.

벤치마크 준비

벤치마크 앱을 실행하기 전에 다음과 같이 앱을 설치하고 모델 파일을 장치에 푸시합니다.

adb install -r -d -g android_aarch64_benchmark_model.apk
adb push your_model.tflite /data/local/tmp

벤치마크 실행

adb shell am start -S \
  -n org.tensorflow.lite.benchmark/.BenchmarkModelActivity \
  --es args '"--graph=/data/local/tmp/your_model.tflite \
              --num_threads=4"'

graph는 필수 매개변수입니다.

• graph: string
  TFLite 모델 파일이 있는 경로입니다.

벤치마크를 실행하기 위해 더 많은 선택적 매개변수를 지정할 수 있습니다.

• num_threads: int(기본값=1)
  TFLite 인터프리터를 실행하는 데 사용할 스레드 수입니다.

• use_gpu: bool(기본값=거짓)
  GPU 대리자를 사용합니다.

• use_nnapi: bool(기본값=거짓)
  NNAPI 대리자를 사용합니다.

• use_xnnpack: bool(기본값= false)
  XNNPACK 대리자를 사용합니다.

• use_hexagon: bool(기본값= false)
  Hexagon 대리자를 사용합니다.

사용 중인 장치에 따라 이러한 옵션 중 일부를 사용하지 못하거나 효과가 없을 수 있습니다. 벤치마크 앱으로 실행할 수 있는 추가 성능 매개변수에 대해서는 매개변수를 참조하세요.

logcat 명령을 사용하여 결과를 봅니다.

adb logcat | grep "Inference timings"

벤치마크 결과는 다음과 같이 보고됩니다.

... tflite  : Inference timings in us: Init: 5685, First inference: 18535, Warmup (avg): 14462.3, Inference (avg): 14575.2

네이티브 벤치마크 바이너리

벤치마크 도구는 네이티브 바이너리 benchmark_model로도 제공됩니다. Linux, Mac, 임베디드 장치 및 Android 장치의 셸 명령줄에서 이 도구를 실행할 수 있습니다.

바이너리 다운로드 또는 빌드

아래 링크를 따라 야간 사전 빌드된 네이티브 명령줄 바이너리를 다운로드합니다.

• linux_x86-64

• linux_aarch64

• linux_arm

• android_aarch64

• android_arm

Flex 대리자를 통해 TF 연산을 지원하는 야간 사전 빌드된 바이너리의 경우, 아래 링크를 사용하세요.

• linux_x86-64

• linux_aarch64

• linux_arm

• android_aarch64

• android_arm

TensorFlow Lite Hexagon 대리자와 벤치마킹하기 위해 필요한 libhexagon_interface.so 파일도 미리 빌드했습니다(이 파일에 대한 자세한 내용은 여기 참조). 아래 링크에서 해당 플랫폼의 파일을 다운로드한 후 파일명을 libhexagon_interface.so로 변경해주세요.

• linux_x86-64

• linux_aarch64

컴퓨터의 소스에서 기본 벤치마크 바이너리를 빌드할 수도 있습니다.

bazel build -c opt //tensorflow/lite/tools/benchmark:benchmark_model

Android NDK 툴체인으로 빌드하려면 먼저 이 가이드에 따라 빌드 환경을 설정하거나 이 가이드의 설명에 따라 도커 이미지를 사용해야 합니다.

bazel build -c opt --config=android_arm64 \
  //tensorflow/lite/tools/benchmark:benchmark_model

참고: 이것은 벤치마킹을 위해 Android 장치에서 직접 바이너리를 푸시하고 실행하는 유효한 접근 방식이지만 실제 Android 앱 내에서 실행하는 것에 비해 성능에 미세한(그러나 관찰 가능한) 차이가 발생할 수 있습니다. 특히 Android의 스케줄러는 스레드 및 프로세스 우선 순위를 기반으로 동작을 조정합니다. 이는 전경 활동/애플리케이션과 adb shell ...을 통해 실행되는 일반 백그라운드 바이너리 간에 차이가 있습니다. 이러한 맞춤형 동작은 TensorFlow Lite로 다중 스레드 CPU 실행을 활성화할 때 가장 분명합니다. 따라서 성능 측정에는 Android 벤치마크 앱이 권장됩니다.

벤치마크 실행

컴퓨터에서 벤치마크를 실행하려면 셸에서 바이너리를 실행합니다.

path/to/downloaded_or_built/benchmark_model \
  --graph=your_model.tflite \
  --num_threads=4

네이티브 명령줄 바이너리와 함께 위에서 언급한 것과 동일한 매개변수 세트를 사용할 수 있습니다.

모델 연산자 프로파일링

벤치마크 모델 바이너리를 사용하면 모델 연산을 프로파일링하고 각 연산자의 실행 시간을 얻을 수도 있습니다. 이를 위해 호출 중에 --enable_op_profiling=true 플래그를 benchmark_model로 전달합니다. 자세한 내용은 여기에 설명되어 있습니다.

한 번의 실행에서 여러 성능 옵션을 제공하는 네이티브 벤치마크 바이너리

한 번의 실행으로 여러 성능 옵션을 벤치마킹하기 위한 편리하고 간단한 C++ 바이너리도 제공됩니다. 이 바이너리는 한 번에 하나의 성능 옵션만 벤치마킹할 수 있는 앞서 언급한 벤치마크 도구를 기반으로 구축되었습니다. 동일한 빌드/설치/실행 프로세스가 이용되지만 이 바이너리의 BUILD 대상 이름은 benchmark_model_performance_options이며 몇 가지 추가 매개변수를 취합니다. 이 바이너리의 중요한 매개변수는 다음과 같습니다.

perf_options_list: string(기본값='all')
벤치마킹할 TFLite 성능 옵션의 쉼표로 구분된 목록입니다.

아래와 같이 이 도구에 대한 야간 사전 빌드된 바이너리를 얻을 수 있습니다.

• linux_x86-64

• linux_aarch64

• linux_arm

• android_aarch64

• android_arm

iOS 벤치마크 앱

iOS 장치에서 벤치마크를 실행하려면 소스에서 앱을 빌드해야 합니다. 소스 트리의 benchmark_data 디렉터리에 TensorFlow Lite 모델 파일을 넣고 benchmark_params.json 파일을 수정합니다. 이러한 파일은 앱에 패키징되고 앱은 디렉터리에서 데이터를 읽습니다. 자세한 지침을 보려면 iOS 벤치마크 앱을 방문하세요.

잘 알려진 모델에 대한 성능 벤치마크

이 섹션에는 일부 Android 및 iOS 장치에서 잘 알려진 모델을 실행할 때 TensorFlow Lite 성능 벤치마크가 나열되어 있습니다.

Android 성능 벤치마크

이러한 성능 벤치마크 수치는 네이티브 벤치마크 바이너리로 생성되었습니다.

Android 벤치마크의 경우, 장치의 큰 코어를 사용하여 편차를 줄이도록 CPU 선호도가 설정됩니다(자세한 내용 참조).

모델을 /data/local/tmp/tflite_models 디렉터리에 다운로드하여 압축을 푼다고 가정합니다. 벤치마크 바이너리는 이 지침에 따라 빌드하고 /data/local/tmp 디렉터리에 있는 것으로 가정합니다.

벤치마크를 실행하려면:

adb shell /data/local/tmp/benchmark_model \
  --num_threads=4 \
  --graph=/data/local/tmp/tflite_models/${GRAPH} \
  --warmup_runs=1 \
  --num_runs=50

nnapi 대리자로 실행하려면 --use_nnapi=true를 설정합니다. GPU 대리자로 실행하려면 --use_gpu=true를 설정합니다.

아래 성능 값은 Android 10에서 측정되었습니다.

모델 이름	장치	CPU, 4 스레드	GPU	NNAPI
Mobilenet_1.0_224(float)	Pixel 3	23.9 ms	6.45 ms	13.8 ms
Pixel 4	14.0 ms	9.0 ms	14.8 ms
Mobilenet_1.0_224 (quant)	Pixel 3	13.4 ms	---	6.0 ms
Pixel 4	5.0 ms	---	3.2 ms
NASNet mobile	Pixel 3	56 ms	---	102 ms
Pixel 4	34.5 ms	---	99.0 ms
SqueezeNet	Pixel 3	35.8 ms	9.5 ms	18.5 ms
Pixel 4	23.9 ms	11.1 ms	19.0 ms
Inception_ResNet_V2	Pixel 3	422 ms	99.8 ms	201 ms
Pixel 4	272.6 ms	87.2 ms	171.1 ms
Inception_V4	Pixel 3	486 ms	93 ms	292 ms
Pixel 4	324.1 ms	97.6 ms	186.9 ms

iOS 성능 벤치마크

이러한 성능 벤치마크 수치는 iOS 벤치마크 앱으로 생성되었습니다.

iOS 벤치마크를 실행하기 위해 적절한 모델을 포함하도록 벤치마크 앱을 수정했으며 num_threads를 2로 설정하도록 benchmark_params.json을 수정했습니다. GPU 대리자를 사용하기 위해 benchmark_params.json에 "use_gpu" : "1" 및 "gpu_wait_type" : "aggressive" 옵션도 추가되었습니다.

모델 이름	장치	CPU, 2 스레드	GPU
Mobilenet_1.0_224(float)	iPhone XS	14.8 ms	3.4 ms
Mobilenet_1.0_224 (quant)	iPhone XS	11 ms	---
NASNet mobile	iPhone XS	30.4 ms	---
SqueezeNet	iPhone XS	21.1 ms	15.5 ms
Inception_ResNet_V2	iPhone XS	261.1 ms	45.7 ms
Inception_V4	iPhone XS	309 ms	54.4 ms

TensorFlow Lite 내부 추적

Android에서 TensorFlow Lite 내부 추적

참고: 이 기능은 Tensorflow Lite v2.4부터 사용할 수 있습니다.

Android 앱의 TensorFlow Lite 인터프리터 내부 이벤트는 Android 추적 도구로 캡처할 수 있습니다. 이는 Android Trace API와 동일한 이벤트이므로 Java/Kotlin 코드에서 캡처된 이벤트가 TensorFlow Lite 내부 이벤트와 함께 표시됩니다.

이벤트의 몇 가지 예는 다음과 같습니다.

• 연산자 호출

• 대리자에 의한 그래프 수정

• 텐서 할당

추적 캡처를 위한 다양한 옵션 중에서 이 가이드에서는 Android Studio CPU 프로파일러 및 시스템 추적 앱을 다룹니다. 다른 옵션에 대해서는 Perfetto 명령줄 도구 또는 Systrace 명령줄 도구를 참조하세요.

Java 코드에 추적 이벤트 추가

이것은 이미지 분류 예제 앱의 코드 조각입니다. TensorFlow Lite 인터프리터는 recognizeImage/runInference 섹션에서 실행됩니다. 이 단계는 선택 사항이지만 추론 호출이 이루어진 위치를 확인하는 데 도움이 됩니다.

  Trace.beginSection("recognizeImage");
  ...
  // Runs the inference call.
  Trace.beginSection("runInference");
  tflite.run(inputImageBuffer.getBuffer(), outputProbabilityBuffer.getBuffer().rewind());
  Trace.endSection();
  ...
  Trace.endSection();

TensorFlow Lite 추적 사용

TensorFlow Lite 추적을 활성화하려면 Android 앱을 시작하기 전에 Android 시스템 속성 debug.tflite.trace를 1로 설정합니다.

adb shell setprop debug.tflite.trace 1

TensorFlow Lite 인터프리터가 초기화될 때 이 속성이 설정된 경우, 인터프리터의 주요 이벤트(예: 연산자 호출)가 추적됩니다.

모든 추적을 캡처한 후에는 속성 값을 0으로 설정하여 추적을 비활성화합니다.

adb shell setprop debug.tflite.trace 0

Android Studio CPU 프로파일러

아래 단계에 따라 Android Studio CPU 프로파일러로 추적을 캡처합니다.

1. 상단 메뉴에서 **Run(실행) > Profile 'app'('앱' 프로파일링)**을 선택합니다.

2. 프로파일러 창이 나타나면 CPU 타임라인의 아무 곳이나 클릭합니다.

3. CPU 프로파일링 모드 중 'Trace System Calls(시스템 호출 추적)'를 선택합니다.

   

4. 'Record(기록)' 버튼을 누릅니다.

5. 'Stop(중지)' 버튼을 누릅니다.

6. 추적 결과를 조사합니다.

   

이 예에서 스레드의 이벤트 계층 구조와 각 연산자 시간에 대한 통계를 볼 수 있으며, 스레드 간에 전체 앱의 데이터 흐름도 볼 수 있습니다.

시스템 추적 앱

시스템 추적 앱에 설명된 단계에 따라 Android Studio 없이 추적을 캡처합니다.

이 예에서는 동일한 TFLite 이벤트가 캡처되어 Android 장치 버전에 따라 Perfetto 또는 Systrace 형식으로 저장되었습니다. 캡처된 추적 파일은 Perfetto UI에서 열 수 있습니다.

iOS에서 TensorFlow Lite 내부 추적

참고: 이 기능은 Tensorflow Lite v2.5부터 사용할 수 있습니다.

iOS 앱의 TensorFlow Lite 인터프리터 내부 이벤트는 Xcode에 포함된 Instruments 도구로 캡처할 수 있습니다. 이는 iOS signpost 이벤트이므로 Swift/Objective-C 코드에서 캡처된 이벤트는 TensorFlow Lite 내부 이벤트와 함께 표시됩니다.

이벤트의 몇 가지 예는 다음과 같습니다.

• 연산자 호출

• 대리자에 의한 그래프 수정

• 텐서 할당

TensorFlow Lite 추적 사용

아래 단계에 따라 환경 변수 debug.tflite.trace를 설정합니다.

1. Xcode의 상단 메뉴에서 **Product(제품) > Scheme(방식) > Edit Scheme(방식 편집)...**을 선택합니다.

2. 왼쪽 창에서 'Profile(프로파일)'을 클릭합니다.

3. 'Use the Run action's arguments and environment variables(실행 동작의 인수 및 환경 변수 사용)' 확인란을 선택 취소합니다.

4. 'Environment Variables(환경 변수)' 섹션 아래에 debug.tflite.trace를 추가합니다.

   

iOS 앱을 프로파일링할 때 TensorFlow Lite 이벤트를 제외하려면 환경 변수를 제거하여 추적을 비활성화하세요.

XCode Instruments

아래 단계에 따라 추적을 캡처합니다.

1. Xcode의 상단 메뉴에서 **Product(제품) > Profile(프로파일)**을 선택합니다.

2. Instruments 도구가 시작될 때 프로파일링 템플릿 중에서 로깅을 클릭합니다.

3. 'Start(시작)' 버튼을 누릅니다.

4. 'Stop(중지)' 버튼을 누릅니다.

5. 'os_signpost'를 클릭하여 OS 로깅 하위 시스템 항목을 확장합니다.

6. 'org.tensorflow.lite' OS 로깅 하위 시스템을 클릭합니다.

7. 추적 결과를 조사합니다.

   

이 예에서는 이벤트의 계층 구조와 각 연산자 시간에 대한 통계를 볼 수 있습니다.

추적 데이터 사용

추적 데이터를 사용하면 성능 병목 현상을 확인할 수 있습니다.

다음은 프로파일러로부터 얻을 수 있는 통찰력의 몇 가지 예와 성능 개선을 위한 잠재적 솔루션입니다.

• 사용 가능한 CPU 코어 수가 추론 스레드 수보다 작으면 CPU 스케줄링 오버헤드로 인해 성능이 저하될 수 있습니다. 모델 추론과 겹치지 않도록 애플리케이션에서 다른 CPU 집약적 작업의 일정을 조정하거나 인터프리터 스레드 수를 조정할 수 있습니다.

• 연산자가 완전히 위임되지 않은 경우, 모델 그래프의 일부는 예상 하드웨어 가속기가 아닌 CPU에서 실행됩니다. 지원되지 않는 연산자를 유사한 지원되는 연산자로 대체할 수 있습니다.