Path: blob/master/site/ja/lite/android/delegates/gpu_task.md
25118 views
Task ライブラリによる GPU アクセラレーションのデリゲート
GPU を使って機械学習(ML)モデルを実行すると、ML 駆動型アプリケーションのパフォーマンスとユーザーエクスペリエンスを大幅に改善できます。Android デバイスでは、デリゲートと以下のいずれかの API を使用して、モデルの GPU 高速実行が可能になります。
このページでは、Task ライブラリを使って、Android アプリで TensorFlow Lite モデルの GPU アクセラレーションを有効にする方法を説明します。ベストプラクティスや高度な手法など、TensorFlow Lite で GPU アクセラレーションを使用する方法についての詳細は、GPU デリゲートのページをご覧ください。
Google Play サービスによる TensorFlow Lite で GPU を使用する
TensorFlow Lite Task ライブラリには、機械学習アプリケーションをビルドするための一連のタスク固有の API が含まれています。このセクションでは、Google Play サービスによる TensorFlow Lite を使用して、これらの API で GPU アクセラレータデリゲートを使用する方法について説明します。
Google Play サービスによる TensorFlow Lite は、Android で TensorFlow Lite を使用するために推奨されている手段です。アプリケーションが Google Play を実行していないデバイスをターゲットとしている場合は、Task ライブラリとスタンドアロン型 TensorFlow Lite による GPU のセクションをご覧ください。
プロジェクト依存関係の追加
Google Play サービスを使用して、TensorFlow Lite Task ライブラリで GPU デリゲートへのアクセスを有効にするには、com.google.android.gms:play-services-tflite-gpu
をアプリの build.gradle
ファイルの依存関係に追加します。
GPU アクセラレーションの有効化
次に、TfLiteGpu
クラスを使用して、GPU デリゲートがデバイスに有効であるかを非同期的に確認し、BaseOptions
クラスで Task API モデルクラスの GPU デリゲートオプションを有効にします。たとえば、以下のコード例のように、ObjectDetector
で GPU をセットアップできます。
Kotlin
val useGpuTask = TfLiteGpu.isGpuDelegateAvailable(context)
Task<Boolean> useGpuTask = TfLiteGpu.isGpuDelegateAvailable(context); Task<ObjectDetectorOptions> optionsTask = useGpuTask.continueWith({ task -> BaseOptions baseOptionsBuilder = BaseOptions.builder(); if (task.getResult()) { baseOptionsBuilder.useGpu(); } return ObjectDetectorOptions.builder() .setBaseOptions(baseOptionsBuilder.build()) .setMaxResults(1) .build() });
スタンドアロン型 TensorFlow Lite で GPU を使用する {:#standalone}
アプリケーションが Google Play を実行していないデバイスをターゲットとしている場合は、GPU デリゲートをアプリケーションにバンドルして、TensorFlow Lite のスタンドアロンバージョンでそれを使用することができます。
プロジェクト依存関係の追加
スタンドアロンバージョンの TensorFlow Lite を使用して TensorFlow Lite Task ライブラリで GPU デリゲートへのアクセスを有効にするには、org.tensorflow:tensorflow-lite-gpu-delegate-plugin
をアプリの build.gradle
ファイルの依存関係に追加します。
GPU アクセラレーションの有効化
次に、BaseOptions
クラスを使用して、Task API モデルクラスの GPU デリゲートオプションを有効にします。たとえば、次のコード例のように、ObjectDetector
で GPU を設定できます。
Kotlin
import org.tensorflow.lite.task.core.BaseOptions import org.tensorflow.lite.task.gms.vision.detector.ObjectDetector
import org.tensorflow.lite.task.core.BaseOptions import org.tensorflow.lite.task.gms.vision.detector.ObjectDetector BaseOptions baseOptions = BaseOptions.builder().useGpu().build(); ObjectDetectorOptions options = ObjectDetectorOptions.builder() .setBaseOptions(baseOptions) .setMaxResults(1) .build(); val objectDetector = ObjectDetector.createFromFileAndOptions( context, model, options);