TensorFlow Lite 로드맵
업데이트: 2021년 5월
다음은 로드맵을 높은 개요 수준에서 나타낸 것입니다. 이 로드맵은 언제든지 변경될 수 있으며 아래 순서는 어떤 형태의 우선순위도 반영하지 않는다는 점에 유의해 주세요.
로드맵을 사용성, 성능, 최적화 및 이식성의 네 가지 주요 부분으로 나눕니다. TensorFlow Lite 토론 그룹에서 로드맵에 대한 의견을 제시하고 피드백을 제공해줄 것을 적극 권장합니다.
사용성
확장된 ops 범위
사용자 피드백을 기초로 타겟팅된 연산을 추가합니다.
임의 연산, 기본 Keras 레이어 연산, 해시 테이블, 특정 훈련 연산을 포함하여 특정 도메인 및 영역에 대해 타겟팅된 연산 세트를 추가합니다.
더 많은 보조 도구
훈련 중 및 변환 후 TFLite와 하드웨어 가속기 호환성을 검증하기 위한 TensorFlow 그래프 주석 및 호환성 도구를 제공합니다.
전환하는 동안 특정 가속기에 대한 타겟팅 및 최적화를 허용합니다.
장치 내 훈련
엔드 투 엔드 사용을 시연하는 Colab을 포함하여 개인화 및 전이 학습을 위한 장치 내 훈련을 지원합니다.
변수/리소스 유형을 지원합니다(추론 및 훈련 모두).
여러 함수(또는 서명) 진입점으로 그래프 변환 및 실행을 지원합니다.
향상된 Android Studio 통합
TFLite 모델을 Android Studio로 드래그 앤 드롭하여 모델 인터페이스를 생성합니다.
메모리 프로파일링을 포함하여 Android Studio 프로파일링 지원을 개선합니다.
모델 메이커
객체 감지, 추천 및 오디오 분류를 포함한 새로운 과제를 지원하며 광범위한 일반적인 사용 사례를 포괄합니다.
전이 학습을 더 쉽게 하기 위해 더 많은 데이터 세트를 지원합니다.
작업 라이브러리
관련 사전 및 사후 처리 기능으로 더 많은 모델 유형(예: 오디오, NLP)을 지원합니다.
Task API로 더 많은 참조 예제를 업데이트합니다.
모든 과제에 대해 즉시 사용 가능한 가속을 지원합니다.
더 많은 SOTA 모델 및 예제
다양한 플랫폼을 포괄하는 새로운 기능 및 API뿐만 아니라 모델 사용을 보여주기 위해 더 많은 예제(예: 오디오, NLP, 구조 데이터 관련)를 추가합니다.
장치용 공유 가능한 백본 모델을 생성하여 훈련 및 배포 비용을 줄입니다.
여러 플랫폼에 걸쳐 원활한 배포
웹에서 TensorFlow Lite 모델을 실행합니다.
향상된 크로스 플랫폼 지원
Android의 Java, iOS의 Swift, RPi의 Python용 API를 확장하고 개선합니다.
CMake 지원을 강화합니다(예: 보다 광범위한 가속기 지원).
개선된 프런트엔드 지원
Keras, tf.numpy를 포함한 다양한 저작 프런트엔드와의 호환성을 개선합니다.
성능
개선된 도구
각 릴리스의 성능 향상을 추적하기 위한 공개 대시보드
대상 가속기와의 그래프 호환성을 더 잘 이해하기 위한 도구
향상된 CPU 성능
더 빠른 부동 소수점 추론을 위해 기본적으로 XNNPack이 활성화됩니다.
최적화된 커널로 종단 간 절반 정밀도(float16)를 지원합니다.
업데이트된 NN API 지원
최신 Android 버전 NN API 기능, 연산 및 유형을 완벽하게 지원합니다.
GPU 최적화
대리자 직렬화 지원으로 시작 시간이 향상됨
제로 카피 추론을 위한 하드웨어 버퍼 상호 운용성
장치 가속을 더 폭넓게 이용 가능
개선된 연산 범위
최적화
양자화
양자화에서 특정 레이어를 제외하기 위한 선택적 훈련 후 양자화
각 레이어별 양자화 오류 손실을 검사하는 양자화 디버거
TensorFlow Model Garden과 같은 더 많은 모델 적용 범위에 양자화 인식 훈련 적용
훈련 후 동적 범위 양자화를 위한 품질 및 성능 향상
SVD와 같은 압축 알고리즘을 이용하기 위한 Tensor Compression API
잘라내기/희소성
구성 가능한 훈련 시간(잘라내기 + 양자화 인식 훈련) API를 결합합니다.
TF Model Garden 모델에서 희소성 적용을 늘립니다.
TensorFlow Lite에서 희소 모델 실행 지원
이식성
마이크로컨트롤러 지원
음성 및 이미지 분류를 위한 다양한 32bit MCU 아키텍처 사용 사례에 대한 지원 추가
오디오 프런트엔드: 그래프 내 오디오 사전 처리 및 가속 지원
시각 및 오디오 데이터용 샘플 코드 및 모델