Path: blob/master/site/ko/federated/collaborations/notes/2022-08-24.md
25118 views
TFF 공동 작업자들의 2022년 8월 24일 회의 기록
TFF의 희소 텐서 지원:
EW - TFF로 복사하고자 하는 Keras 모델이 있으며, Keras 모델에는 희소 텐서가 있습니다.
밀집 텐서를 단순히 매핑하는 것은 활용 사례에서 용납할 수 없는 메모리 비용과 느린 속도를 초래하므로 이를 방지하는 것을 고려하고 있습니다.
ZG - TFF의 기존 희소 텐서 지원에 대해
GitHub에 언급된 문제는 대부분 tf.data.Dataset와 연관되어 있습니다.
대부분 다른 방식으로 작동하지만 DIY와 특히 구성 텐서의 튜플에서 희소 합계를 단순히 수행할 수 없는 w.r.t 집계가 필요합니다.
(상대적인 중요성에 대한 질문)
EW - 이는 우리를 차단하지 않으나 우수한 성능/리소스 공간 최적화입니다.
ZG - GitHub 문제와 관련하여, 데이터세트를 TFF 계산 내부로 숨겨 작동할 수 있으므로 이는 입력-출력 경계의 일부가 아닙니다.
KO - “대부분 작동한다”라는 언급이 희소 텐서를 밀집 텐서의 튜플로 표시/처리하는 일반적인 관행을 참조한다는 것을 명확히 합니다. 데이터세트 사용을 위해 밀집 텐서의 튜플과 같은 희소를 처리하려고 시도한 적이 있습니까?
EW - 아직 시도하지 않았습니다.
KO - 이 대화의 희소성은 모델 파라미터뿐만 아니라 희소 입력 데이터의 경우 두 곳에서 발생합니다. 두 가지 모두 동등하게 중요한가요?
EW - 이상적으로는 둘 다 그렇습니다.
KO - 구성 요소를 나타내는 밀집 텐서의 튜플로 작업하려는 Ewan을 위한 하나의 조치 항목입니다.
이는 희소 텐서 처리를 위한 더 나은 API/도우미에 관한 질문을 여전히 남기지만 이 특정 활용 사례를 해제할 수 있습니다. API에 대한 생각은?
EW - 이것은 이상적으로 투명할 수 있습니다(TFF를 사용하는 고객이 희소를 위해 특별한 것을 할 필요가 없으며 그냥 작동합니다).
KO, ZG - 몇몇 사례에서, 이것은 명백하지 않습니다. 즉 집계의 경우 고객이 이상적으로 선택할 수 있는 희소 텐서의 구성 부분을 집계하는 방법이 두 개 이상이 있을 가능성이 있습니다.
KR - 전용 “희소 합계” 기호의 작은 군을 갖는 것이 가장 실행 가능합니다.
KO - 아마도 EW가 필요한 희소 합계 버전을 프로토타입화하여 일반 희소 합계 연산자로서 TFF로 업스트림하여 이를 시드하고 이를 기반으로 구축할 수 있습니다(오프라인에서 후속 작업을 하려면 - 아마도 Discord에서).
EW +1
2주 전부터 계속된 Jeremy의 제안:
(회의 직전 공유되었기 때문에 이를 모두 나중에 검토하도록 하기 위함)
(Jeremy 발표 중)
JL - “클라우드” 및 클라이언트별 실행자(예: 브라우저) 사이의 요청을 교환하기 위한 “작업 저장소” 추상화를 제안하고, 후자는 중앙화된 “작업 저장소”에서 작업을 가져옵니다. 이와 같은 것이 다른 맥적에서 고려된 적이 있나요?
KR - 예, 오류 처리 시나리오에서 고려되었습니다.
하지만 더 아슬아슬한 문제가 있습니다. 실행자 간 상태 이전은 어렵지만 Jeremy가 발표한 시나리오에 얼마나 많은 영향을 미치는지 확신할 수 없습니다.
HV - 리프의 실행자는 네트워크 연결이 되지 않을 수 있음
이는 교차 기기에 대한 SysML 논문과 더 유사할 것입니다.
(이 시나리오의 성능에 관한 질문, 네이티브 TFF 프로토콜과 더 유사한 방식의 양방향 스트리밍과 비교)
JL - 지연 고려 사항이 있음을 확인
일부 전송에서는 양방향 스트리밍이 지원되지 않으므로 항상 실행 가능한 옵션은 아닙니다.
(시간 부족)
(2주 후에 계속됨 - 다음 회의의 첫 번째 안건 포인트, Jeremy가 참석할 예정)