Apple이 Vision Transformer 를 자사의 NPU에서 효율적으로 구동시키기 위해 시도한 것들

티스토리 뷰

Deep Learning

developer0hye 2024. 1. 22. 17:22

Deploying Transformers on the Apple Neural Engine

An increasing number of the machine learning (ML) models we build at Apple each year are either partly or fully adopting the [Transformer…

machinelearning.apple.com

Deploying Attention-Based Vision Transformers to Apple Neural Engine

Motivated by the effective implementation of transformer architectures in natural language processing, machine learning researchers…

machinelearning.apple.com

GitHub - apple/ml-vision-transformers-ane

Contribute to apple/ml-vision-transformers-ane development by creating an account on GitHub.

github.com

Vision Transformer 를 apple의 npu인 Apple Neural Engine(ANE) 로 어떻게 하면 효율적으로 구동시킬 수 있는지에 대한 고민이 보이는 글들

그나저나 MOAT 이라는 lightweight transformer가 있었구나 한 번 봐봐야겠다.

PCIe 5.0 지원 메인보드가 나왔구나 (0)	2024.02.11
YOLOv8 low-level output visualization code (0)	2024.02.02
[Deep Learning] 관심이 생긴 Detection 모델 Plain-DETR, DETR Does Not Need Multi-Scale or Locality Design (0)	2023.12.06
DETR 이 수렴 속도가 느린 의심되는 이유 중 하나 (1)	2023.12.02
Wandb 강제 종료(Ctrl+C) 후 잦은 에러 메시지 출력 문제 해결법 (2)	2023.11.08

공지사항

최근에 올라온 글

최근에 달린 댓글

링크

글 보관함