지속 가능한 꾸준함

https://arxiv.org/pdf/2406.03459 https://github.com/Atten4Vis/LW-DETR GitHub - Atten4Vis/LW-DETR: This repository is an official implementation of the paper "LW-DETR: A Transformer Replacement to YOThis repository is an official implementation of the paper "LW-DETR: A Transformer Replacement to YOLO for Real-Time Detection". - Atten4Vis/LW-DETRgithub.com 읽어봐야겠다.

paper: https://arxiv.org/abs/2406.09414 github project: https://github.com/DepthAnything/Depth-Anything-V2  아래 페이지에서 데모를 아주 쉽게 돌려볼 수 있다. https://huggingface.co/spaces/depth-anything/Depth-Anything-V2 Depth Anything V2 - a Hugging Face Space by depth-anythingRunning on Zerohuggingface.co 논문 진짜 대충 쓱 봤는데 핵심은 대충 이렇게 정리 되는 거 같다. Depth 이미지의 경우 Real-world 데이터(=이미지)에 대한 정답(GT) 만들기 어렵다. 대신 synthetic 데이터 ..

LLM Chain of Thought  LLM Chain of Thought요즘 LLM 프롬프트 엔지니어링에 관심이 생겨 김진중(골빈해커)님께서 작성하신최고의 프롬프트 엔지니어링 강의란 책을 읽고 있습니다. 거기서 몰랐던 용어와 개념을 알게되어 작성합니다.CoT(developer0hye.tistory.com 이전 글에서 CoT에 대해 다루었습니다. 가만 생각해보면 우리 조차도 문제 해결법을 몰라서 CoT를 수행하도록 문제 해결법을 단계적으로 알려주기가 어려울수도 있을 것 같습니다. 아니면 문제 해결법 타이핑 하는 게 심히 귀찮을수도 있겠죠. 이때 해볼 수 있는 게 Zero shot CoT 입니다. 단지 프롬프트에 "단계별로 생각해보아라"라는 의미를 담아 주는 것입니다.  연구적으로 관심이 있으신분은 아래..

요즘 LLM 프롬프트 엔지니어링에 관심이 생겨 김진중(골빈해커)님께서 작성하신최고의 프롬프트 엔지니어링 강의란 책을 읽고 있습니다. 거기서 몰랐던 용어와 개념을 알게되어 작성합니다.CoT(Chain of Thought) 는 LLM 에게 문제 해결 과정에 필요한 생각, 처리 방식등에 대해 단계별로 논리적으로 설명함으로써 문제를 푸는 혹은 데이터를 처리하는 방식을 더 잘 이해시키기 위한 프롬프트 엔지니어링 방식입니다. 전지전능하신 LLM님의 힘을 너무 믿고 (입력, 출력) 쌍으로 학습시키는 것이 저의 일반적인 LLM 이용 행태였다면 앞으로는 상황에 따라 적절하게 CoT형태로 프롬프팅을 해보려합니다. 잠깐! 위는 예시이긴 하지만 한 번 20240609일자의 GPT4o 에게 한 번 왼쪽 프롬프트로 정답을 맞출 ..

import torchimport torchvisionimport numpy as npimport onnxruntimeprint(f"onnxruntime.get_device(): {onnxruntime.get_device()}")model = torchvision.models.resnet18(weights=None)model.eval()input_on_cpu = torch.randn((1, 3, 224, 224), dtype=torch.float32)torch.onnx.export(model, input_on_cpu, "resnet18.onnx", input_names=['input'], output_names=['output'])session = onnxruntime.InferenceSession("r..

* 이 글은 특히 진짜 잘 모르고 쓴 글이니 틀린 부분이 있으면 댓글로 가르침을 주시면 정말 감사드리겠습니다. https://developer0hye.tistory.com/713 RT DETR의 백본은 무엇일까https://arxiv.org/pdf/2304.08069.pdf https://github.com/lyuwenyu/RT-DETR GitHub - lyuwenyu/RT-DETR: [CVPR 2024] Official RT-DETR (RTDETR paddle pytorch), Real-Time DEtection TRansformer, DETRs Beat YOL [CVPR 2024] Official RT-DETR (RTDETR paddle pytorch),developer0hye.tistory.com ..

https://developer0hye.tistory.com/713 RT DETR의 백본은 무엇일까 https://arxiv.org/pdf/2304.08069.pdf https://github.com/lyuwenyu/RT-DETR GitHub - lyuwenyu/RT-DETR: [CVPR 2024] Official RT-DETR (RTDETR paddle pytorch), Real-Time DEtection TRansformer, DETRs Beat YOL [CVPR 2024] Official RT-DETR (RTDETR paddle pytorch), developer0hye.tistory.com 백본을 알아봤으니 이제 Encoder는 어떤식으로 구현했나 봐봐야겠다. 궁금한 부분은 바로 Efficient..

https://arxiv.org/pdf/2304.08069.pdf https://github.com/lyuwenyu/RT-DETR GitHub - lyuwenyu/RT-DETR: [CVPR 2024] Official RT-DETR (RTDETR paddle pytorch), Real-Time DEtection TRansformer, DETRs Beat YOL [CVPR 2024] Official RT-DETR (RTDETR paddle pytorch), Real-Time DEtection TRansformer, DETRs Beat YOLOs on Real-time Object Detection. 🔥 🔥 🔥 - GitHub - lyuwenyu/RT-DETR: [CVPR 2024] Official RT-DE..

코드 공개돼있고 좀 현실적으로 적어도 비디오 1개에서라도 리얼타임으로 돌아가는 모델과 방법 위주로 찾으려 노력중... 언젠가 다시 봐볼만한 것들인 거 같아서 기록해둠 action recognition https://openaccess.thecvf.com/content/ICCV2021/papers/Chen_Watch_Only_Once_An_End-to-End_Video_Action_Detection_Framework_ICCV_2021_paper.pdf https://github.com/wei-tim/YOWO GitHub - wei-tim/YOWO: You Only Watch Once: A Unified CNN Architecture for Real-Time Spatiotemporal Action Local..

onnxruntime inference 예제를 찾아보면 거의 input은 cpu에서 pre-processing한 numpy array(on cpu)를 session.run 함수의 입력으로 주는 경우가 많습니다. 그치만 실제로는 pre-processing도 GPU에서 하고 이걸 굳이 cpu 로 내려서 입력하는 일은 없는 게 일반적일겁니다. GPU, CPU 업로드, 다운로드 횟수는 줄일 수 있으면 최대한 줄여야 하는 아주 악의 축 같은 작업입니다. 특히 input 사이즈가 큰데 GPU 업로드 했다 CPU로 다운로드 했다 하다보면 차라리 CPU로 구현하는 것만 못한 속도가 나올겁니다. 그래서, GPU에 있는 데이터를 바로 추론할 수 있어야 합니다! onnxruntime 은 당연히 이런 기능을 제공하고 있습니다..