지속 가능한 꾸준함

보호되어 있는 글입니다.

50달러 추가 충전  여러분도 써보십시오. 아래링크로 들어가서 가입과 충전을 해주시면... 감사드리겠습니다... 꾸벅... https://runpod.io?ref=hxy1q5uk RunPod - The Cloud Built for AIDevelop, train, and scale AI models in one cloud. Spin up on-demand GPUs with GPU Cloud, scale ML inference with Serverless.www.runpod.io

https://colab.research.google.com/drive/1whHb54GNZMrNxIsi2wm2EY_-Pvo2QyKh?usp=sharing Qwen2 Vision Finetuning Unsloth - Maths OCR.ipynbColab notebookcolab.research.google.com 를 따라서 runpod 을 이용해서 VLM인 Qwen2vl7b를 파인튜닝 시켜봤다. 예제 코드를 좀 수정해서 1에폭 학습을 돌려봤다. 로그는 아래와 같이 나왔다.{'loss': 1.9224, 'grad_norm': 0.7354275584220886, 'learning_rate': 4e-05, 'epoch': 0.0}{'loss': 1.9949, 'grad_norm': 0.74662840366363..

https://colab.research.google.com/drive/1whHb54GNZMrNxIsi2wm2EY_-Pvo2QyKh?usp=sharing Qwen2 Vision Finetuning Unsloth - Maths OCR.ipynbColab notebookcolab.research.google.com 위 코드 따라서 unsloth 기반으로 qwen2vl 7b모델을 unsloth/LaTeX_OCR 데이터셋으로 학습시켜보고있다.  (수식 이미지, Latex format으로 변환된 식=Label) 이렇게 Pair로 데이터셋이 존재한다. 여기서 뭘 주의해야하냐... 800x800 해상도 크기의 이미지와  아웃풋 텍스트의 길이가 500을 초과하는 샘플들이 존재한다. 그래서 학습 돌다가 이런 샘플들에 대..

AttributeError: module 'PIL.Image' has no attribute 'ExifTags'.VLM 파인튜닝 시도중에 위와 같은 에러를 마주했다. https://huggingface.co/datasets/HuggingFaceM4/COCO/discussions/2 HuggingFaceM4/COCO · AttributeError: module 'PIL.Image' has no attribute 'ExifTags'. huggingface.co 원인은 PIL version 문제였다. 9.4.0 이상의 PIL을 설치해주면 된다.pip install "Pillow>=9.4.0"