https://stingy-restaurant-40e.notion.site/Qwen2-5-Omini-Fine-tuning-3832480fddb180008641d145ac9f85fb?source=copy_link
Qwen2.5-Omini Fine-tuning | Notion
파인튜닝 예제
stingy-restaurant-40e.notion.site
첫댓글 1. pc에서 훈련/추론 가능한지 확인2. jetson에서 메모리 사용량 확인(훈련/추론시)3. 마이크로 바로 연결이 되는지 확인4. 모델 구조 파악 (블록도)
1. jetson 보드를 jetpack 7.2로 업그레이드 후 파인튜닝 진행2. jetson에서 추론3. vLLM으로 경량화 후 추론 후 비교(경량화 전/후)
첫댓글 1. pc에서 훈련/추론 가능한지 확인
2. jetson에서 메모리 사용량 확인(훈련/추론시)
3. 마이크로 바로 연결이 되는지 확인
4. 모델 구조 파악 (블록도)
1. jetson 보드를 jetpack 7.2로 업그레이드 후 파인튜닝 진행
2. jetson에서 추론
3. vLLM으로 경량화 후 추론 후 비교(경량화 전/후)