본문으로 건너뛰기
재미있는 삽질 기록
Home
Categories
Home
Categories
#lora
LoRA를 사용하는 이유
LoRA의 메커니즘 자체는 머릿속에 잘 그려져 있었다. 큰 weight 행렬을 두 개의 작은 행렬로 쪼개 덧붙이는 것. 그런데 정작 LoRA가 왜 PEFT 중에서 가장 널리 쓰이는지, 그 결정적 장점은 정리해두지 못했었다. 그 부분까지 채워봤다. 메커니즘 - low-rank 분해...
#llm #nlp #peft #lora
|
2025-11-05