46. LoRA Learns Less and Forgets Less (TMLR 2024) 리뷰

2024년 6월 12일 BRL 세미나. 강원대학교 프로그래밍 언어 및 기계학습 연구실 (발표자: 이상화 학생)
발표 논문: LoRA Learns Less and Forgets Less (TMLR 2024)
인용수: 75회 (2025.01.18 기준)
논문 링크 : arxiv.org/abs/...
본 논문은 Hugging Face의 Daily Papers에 소개된 바 있습니다.
LLM의 fine-tuning을 진행하였을 때, LoRA 사용 여부에 따라 어떠한 차이를 보이는지 실험을 진행한 논문입니다.