16GB 램에서 Mistral(LLM) 구동하기 (feat. 맥북프로 M1 pro 16GB)

LLM(Large Language Model) LLM이 뭔지, 트랜스포머는 뭔지 등등은 설명하지 않겠습니다. 다만 이름에 맞게 너무 무겁죠..파라미터 사이즈가 7B/16B/30B 등으로 구분되어 있지만, 가장 작은 모델도 Weight 파일만 십수기가에 육박합니다. (여담이지만 sLLM-Small Large Language Model 이라는 말 웃기지 않나요…) [Read More]

논문리뷰] GZIP Classifier

GZIP Classifier 리뷰 흥미로운 논문이 있어 간단히 리뷰해봅니다. ACL(Association for Computational Linguistics) 2023에서 발표된 논문인데요. 리뷰할만큼 복잡하지 않지만, 그 때문에 더 리뷰해봅니다. GZIP Classifier… (논문 바로가기) 이름 그대로 GZIP을 이용한 텍스트 분류기입니다. [Read More]

Latent Dirichlet Allocation (LDA) in R

이번 포스팅에서는 토픽모델링(Topic modeling) 알고리즘 중 대표적인 Latent Dirichlet Allocation (잠재 디리클레 할당, LDA)알고리즘을 알아보고, R로 구현해보겠습니다. 살다보니 R을 쓰게되는 날도 오네요. 물론 아직 Python이 훨씬 편하긴 합니다, 앞으로도 계속 Python을 이용할 것 같구요… [Read More]