LLM의 추론 성능 향상을 위한 RAG 사용 시, 알아두어야 할 것들

 

 

https://www.youtube.com/watch?v=NfQrRQmDrcc&list=WL&index=1&t=45s

 

 

출처: 테디노트

 

뜨리스땅

 

 

https://tristanchoi.tistory.com/651

AI 모델 추론을 위한 VLLM이란 무엇인가? (feat. by Paged Attention)