RAG 구현이 엄청 간단하네요 ㄷㄷㄷ
집컴에서 Ollama로 llama3 한국어 미세조정 버전이랑 kobert 임베딩 모델 돌리고
회사에서 심심해서 이것저것 해보는데 flowise라는게 있더라고요 저렇게 그냥 드래그앤드롭으로 간단한 프로세스 구성할 수 있어요
지금은 pdf올리면 split해서 임베딩하고 벡터DB(현재는 메모리 벡터스토어에)에 저장해두고 물어보면 유사한 내용 찾아서 가져와서 참고해서 답변해요
성능이 매우 준수합니다.. 물어보면 척척 대답 잘 해요
데이터만 있다면 간단한 챗봇정도는 뚝딱 만들겠네요...;;
rtx2070으로도 쾌적하게 돌아가니 심심하시면 한번 해보시길 ㄷㄷㄷ
