OKKY
커뮤니티
Q&A
지식
이벤트
Contact
부트캠프
Jobs
Search Bar
로그인
회원가입
rag
전체
최신순
질문하기
답변
3
낫어펑션
·
약 1년
829
0
답변 3
LLM 모델 추천(GPU 없는 환경과, RTX 4070 Ti Super 환경)
안녕하세요. 최근에 LLM 관심 갖고 이것저것 테스트 해보고 있는데요. 개인적인 환경이 그래픽카드 없이 CPU 로 추론해야 하는 환경 RTX 4070 Ti Super 환경 이렇게 2가지 환경이 있고, 다루는 데이터나 목적은 카카오톡 대화 등 채팅이나 메일 주고 받은 내역들 한국어 위주 처리 등을 고려했을 때 1, 2 환경에 각각 적합한 LLM 모델 괜찮은 것은 어떤것들이 있을까요? 현재까지 KoAlpaca-Polyglot-5.8B, Q
답변
2
누피피
·
1년 이상
256
0
답변 2
RAG 기반 추천 모델의 대답이 일관적인 문제.
안녕하세요 한국 전통주의 도수, 맛, 소개 같은 정보를 저장해놓은 문서를 바탕으로 적합한 술을 추천해주는 모델을 프로젝트 삼아 만드는 중입니다. 다음과 같은 문서를 PDF,TXT,XlcX등 다양한 형태로 시도를 해보았으나, 00맛 00도수를 가진 술을 추천해줘 라는 말에 계속 특정 한개의 술만을 추천하는 문제가 있습니다. 왜 이 하나의 술에 꽂히게 된건지 어떻게 하면 이를 해결할 수 있는지, 프롬프트수정으로 혹시 될련지 기존에 추천 LLM모델
답변
1
AskeTeddy
·
거의 2년
391
0
답변 1
AI(LLM Rag) 를 활용하여 서비스를 구성한다면
혹시 아래 내용에서 유용하거나 재미있는 아이디어가 있을까요? 어느정도 개발되면 오픈소스와 함께 구매형 서비스를 계획 하고 있습니다 langchain 을 활용하여, AI 관리 시스템을 목표로 하고 있습니다(채팅 서비스같은 디자인) AI 관리 시스템을 만든 이유는 다음과 같습니다(음슴체입니다) 프롬프트에 질문하고 복붙하는게 노가다 (프롬프트 엔지니어링에 시간이 많이들음) 거짓말(할루시네이션)을 인지 못하면 산으로 가는 코드들 응답 시간이 길어도 상관없지만
답변
2
시금치파스타
·
거의 2년
296
0
답변 2
RAG에 대해 인공지능 분야이신 분들에게 여쭤봅니다.
인공지능 쪽으로 가려면 해당 지식을 무조건 공부해야 하는건가요 ? 해당 주제로 강의를 제작할까 해서요(제가 하는건 아니고, 강의하실 개발자 분이 있으셔서요) 궁금한건, 해당 분야가 하나의 강의로 만들정도의 주제가 되는지 의견을 여쭤봅니다.
답변
0
kenu,전독시
·
약 2년
217
0
답변 0
LangChain 관련 좋은 링크 있나요?
제곧내 입니다.
Search Bar
