OKKY
커뮤니티
Q&A
지식
이벤트
Contact
부트캠프
Jobs
Search Bar
로그인
회원가입
llama
전체
최신순
질문하기
답변
1
인공지능꾼
·
2년 이상
444
0
답변 1
로컬과 서비스에서 공개된 LLM 구동 시 결과 차이 관련해서 질문드립니다. (Llama2, solar)
안녕하세요. LLM(Mixtral, Llama2)을 테스트 하는 과정에서 궁금한 점이 생겨서 질문드립니다.! Local 에서 테스트 한 결과와 groq.com에서 테스트 한 결과가 너무 다릅니다. groq에서 확인한 파라미터와 동일하게 적용을 했는데도, 같은 질문에 대해서 groq는 만족스러운 답변이 나오는 반면, Local에서 다운로드 한 LLM 모델은 입력한 질문 자체를 반복해서 답변하거나 원치 않는 답변을 하는 경우가 많습니다. groq 뿐만아
답변
1
례구
·
2년 이상
404
0
답변 1
구글 colab 무료 gpu 로 사용할 있는 챗봇 모델
안녕하세요, 제가 구글 colab 에서 제공하는 무료 gpu (현재 T4 GPU 가 있음) 로 챗봇 모델을 사용해보고 싶은데요. 최근에 llama2 meta-llama/Llama-2-7b-chat-hf 모델로 만들어 보려고 아래와 같이 메모리에 불러오는 작업을 했는데, 실행도중 자꼬 세션이 끊기더라고요??? from transformers import AutoTokenizer, AutoModelForCausalLM, TextGenerationP
해결
1
아싸든
·
2년 이상
229
0
해결 1
llama node 모델 오류
이번에 llama node를 통해 백엔드에서 실행해보려는데 모델을 불러오지 못한다는 오류가 발생합니다. 처음에 절대경로를 했을 때 혹시 바탕화면이 경로중간에 있어 오류가 났나 싶어 상대경로를 해도 같았습니다. 혹시 사용해보신 분 계신가요?
Search Bar
