llama3 를 ec2에서 테스트해 봤지만,
아직 튜닝할 것이 많은 것 같습니다.
llama3 설치는 되었는데, 동작할 때마다 CPU 100 치고 버벅임.
국민교육헌장 전문 기대했는데, 답나오는데 시간 엄청 걸림
그래서 시간당 800원짜리 g5 인스턴스로 갈아타 봄
결과는, 아직 실제 서비스에는 무리가 많이 갈 듯합니다.
댓글을 남기려면 로그인이 필요합니다.
로그인 후 이 페이지로 돌아와 바로 댓글을 남길 수 있습니다.
아직 튜닝할 것이 많은 것 같습니다.
llama3 설치는 되었는데, 동작할 때마다 CPU 100 치고 버벅임.
국민교육헌장 전문 기대했는데, 답나오는데 시간 엄청 걸림
그래서 시간당 800원짜리 g5 인스턴스로 갈아타 봄
결과는, 아직 실제 서비스에는 무리가 많이 갈 듯합니다.
댓글을 남기려면 로그인이 필요합니다.
로그인 후 이 페이지로 돌아와 바로 댓글을 남길 수 있습니다.