deepseek r1 7b 그닥이네요.
실무에 써먹지 못하겠네요.
대신 Qwen2.5-Coder-14B-Instruct 이 놈이 실무에 써먹을 정도 되네요.
4기가 메모리에서 작동하고…
(LM Studio 에서 작동시)
클로드 시켜봤던 두가지 작업에 대해 동일하게 시켜봤는데 괜찮은 결과 나오네요.
html 페이지가 깔끔하지 않은 것과 의존성 라이브러리 한개 빼먹은 건 있는데…
그정도는 봐줄만 하다고 봐요.
물론… 온라인 챗지피티 클로드 보다는 못하고요.
오프라인 상태라면 저는 씁니다.
우선 노트북 GPU 4기가 에서 작동합니다.
물론 매우 시끄럽고요.
하지만 결론을 (느리게) 냅니다.
내놓는 코드도 맘에는 안듭니다.
클로드보다 더 엉성하게 내는게 아니라…
쓸데없이 복잡하게 내네요.
여튼… 뭉텅이로 일을 시키는 대신 잘게 잘라서 집어넣으면
오프라인에서도 일을 시킬수 있다는 생각이 드네요.