자다가 꺳쩌
스타트업 EXO에서 펜티엄2를 구매하여 라마2 LLM을 구동하였다고 해요.
초당 35.9 토큰이 나온다고 하빈다. K 나 M이 붙지 않는 순수한 초당 36개 정도이어요.
[1] GitHub - karpathy/llama2.c: Inference Llama 2 in one file of pure C
댓글을 남기려면 로그인이 필요합니다.
로그인 후 이 페이지로 돌아와 바로 댓글을 남길 수 있습니다.
스타트업 EXO에서 펜티엄2를 구매하여 라마2 LLM을 구동하였다고 해요.
초당 35.9 토큰이 나온다고 하빈다. K 나 M이 붙지 않는 순수한 초당 36개 정도이어요.
[1] GitHub - karpathy/llama2.c: Inference Llama 2 in one file of pure C
댓글을 남기려면 로그인이 필요합니다.
로그인 후 이 페이지로 돌아와 바로 댓글을 남길 수 있습니다.