오픈소스 생성형 인공지능 llama

https://www.youtube.com/watch?v=NifmZHffRNc

PC 에 설치해서 사용할 수 있는 버전이네요.

8B / 70B / 405B 버전이 있습니다.

405B 버전은 약 800G 정도의 디스크가 필요합니다.

(엄청난 GPU 자원을 요구하기에 개인이 설치하는 건 힘듭니다.)

70B 도 개인이 사용하기는 어렵군요.

(NVIDIA RTX 4090 (2개) - 각각 약 $1,600~$3,600)

(256GB DDR5 RAM - 약 $1,200~$1,500)

왜 저게 좋냐면...

무료로 무한으로 사용할 수 있기 때문입니다.

그리고 폐쇄망이 강제되는 공공기관은 선택의 여지가 없구요.

라마에 한국어를 추가로 학습시킨 버전도 찾아보시면 있습니다.