[모두레터] 미스트랄 AI, 첫 코드 생성 모델 '코드스트랄' 공개
모두의연구소 공식 뉴스레터 I 모두레터 I 2024년 6월 10일☀️
미스트랄 AI, 첫 코드 생성 모델 '코드스트랄' 공개
한층 업그레이드된 MMLU 벤치마크
미스트랄 AI, 첫 코드 생성 모델 '코드스트랄' 공개
©Mistral AI
Mixture-of-Experts(MoE) 기법을 적용한 언어 모델 믹스트랄(Mixtral)로 잘 알려져 있는 인공지능 스타트업 미스트랄 AI(Mistral AI)에서 코드 생성 모델 '코드스트랄(Codestral)'을 출시했습니다. 미스트랄 AI에서 처음으로 출시된 코드 생성 모델인데요. 파이썬이나 자바와 같이 널리 쓰이고 있는 언어부터 스위프트(Swift), 포트란(Fortran) 등 80가지 이상의 프로그래밍 언어로 학습됐다고 해요.
코드스트랄의 모델 크기는 22B(파라미터 220억 개)지만, 코드라마 70B(CodeLlama 70B), 딥식 코더 33B(DeepSeek Coder 33B) 등 규모가 더 큰 모델과 비교해도 뛰어난 성능을 보였다고 하네요. 코드스트랄 모델은 미스트랄에서 제공하는 API를 통해서 사용할 수 있고요. 챗봇 서비스 '르 챗(Le Chat)'에서도 모델과 대화해 볼 수 있으니 참고해 주세요!
