[230818] 모두를 위한 AI뉴스: GPT-4 코드 인터프리터를 활용해 어려운 수학 문제 풀기?

모두의연구소는 함께 공유하고 성장하는 국내 최대 AI 커뮤니티입니다🌱.

오늘의 AI뉴스 시작해 볼게요! :)

1️⃣코드 기반 검증이 있는 GPT-4 코드 인터프리터를 활용해서 어려운 수학 문제 풀기

GPT-4와 PaLM-2와 같은 LLM은 수학 추론 문제 해결에서 큰 진전을 보였습니다. 특히 GPT-4는 수학 데이터 세트에서 뛰어난 성능을 보여주는데 이 논문은 GPT-4 코드 인터프리터가 어떻게 코드를 사용해 추론 능력을 향상시키는지를 탐구하였습니다. 또한 코드 생성, 실행 및 평가, 그리고 불합리한 결과에 대한 수정이 중요하다는 사실을 발견했습니다.

이를 바탕으로 새로운 프롬프트 방법인 명시적 코드 기반 자체 검증(CSV)을 제안하였습니다. 이 방법은 GPT-4에게 코드를 통해 답을 자체 검증하도록 유도하며, 검증 결과에 따라 자동으로 솔루션을 수정합니다. 이 방식을 사용하면 수학 데이터 세트에서 53.9%에서 84.3%의 제로샷 정확도를 달성할 수 있다고 합니다.

2️⃣검색증강된 인코더-디코더 모델로 문맥 내 학습 시키기!

이 연구에서는 검색 증강 인코더-디코더 언어 모델을 중점으로 문맥 내 학습 능력을 조사합니다. 최신 ATLAS 모델 분석을 통해 문맥 내 학습 시 한계를 발견했고 이를 극복하기 위해 검색 증강 마스크 언어 모델링과 접두사 언어 모델링을 통합한 RAVEN 모델을 제안합니다. 또한, 문맥 내 융합 학습을 도입하여 few-shot 성능을 향상시키고자 했습니다. 실험 결과, RAVEN은 적은 매개변수를 가졌음에도 ATLAS보다 우수한 성능을 보이며 최첨단 언어 모델과 유사한 결과를 기록했습니다. 이 연구는 검색 증강 인코더-디코더 언어 모델의 잠재력을 보여주는 한 사례라는 생각이 드네요!

3️⃣원인과 결과로부터 얻은 추론으로 멀티모달 모델을 학습시키면 벌어지는 일은?

새로운 개념을 학습하고 적절히 응답하는 능력은 매우 중요한데요, 현재 거대 멀티모달 모델은 큰 데이터를 학습은 하지만, 새로운 개념이나 보이지 않는 이미지를 이해하는 단계까지는 어려운 것이 사실입니다. 상황 내 학습(ICL)은 훈련 없이 학습을 탐구하는 방법입니다. 이 연구에서는 이를 강화하기 위해 '원인과 결과로부터의 추론'을 중점으로 한 링크 컨텍스트 학습(LCL)을 제안합니다. LCL은 인과 관계를 강조하며, 거대 멀티모달 모델이 새로운 개념을 효과적으로 이해할 수 있도록 도와줍니다. 이를 평가하기 위해 보이지 않는 이미지와 라벨로 구성된 ISEKAI 데이터 세트를 사용하였습니다. LCL을 도입한 거대 멀티모달 모델은 기존 모델보다 탁월한 학습 능력을 보였습니다.

⎯

📍Llama 2, SDXL 이미 알고 있다면?

AI학교 아이펠 리서치 과정 모집 중 → https://bit.ly/44cSNkr