[230310] AI 개발자라면 알아야 하는 데일리 뉴스

안녕하세요
국내 최대 오프라인 AI 커뮤니티 모두의연구소입니다.
🤗현재 AI 학교 아이펠도 운영하고 있어요.

여러분들의 AI개발에 도움이 되도록 최신 소식을 쉽고 빠르게 알려드리고 있어요.
✅지난 AI뉴스 모두보기 ⇒ https://page.stibee.com/archives/181723

1️⃣ Fine-tuning 20B LLMs with RLHF on a 24GB consumer GPU

현재 딥러닝 연구에서 가장 핫한 키워드는 ChatGPT에서 사용했던 RLHF라 생각합니다. 그리고 파라미터가 큰 모델이 대두되면서 Parameter-Efficient Fine-Tuning(PEFT)도 매우 중요한 기법으로 자리매김하고 있습니다. HuggingFace에서 자체 제작하고 있는 Transformer Reinforcement Learning(TRL)에 PEFT를 도입했다고 합니다!! TRL은 HuggingFace에서 언어모델을 학습할때 강화학습을 사용한다면 쓰는 라이브러리입니다. 해당 블로그는 어떻게 작동하는지를 설명하고 있으며 실습을 원한다면 여기를 클릭해주세요!

2️⃣ The BirdCLEF 2023 Challenge: Pushing the frontiers of biodiversity monitoring

구글 리서치에서 자연보호를 위한 소리를 통한 조류 분류 대회를 캐글을 통해서 진행하고 있습니다. 현재 지구에서 조류 개체수는 빠르게 감소하고 있고 약 48%의 조류가 개체수가 감소되었다고 보고 있습니다. 해당 내용을 분석하기 위해서는 조류 개체수를 모니터링해야 되는데 기존 모니터링 방법은 연구자가 직접 수동으로 새 소리를 모니터링했습니다. 이번 대회는 소리 데이터를 기반으로 머신러닝 기술을 접목해 조류 개체 분류를 진행하는 대회입니다. 음성인식 연구하시는 분들께 좋은 자극제가 될것 같아 공유합니다!

3️⃣ Introducing Casual Conversations v2: A more inclusive dataset to measure fairness

메타AI에서 Casual Conversations v2 데이터셋을 공개했습니다. Causal Conversations v2는 AI 모델의 공정성과 견고성을 더 잘 평가할 수 있도록 지원하기 위해 7개국에서 녹화된 약 26000개의 비디오 독백영상 데이터입니다. 해당 데이터셋은 포괄적인 문헌 검토를 진행했고 인권과 같은 분야도 고려했다고 합니다. 이라이선스 또한 자유로워 많은 연구자들이 사용할 수 있도록 했습니다. 음성인식과 인구통계학적 특성 연구에 관심 있는 분들은 해당 데이터셋을 활용해 연구해보시는걸 추천합니다!!