ArXiv, AI Slop 논문 업로드 연구자 금지 정책

ArXiv, AI 슬롭이 가득한 논문을 올린 연구자 제재한다

학술 프리프린트 플랫폼으로 널리 쓰이는 ArXiv가 AI 슬롭이 섞인 논문을 줄이기 위해 한 단계 더 강한 조치에 나섰다.

환각으로 만들어낸 참고문헌이나 LLM이 남긴 "메타 코멘트"처럼 "저자들이 LLM 생성 결과를 확인하지 않았다는 명백한 증거"가 논문에 있으면, 저자는 1년 동안 ArXiv에 논문을 올릴 수 없게 된다. ArXiv 컴퓨터 과학 섹션 체어인 토머스 디터리히의 설명에 따르면, 이후 ArXiv에 다시 제출하는 논문도 먼저 "평판 있는 동료심사 학술지나 학회"에 채택돼 있어야 한다.

그가 X에 올린 글은 이렇다.

@arxiv 저자 여러분께 알립니다. 우리의 행동 강령에는, 논문에 저자로 이름을 올리는 순간 각 저자가 그 내용이 어떤 방식으로 만들어졌든 논문 전체 내용에 전적인 책임을 진다고 명시돼 있습니다.

생성형 AI 도구가 부적절한 표현, 표절된 내용, 편향된 내용, 오류, 실수, 잘못된 참고문헌, 혹은 오해를 부르는 내용을 만들어냈고, 그 결과물이 과학 연구물에 포함됐다면 그 책임은 저자에게 있습니다.

최근 우리는 이에 대한 제재 기준을 더 분명히 했습니다. 제출물에 저자들이 LLM 생성 결과를 검토하지 않았다는 명백한 증거가 들어 있다면, 그 논문의 어떤 내용도 신뢰할 수 없다는 뜻입니다.

제재는 1년간 arXiv 제출 금지이며, 그 뒤에는 이후 arXiv 제출물이 먼저 평판 있는 동료심사 학술지나 학회에 채택돼 있어야 합니다.

명백한 증거의 예로는 환각으로 지어낸 참고문헌, LLM이 남긴 메타 코멘트("여기 200단어 요약이 있습니다. 수정할 부분이 있을까요?" "이 표의 데이터는 예시용입니다. 실험에서 나온 실제 숫자로 채워 넣으세요") 등이 있다.

디터리히 씨는 404Media와의 인터뷰에서 작성자들이 차단 결정에 대해 이의를 제기할 수 있다고 밝혔다. 그는 또한 이 정책이 "반박할 수 없는 증거가 있는 경우"에만 적용되며, "우리의 내부 절차에 따라 먼저 운영자가 문제를 기록하고, 그 후 해당 섹션 의장이 확인한 후에야 처벌이 부과된다"고 덧붙였다.

작년에도 ArXiv는 AI 슬롭을 줄이기 위해 정책을 손본 바 있다. 당시에는 컴퓨터 과학 분야의 리뷰 논문과 포지션 페이퍼에 대해, 동료심사를 거쳤고 학회나 저널에 채택된 경우에만 게재를 허용하도록 바꿨다. 당시 ArXiv는 이렇게 설명했다.

"대규모 언어 모델이 등장하면서 이런 종류의 콘텐츠는 필요할 때마다 비교적 쉽게 대량으로 만들어낼 수 있게 됐고, 우리가 받는 리뷰 논문 대부분은 공개된 연구 과제를 실질적으로 논의하지 않은 채 주석만 덧붙인 참고문헌 목록에 가까웠다."

^{source https://www.theverge.com/science/931766/arxiv-ai-slop-ban-researchers}