답변게시됨14 소스
arXiv, ‘검증 안 된 AI 논문’ 강력 제재… 최대 1년 업로드 금지
arXiv는 검증되지 않은 LLM 생성 콘텐츠가 논문에 포함된 명백한 증거가 있을 경우 모든 저자에게 최대 1년 업로드 금지 조치를 적용할 수 있다고 밝혔다. 허위 참고문헌, 챗봇 대화 흔적, ‘여기에 실제 실험 수치를 넣어라’ 같은 AI 메타 코멘트가 남아 있는 경우가 대표적인 증거로 제시됐다.
1.7M0
AI 프롬프트
openai.comCreate a landscape editorial hero image for this Studio Global article: What new policy is arXiv implementing to crack down on careless AI-generated scientific papers, including what counts as evidence of uncheck. Article summary: Insufficient evidence. The provided evidence does not include the alleged new arXiv policy details about careless AI-generated scientific papers, the evidentiary standard for unchecked LLM use, author penalties, whether . Topic tags: general, general web, academic, user generated. Reference image context from search candidates: Reference image 1: visual subject "Dietterich, chair of arXiv's computer science moderators, a submission that contains "incontrovertible evidence that the authors did not check the results of LLM generation", examp" source context "arXiv imposes one-year ban for unchecked LLM output | Let's Data Science" Reference image 2: visual subjec
연구자들이 논문 초안을 공유하는 대표적인 사전 공개(preprint) 플랫폼 arXiv가 생성형 AI 사용과 관련한 규정을 더욱 명확히 했다. 핵심은 간단하다. 대형 언어 모델(LLM)이 만든 내용을 제대로 검증하지 않고 논문에 포함했다는 명백한 증거가 발견되면 모든 저자가 최대 1년 동안 arXiv에 논문을 제출할 수 없게 된다는 것이다.
이 정책은 AI 사용 자체를 금지하는 것이 아니다. 대신 학계의 기본 원칙을 다시 강조한다. 논문의 내용은 어떻게 만들어졌든 최종 책임은 저자에게 있다는 점이다.
왜 이런 조치가 나왔나
최근 연구자들이 글 작성 과정에서 생성형 AI를 활용하는 사례가 빠르게 늘었다. 그 과정에서 arXiv 운영진은 몇 가지 반복적인 문제를 발견했다. 예를 들어 실제로 존재하지 않는 참고문헌이 포함되거나, 챗봇에게 보내는 지시문이 그대로 논문에 남아 있는 경우다.
이런 오류는 단순한 실수가 아니라 논문의 다른 부분도 신뢰할 수 있는지 의심하게 만든다는 점에서 문제가 된다. arXiv 측은 이런 사례가 늘어나면서 기존 행동 규범(Code of Conduct)을 AI 사용 상황에 맞게 명확히 설명할 필요가 있었다고 밝혔다.
‘검증되지 않은 LLM 사용’의 명백한 증거는 무엇인가
운영진이 언급한 사례는 비교적 분명하다. 논문에 아래와 같은 흔적이 남아 있다면 저자가 AI 출력물을 제대로 확인하지 않았다는 증거로 간주될 수 있다.
- 실제로 존재하지 않는 허위 또는 환각(hallucinated) 참고문헌
- 챗봇과의 대화 흔적이나 프롬프트가 그대로 남은 문장
- “여기 200단어 요약입니다” 같은 모델의 메타 코멘트
- “실험에서 얻은 실제 숫자를 여기에 넣으세요” 같은 자리 표시용 문장
Studio Global AI
Search, cite, and publish your own answer
Use this topic as a starting point for a fresh source-backed answer, then compare citations before you share it.
사람들은 또한 묻습니다.
"arXiv, ‘검증 안 된 AI 논문’ 강력 제재… 최대 1년 업로드 금지"에 대한 짧은 대답은 무엇입니까?
arXiv는 검증되지 않은 LLM 생성 콘텐츠가 논문에 포함된 명백한 증거가 있을 경우 모든 저자에게 최대 1년 업로드 금지 조치를 적용할 수 있다고 밝혔다.
먼저 검증할 핵심 포인트는 무엇인가요?
arXiv는 검증되지 않은 LLM 생성 콘텐츠가 논문에 포함된 명백한 증거가 있을 경우 모든 저자에게 최대 1년 업로드 금지 조치를 적용할 수 있다고 밝혔다. 허위 참고문헌, 챗봇 대화 흔적, ‘여기에 실제 실험 수치를 넣어라’ 같은 AI 메타 코멘트가 남아 있는 경우가 대표적인 증거로 제시됐다.
실무에서는 다음으로 무엇을 해야 합니까?
정지 이후에는 향후 논문을 arXiv에 올리기 전에 신뢰할 수 있는 동료평가(peer review) 학술지에서 먼저 채택되어야 하며, 저자는 arXiv의 공식 항소 절차를 통해 이의를 제기할 수 있다.
출처
- techcrunch.comResearch repository ArXiv will ban authors for a year if they let AI do ...
- app.daily.devResearch repository ArXiv will ban authors for a year if... - daily.dev
- economistwritingeveryday.comarXiv will ban authors who submit papers with LLM mistakes
- info.arxiv.orgAppealing a moderation decision - arXiv info
- newsbytesapp.comarXiv bans authors 1 year for not checking LLM-generated references
Loading comments...
Comments
0 comments