AI가 논문을 작성하고 AI가 심사하는 시대 ― 과학 출판은 "진화"인가 "붕괴"인가 : "과학의 신뢰"는 어떻게 변할까?

AI가 논문을 작성하고 AI가 심사하는 시대 ― 과학 출판은 "진화"인가 "붕괴"인가 : "과학의 신뢰"는 어떻게 변할까?

1. 연구의 "입구"에 AI가 침투하다

생성 AI의 화제는 연구 그 자체(가설 생성이나 실험 설계)에 주목받기 쉽다. 하지만 사실은 과학의 신뢰를 지탱하는 "입구"—논문 작성과 심사, 편집, 출판이라는 과정에 AI가 침투하는 임팩트가 점차적으로 영향을 미친다.


Undark의 기사는 이 변화를 "작성"과 "심사"의 양면에서 그린다. 편집자로서 투고 원고를 다룬 AI 윤리 연구자 모하마드 호세이니는 명백히 AI 생성으로 보이는 부자연스러운 원고를 일정 수 보아왔다고 한다. 대시의 다용, 논리의 비약, 문장의 어색함 등, 현장에는 "냄새"가 있다. 그러나 AI의 품질은 계속해서 향상되고, 그 후각도 언젠가 통용되지 않을지도 모른다는 위기감이 기사의 출발점이다.


2. "글을 쓸 수 있는 사람"을 늘리기: 작성 지원으로서의 AI

생성 AI가 먼저 가치를 발휘하는 것은 문헌 요약, 초안 작성, 번역, 영어 문장의 퇴고와 같은 "문장 작업"이다. 특히 비영어 화자에게는 영어의 벽이 연구 성과의 발신에 불리하게 작용할 수 있다. AI는 이 격차를 줄이고, 더 많은 연구자가 국제지의 무대에 설 수 있도록 돕는다고 기사는 소개한다.


실제로 연구자의 이용은 이미 통계에 나타나고 있다. Nature가 국제적인 연구자 약 5,000명을 대상으로 실시한 조사에서는 일정 비율이 AI를 초안 작성, 번역, 요약, 편집에 사용하고 있다. 다른 대규모 분석에서는 생물의학 분야의 방대한 초록을 대상으로, AI 유래로 의심되는 표현의 증가를 단서로, 2024년에는 상당수가 언어 모델로 가공되었을 가능성이 있다고 추정하고 있다.


여기서 중요한 것은 "AI가 논문을 쓰는" 것 자체보다도 "문장 작업의 비용"이 낮아짐으로써 연구의 출력이 증가하는 점이다. 쓰는 속도가 빨라지면 투고는 증가하고, 편집부에 도착하는 원고는 눈사태처럼 된다. 질과 양의 균형은 점점 더 어려워진다.


3. 환각·표절·조작: 편리함의 이면에서 증폭되는 위험

AI의 약점은 잘 알려져 있다. 환각(그럴듯한 거짓말), 인용의 잘못된 연결, 존재하지 않는 근거의 제시. 기사는 더 나아가 학술 출판에 고유한 심각한 문제—표절이나 "페이퍼 밀"의 온상화를 강조한다. AI는 제로에서 형식을 갖춘 문장을 고속 생성할 수 있기 때문에 부정의 장벽을 낮춘다. 데이터 조작은 AI 이전부터 있었지만, AI는 "대량 생산"과 "속도"를 부여해 버린다.


그리고 무서운 것은 부정이 악의만으로 일어나는 것은 아니라는 점이다. 연구자가 "편리한 보조 바퀴"로 사용할 생각으로, 결과적으로 잘못된 정보나 표절을 섞어 버릴 가능성이 있다. 출력이 자연스러운 문장일수록 읽는 사람도 쓰는 사람도 "그럴듯함"에 쉽게 휩쓸리기 쉽다.


4. 심사에 AI를 넣는 유혹: 인력 부족과 공정성의 기대

다음으로 논의의 중심이 되는 것이 심사이다. 심사자 부족은 팬데믹 이후로 악화되었다는 지적이 있으며, 편집자 측은 의뢰해도 거절당하거나 답장이 없다는 고충을 안고 있다. 그래서 "AI를 사용하면 심사자의 폭이 넓어질지도 모른다"는 기대가 생긴다. 기사에서는 JAMA+AI의 편집장 로이 파리스가 AI가 연구자의 부담을 덜고 리뷰에 참여할 수 있는 사람을 늘릴 가능성에 언급하고 있다.


더 나아가 AI 심사는 "중립적"이라는 환상도 있다. 특정 학파나 인맥, 가설에 대한 선입견에서 거리를 둘 수 있다면 오히려 공정성이 높아지는 것이 아닐까—. 그러나 기사는 곧바로 경고를 한다. AI는 과거의 출판 데이터로 학습하기 때문에 역사적인 편향(유명 연구자·저명 기관·중심국의 우위)을 재생산할 수 있다. 실제로 여러 연구가 AI가 고위 기관이나 저명 저자에게 유리한 평가를 하기 쉬운 경향을 보였다고 소개되고 있다.


여기서 부각되는 것은 "AI는 중립적"이 아니라 "AI는 평균적인 과거"라는 사실이다. 과거의 출판 문화가 편향되어 있었다면 AI 심사는 그 편향을 "자동화"할 위험이 있다.


5. 규칙 정비: 허가·금지·공시라는 현실 노선

그러면 출판사나 학회지는 어떻게 대응하고 있는가. 기사에 따르면 주요지의 대부분은 생성 AI 이용의 가이던스를 제시하고, 연구 부정으로 이어지는 이용은 금지하는 한편, 언어 편집이나 분석 보조 등은 조건부로 인정하는 경향이 있다. PLOS는 사용한 도구명, 이용 방법, 출력의 타당성 평가, 영향 범위를 명시할 것을 요구한다.


심사에 관해서는 기밀 유지가 최대의 논점이 된다. 미공개의 원고를 외부 AI 서비스에 입력하면 정보 유출의 우려가 생긴다. 그 때문에 대형 출판사 중에는 미공개 원고를 생성 AI에 업로드하지 않도록 심사자에게 요구하는 예가 있다고 기사는 말한다.


또한 AI를 공동 저자로 인정하지 않거나 AI 생성 이미지나 AI에 의한 이미지 변형을 허용하지 않는 등의 선 긋기도 확산되고 있다. 결국 책임의 소재를 "인간"에 고정하지 않으면 과학의 검증 가능성이 흔들리기 때문이다. 기사에서도 "최종적으로 논문의 모든 단어와 숫자에 책임을 지는 것은 인간의 저자다"라는 강한 원칙이 제시된다.


6. 검출은 만능이 아니다: 술래잡기가 시작되다

"AI 생성을 검출하면 된다"는 발상은 매력적이지만, 기사에는 거기에도 냉정하다. 검출 도구에는 한계가 있으며, 사용하는 측도 사용되는 측도 진화한다. 문체의 버릇이 사라지고, 논리가 정리되고, 인용도 "그럴듯하게" 될수록 판별은 어려워진다. 게다가 검출에 너무 의존하면 비영어 화자가 퇴고를 위해 AI를 사용했을 뿐인데도 의심받는 등, 다른 종류의 불공평을 낳을 우려가 있다.


즉 학술 출판은 AI의 이용을 "완전 금지"에도 "전면 용인"에도 치우칠 수 없다. 현실적인 해결책은 (1) 투명성(공시), (2) 기밀 유지(입력 제한), (3) 인간의 감독(책임 고정), (4) 부정 대책(편집·심사 프로세스 강화)을 결합한 "운용"이 된다.


7. SNS의 반응: 낙관과 비관이 동시에 가속하다

 

이 기사 자체에 대한 언급뿐만 아니라, SNS에서는 "AI×학술 출판" 전반에 대한 반응이 양극화되고 있는 것이 눈에 띈다.


비관 측의 논점은 간단하다. "출판은 준비되어 있지 않다", "부정이 증가한다", "신뢰가 무너진다". 리트랙션(철회)이나 연구 부정을 추적하는 커뮤니티에서는 AI에 의한 "정크 논문의 홍수"에 대한 경계가 강하고, 출판 인프라가 따라잡지 못한다는 톤이 반복된다.


낙관 측의 논점은 "새로운 워크플로를 만들 수 있다", "심사·출판에 재설계의 여지가 있다". 예를 들어 arXiv의 관계자가 생성 AI 시대에 과학 출판이 새로운 도구나 방법을 도입할 여지를 말하는 발신도 있어, 변화를 전제로 논의가 진행되고 있다.


그리고현실 노선으로 많은 것은 "어디까지가 허용이고, 무엇을 공시해야 하는가"라는 선 긋기의 이야기다. Nature의 조사를 소개하는 게시물에서는 AI의 이용 여부에 관한 연구자 커뮤니티의 온도차나 조건론이 가시화되어, "흑백이 아니라 회색의 운용"이 요구되고 있는 것을 엿볼 수 있다.


SNS의 분위기를 정리하면 이렇게 된다.

  • 편리함은 부정하지 않는다(특히 문장·요약·번역)

  • 하지만 부정·조작·정크 증식에는 강한 불안

  • 해결은 "금지"보다 "규칙＋감독＋투명성"
    정말로 Undark의 기사가 그린 논점이 다른 말로 반복되고 있다.

8. 앞으로의 초점: "누가, 무엇에, 책임을 지는가"

AI가 과학 출판을 변화시킨다—이 견해 자체는 이제 기정사실이다. 문제는 "변화의 방식"이다.


만약 AI가 논문의 대량 생산과 부정을 가속화하고 심사를 형식화한다면, 과학의 신뢰는 마모된다. 반대로 AI가 언어 격차를 줄이고, 심사자 부족을 보조하며, 편집 프로세스를 효율화한다면, 과학은 더 개방된 것이 된다.


그 분기점은 기술이 아니라 거버넌스다. 공시, 기밀 유지, 책임의 고정, 그리고 인간의 눈. 기사가 마지막에 제시하는 것처럼, AI는 출판 프로세스의 모든 단계를 재검토하는 압력이 되고 있다. 그렇기 때문에 우리는 AI를 "도입할지 말지"가 아니라 "인간이 책임을 질 수 있는 설계가 되어 있는가"로 논의해야 한다.


출처 URL

관련 기사