들어가며

"I'm very sorry, but I don't have access to real-time information or patient-specific data, as I am an AI language model." (죄송하지만, 저는 AI 언어 모델로서 실시간 정보나 특정 환자에 대한 데이터를 접근할 수 없습니다.)

환자의 사전 동의를 받지 않고, 생성형 AI가 작성한 내용을 그대로 사용하였다가 철회가 된 논문의 일부

최근 ChatGPT를 비롯한 생성형 AI가 연구 활동에 다양하게 활용됨에 따라 연구윤리 측면에서 AI 기술을 사용하는 것이 화두가 되었다(Schlagwein & Willcocks, 2023). 1아직까지 학계에서는 생성형 AI를 활용하는 것이 바람직하지 않다는 입장은 아니지만, 연구자들이 적절하게 생성형 AI를 사용했다면 연구에 대한 전적인 책임을 가져야 한다는 입장이다(Teubner et al., 2023). 2본 고에서는 2024년의 대학 교원 연구윤리 인식 수준 조사에 응답한 3,256명의 설문내용을 토대로 생성형 AI에 대한 연구자의 인식, 활용 현황 및 문제점에 대해 살펴보고자 한다.

• 1. Schlagwein, D., & Willcocks, L. (2023). ‘ChatGPT et al.’: The ethics of using (generative) artificial intelligence in research and science. Journal of Information Technology, 38(3), 232-238.
• 2. Teubner, T., Flath, C. M., Weinhardt, C., van der Aalst, W., & Hinz, O. (2023). Welcome to the era of chatgpt et al. the prospects of large language models. Business & Information Systems Engineering, 65(2), 95-101.

생성형 AI에 대한 인식

연구자들이 생각하는 생성형 AI에 대한 윤리 문제와 관련된 인식 조사가 수행되었다. 분석 결과, 앞으로 학계에서 문제가 될 예정이라고 응답한 1,719명(52.8%)이 가장 많은 비중을 차지하고 있는 것으로 나타났다. 그 다음으로 아직까지는 별로 걱정할 수준은 아니라고 응답한 연구자가 855명(26.3%)으로 나타났으며, 이미 심각한 문제라고 응답한 연구자가 296명(9.1%)으로 가장 낮은 비중을 차지하고 있는 것으로 조사되었다. 잘 모르겠다는 응답자는 386명(11.9%) 수준으로 나타났다. 이처럼 응답자 가운데 약 53%는 당장 심각한 문제는 아니지만, 향후 생성형 AI가 연구의 윤리 활동에 있어서 문제가 될 것이라고 예상하는 것으로 볼 수 있다.

그림 1. 생성형 AI에 대한 인식 조사 결과

생성형 AI 활용 영역과 활용 빈도

생성형 AI는 연구 과정 전반에 걸쳐 다양한 활용이 가능하다. 연구자는 생성형 AI를 활용하여 연구 문제 형성, 선행 연구의 요약 및 검토, 연구 설계, 자료 수집, 분석 및 결과의 해석 뿐만 아니라, 작성된 연구의 윤문과 오탈자 점검 등을 수행할 수 있다(Susarla et al., 2023). 3최근에는 생성형 AI를 저널의 심사 평가를 보완할 수 있는 수단인지에 대해 검증한 연구도 존재한다(Saad et al., 2024). 4현재로서는 생성형 AI가 심사자를 대체할 수 없지만, 시간 제약 문제와 평가자의 부담을 효율적으로 해결할 수 있는 방안이 될 수 있기 때문이다.

전체 3,256명의 응답자 가운데 생성형 AI를 연구 활동에 사용한 경험이 있는 연구자 566명을 대상으로 사용 영역과 활용빈도를 조사한 결과, ‘가끔 사용’ 또는 ‘매우 자주 사용’하는 연구 활동으로서 문법과 단어의 검토 등에 응답한 경우가 525명(92.3%)으로 가장 많은 비중을 차지하고 있는 것으로 나타났다. 그 다음으로는 선행연구의 검토 287명(50.7%), 연구 문제와 관련된 이론 246명(43.5%)으로 조사되었다. 이와 달리 연구 활용도가 전혀 없는 유형으로는 논문 심사 및 과제 평가 318명(56.2%), 연구 설계 299명(52.8%), 연구 문제 생성 287명(50.7%)으로 나타났다. 이러한 응답 결과는 주로 연구자들이 생성형 AI를 주로 논문작성을 위한 시간을 줄일 수 있는 대안으로 활용하는 반면, 평가 및 연구 설계 등과 같은 연구자의 주관과 평가가 개입되는 활동에는 사용하지 않는다는 것으로 해석할 수 있다.

그림 2. 생성형 AI의 활용 유형과 빈도

• 3. Susarla, A., Gopal, R., Thatcher, J. B., & Sarker, S. (2023). The Janus effect of generative AI: Charting the path for responsible conduct of scholarly activities in information systems. Information Systems Research, 34(2), 399-408.
• 4. Saad, A., Jenko, N., Ariyaratne, S., Birch, N., Iyengar, K. P., Davies, A. M., ... & Botchu, R. (2024). Exploring the potential of ChatGPT in the peer review process: an observational study. Diabetes & Metabolic Syndrome: Clinical Research & Reviews, 18(2), 102946.

연구 활동의 생성형 AI 기술 유용성 인식

생성형 AI의 유용성으로는 연구 수행 부담 경감, 작업 속도 향상, 새로운 연구 아이디어 도출, 연구의 질 향상 등을 들 수 있다. 최근 수행된 연구에서는 연구자들이 생성형 AI의 시간 효율성, e-WOM(Word of Mouth), 스트레스, 학문적 성취감과 효능감 등이 ChatGPT를 사용하는 주요 동기라고 제시된 바 있다(Bin-Nashwan et al., 2023). 5이 가운데 시간 효율성과 e-WOM은 다른 변수들 가운데 생성형 AI의 사용에 상대적으로 더 많은 긍정적인 영향을 줄 수 있는 요소로 논의되었다.

해당 설문 조사 결과, 연구자가 느끼는 유용성 가운데 작업 속도 향상에 대한 응답에 대하여 ‘약간 동의’하는 의견은 1,482명(45.5%), ‘매우 동의’하는 경우는 974명(29.9%)으로 나타나 응답자의 약 76%가 생성형 AI를 앞서 시간을 절약할 수 있는 수단으로 인식하는 것으로 나타났다. 작업 속도 외에도 연구 수행 부담이 경감된다는 의견에 ‘약간 동의’ 또는 ‘매우 동의’ 하는 응답자 역시 65%로 조사되어 생성형 AI에 대한 긍정적 인식을 확인할 수 있다.

상대적으로 연구 질을 향상할 수 있거나 새로운 연구 아이디어를 도출할 수 있다는데 동의하는 의견은 각각 42.2%, 41.8%로 다소 낮은 편으로 나타났다. 따라서 생성형 AI는 창의적인 아이디어 및 연구 질 자체를 향상 시킬 목적보다는 연구 수행의 부담과 시간 감축을 위해서 사용하는 경향이 높다고 판단할 수 있다.

그림 3. 생성형 AI의 논문 작성시 유용성 수준

• 5. Bin-Nashwan, S. A., Sadallah, M., & Bouteraa, M. (2023). Use of ChatGPT in academia: Academic integrity hangs in the balance. Technology in Society, 75, 102370.

생성형 AI 기술 활용에 대한 부정적 인식

한편, 생성형 AI의 활용 유형별로 연구 부정 여부에 대한 인식이 다른 것으로 나타났다. 논문 작성시 AI를 활용하였음에도 불구하고 이를 기재하지 않는 경우에 대해 부정적으로 인식하는 연구자는 2,067명(63.5%)으로 가장 높게 나타났다. 그 다음으로는 논문 심사 또는 과제 평가 1,504명(46.2%), 논문 작성 과정 1,292명(39.7%) 순으로 조사되었다. 즉, 응답자 가운데 약 40%는 논문을 작성하는 과정에서 생성형 AI를 작성하는 것 자체에 대해서 부정적인 인식을 가지고 있으며, 약 64%의 연구자는 생성형 AI를 활용한 경우 이를 기재하지 않은 것에 문제의 소지가 있다는 것으로 볼 수 있다. 또한 논문 심사 또는 과제평가에 AI를 활용하는 것에 대한 부정적인 의견 역시 거의 절반 가까이 나타나, 활용 영역별로 부정적인 인식 수준이 다른 것으로 보인다.

그림 4. 생성형 AI 기술 활용에 대한 부정적 인식

생성형 AI 활용 권고의 중요성 인식

최근 생성형 AI를 활용한 논문에 대한 일종의 메타 평가 연구로서, 해당 기술이 적용될 경우 대표적으로 지적되는 문제점으로는 편향의 위험, 표절, 개인 및 정보 보안 등과 같은 연구 윤리 문제와 더불어 부정확한 정보의 산출 등을 들 수 있다(Sallam, 2023). 6특히 생성형 AI를 훈련하기 위한 데이터에 잠재적 편향이 존재할 수 있으며, 이로 인해 사실적 부정확성을 초래할 수 있다. 뿐만 아니라 생성형 AI가 사실처럼 보이는 부정확한 정보를 산출해 내는 이른바, 환각(hallucination)의 우려가 존재한다.

따라서, 생성형 AI를 활용할 경우 각 권고별 중요성에 대하여 ‘중요함’과 ‘매우 중요함’으로 응답한 항목을 종합하여 살펴보면, AI가 작성한 내용의 편향성 확인에 대한 응답이 2,742명(84.2%)으로 가장 높게 나타났다. 그 다음으로 AI가 작성한 내용의 진위 여부 판단을 위한 선행 연구 검토에 대한 응답이 2,684명(82.4%)으로 나타났으며, 뒤를 이어 심사자 및 평가자 논문 평가과정에서 AI 도구를 활용한 경우 이를 명시해야 한다는 응답이 2,470명(75.9%)으로 조사되었다. 이러한 응답조사 결과는 생성형 AI를 활용할 경우의 문제점 예컨대, 내용의 신뢰성 및 편의성에 대해 연구자가 책임감을 가져야 한다는 인식을 공유하고 있는 것으로 해석할 수 있다.

그림 5. 생성형 AI 기술 활용 권고의 중요성 인식

• 6. Sallam, M. (2023). ChatGPT Utility in Healthcare Education, Research, and Practice: Systematic Review on the Promising Perspectives and Valid Concerns. Healthcare, 11(6), 887. https://doi.org/10.3390/healthcare11060887

마치며

생성형 AI를 연구 활동에 활용하는 것이 윤리적인가에 대한 질문에 학계 현장에서 합의는 이루어지지 않았다. 2024년 대학 교원을 대상으로 생성형 AI에 대한 인식을 조사한 결과, 절반이 약간 넘는 응답자가 향후 생성형 AI가 문제가 될 소지가 있음을 우려하고 있는 것으로 나타났다. 생성형 AI의 연구 활동 지침이 명확하지 않은 상태에서 해당 기술의 장점과 문제점이 공존하고 있기 때문인 것으로 볼 수 있다.

연구자들은 생성형 AI를 활용하는 경우 주로 문법 체크, 오탈자 검정 등 시간을 단축하거나 수행 부담을 줄일 수 있는 영역에 활용하고 있는 것으로 조사되었다. 이는 연구자가 작성한 내용의 문법 오류나 교정뿐만 아니라, 내용의 전달력과 명료성을 향상시킴으로써 연구 결과를 공유하거나 확장하는데 도움이 될 수 있는 장점에 기인하다고 볼 수 있다.

이와 달리 생성형 AI 기술의 활용 여부를 명기하지 않거나, 생성형 AI가 제시한 내용의 답변의 정확성 및 신뢰성을 확인하지 않는 경우, 또는 타인의 연구 아이디어 및 제안서, 논문 등을 평가하는 데 사용하는 활동에 대해서는 부정적으로 인식하는 것으로 나타났다.

연구 활동을 위한 생성형 AI를 사용하는 비중은 아직까지 많지 않지만, 활용 가능 영역은 다양하다. 따라서 생성형 AI의 효용의 활용 범위와 방식에 대해 연구자들이 지속적인 논의와 합의를 통해 연구자 윤리를 확보할 수 있는 방법을 마련해야 할 시점이라고 볼 수 있다.

본고는 ‘2024년 대학 교원 연구윤리 인식수준 조사’의 일부 내용을 발췌 및 보완한 내용입니다.