▣ 인공지능이 과학 논문 출판에 미치는 영향!
⇒ Nature News (2023년 1월 12일)
과학자들과 출판 전문가들은 점점 더 정교해지는 ChatGPT이 연구 무결성과 정확성을 약화시킬 수 있다고 우려하고 있습니다.
12월 말 공개된 프리프린트 논문에 의하면, 인공지능 ChatGPT은 과학자들이 발견하기 어려운 설득력 있는 가짜 논문 초록을 생성할 수 있다고 합니다. 연구자들은 과학에 미치는 영향에 대해 의견이 분분합니다.
지난 11월 30일 출시된 ChatGPT는 사용자 질문에 응답하여 사실적이고 지능적으로 들리는 텍스트를 생성합니다. 인간이 생성한 방대한 텍스트를 학습하여 그럴듯한 텍스트를 만드는 것입니다.
ChatGPT이 만든 텍스트가 인간이 만든 텍스트와 구별하기 어렵기 때문에 출시 이후 사용자들은 윤리적 문제에 직면하고 있습니다.
미국 노스웨스턴 대학 연구팀은 ChatGPT를 사용하여 과학자들이 가짜 초록을 구별할 수 있는지 테스트했습니다. 연구자들은 대표적인 의학 저널인 JAMA, NEJM, BMJ, Lancet, Nature Medicine에 발표된 논문 초록을 학습한 후 50개의 가짜 초록을 작성하도록 했습니다.
그런 다음 표절 탐지기와 AI 출력 탐지기를 통해 이를 원본 초록과 비교하여 조작된 초록을 찾아내도록 요청했습니다.
ChatGPT에서 생성된 가짜 초록은 표절 검사기를 통과했습니다. 독창성 점수 중앙값은 100%로 표절이 발견되지 않았음을 나타냅니다. AI 출력 탐지기는 생성된 가짜 초록의 66%를 발견했습니다.
그러나 인간 리뷰어는 아주 더 잘하지 못했습니다. 생성된 가짜 초록의 68%와 진짜 초록의 86%만 정확하게 식별했습니다. 그들은 생성된 가짜 초록의 32%를 진짜로, 14%의 진짜 초록을 생성된 가짜로 잘못 식별했습니다.
ChatGPT는 믿을 만한 과학 논문 초록을 작성합니다. 하지만, 윤리적이며 수용 가능한 사용의 한계는 아직 결정되지 않았습니다. 연구진은 인공지능 생성 텍스트의 사용을 규제하기 위한 정책을 마련해야 한다고 제안합니다. 사용을 허용하기로 선택한 기관은 공개에 관한 명확한 규정을 설정해야 합니다.
머신러닝 국제 컨퍼런스(International Conference on Machine Learning)에서는 ChatGPT 및 기타 AI 언어 도구로 작성된 논문을 금지한다고 발표했습니다.
*원문: https://www.nature.com/articles/d41586-023-00056-7
*사진: Ted Hsu/Alamy
※설문 조사: ESC에서 "ChatGPT 사례로 본 AI 생산 저작물 활용에 대한 윤리 인식 조사"를 진행하고 있습니다. 참여를 부탁드립니다.
https://ko.surveymonkey.com/r/53CKMHV
출처 : 원병묵님
ㅡㅡㅡㅡㅡㅡㅡ
점점 인간이 설...자리가 없어지네요
Ai가 이제는 논문까지쓰는 시대...
대체 어디까지 발전하려고 이러는건지 ㅋㅋ
무섭습니다
미래에는 인간보다 Ai숫자가 더 많아질것같고
정교한 시스템이 다양화될것같네요