교육혁신원

생성형 인공지능(AI)의 한계

1. ① 신뢰성의 문제
   • ChatGPT와 같은 거대언어모델(LLM)을 활용한 인공지능의 경우, 학습한 문장의 규칙을 분석하여 단어 간의 연계성이 높은 단어들로 문장을 구성하여 답변이 논리적으로 보일 수 있으나, 거짓된 답변도 가능하며 오류가 있는 정보를 전달할 가능성이 있다.
   • *거대언어모델(LLM, Large Language Model): 다량의 텍스트 데이터를 학습하여 인간이 사용하는 언어(자연어, NLP)를 분석하고 처리할 수 있다. 문장 구조 문법, 의미 등을 파악하고 자연스러운 대화 형태로 상호작용이 가능하도록 단어 뒤에 등장할 확률이 높은 특정 단어를 예측하여 문장을 완성한다.
2. ② 편향성
   • 학습한 데이터 기반으로 결과물을 생성하기 때문에 편향적이거나 차별적인 데이터를 학습했을 경우, 편향적인 답변을 도출할 가능성이 있다.
3. ③ 개인정보 보호
   • 개인정보가 생성형 인공지능(AI) 학습에 활용되어, 프라이버시와 보안 문제가 발생할 수 있다.

교육에 미치는 긍정적인 측면

1. ① 새로운 콘텐츠 발굴이나 문제 해결 방안 마련 등 아이디어 탐색을 위한 새로운 인사이트를 쉽게 얻을 수 있다.
2. ② 방대한 양의 데이터를 기반으로 질문에 대한 답변을 제공하기 때문에 정보 검색에 소요되는 시간을 줄이고 필요한 정보를 쉽게 얻을 수 있어 정보 접근성이 향상된다.
3. ③ 정보 접근성 향상으로 인해, 필요한 정보를 효과적으로 찾고, 평가하며, 사용하는 역량의 차이로 발생하는 학습격차를 해소할 수 있다.
4. ④ 개인의 학습 수준과 필요에 맞춘 맞춤형 학습자료를 제공할 수 있어, 개인화된 학습 환경을 조성할 수 있다.
5. ⑤ 생성형 인공지능(AI)과의 상호작용을 통해 개인의 경험 및 사고를 확장할 수 있다.

교육에 미치는 부정적인 측면

① 생성형 인공지능(AI)이 부정확한 정보나 잘못된 답변을 제공하여 왜곡된 학습이 이루어질 수 있다.

②손쉽게 결과물을 얻을 수 있는 생성형 인공지능(AI)에 의존할 수 있다. 

③생성형 인공지능(AI)에 지나치게 의존할 경우, 스스로 문제를 해결하거나 비판적으로 사고하는 능력이 저하될 수 있다.

④생성형 인공지능(AI)에 대한 환경적, 기술적 격차가 학습격차로 이어질 수 있다.

생성형 인공지능(AI) 활용 시 유의할 사항

1. ① 정보의 정확성 검토: *할루시네이션 현상으로 인해 부정확한 정보나 허위정보를 제공할 수 있음을 유의해야 한다. *할루시네이션(Hallucination, 환각): 실제 존재하지 않는 지식을 그럴듯하게 설명함으로써 이용자들에게 혼란을 야기하는 일로 잘못된 정보나 부적절한 답변을 제공하는 현상
2. ② 데이터 활용 인지: 입력하는 정보가 생성형 인공지능(AI)의 학습 데이터로 활용될 가능성이 있음을 인지하고 민감한 정보나 개인 정보를 입력할 때 신중해야 한다.
3. ③ 윤리적 사용: 개인 정보 보호와 데이터 사용에 대한 윤리적 문제를 고려하여 생성형 인공지능(AI)의 산출물을 활용하여야 한다.
4. ④ 비판적 사고 유지: 생성형 인공지능(AI)의 산출물을 비판적으로 분석하고, 스스로 사고하는 능력을 유지하면서 도구로서 활용해야 한다.

생성형 인공지능(AI) 활용 윤리지침

1. ① 생성형 인공지능(AI)의 산출물의 정확도와 신뢰성을 점검한다.
2. ② 생성형 인공지능(AI)의 산출물을 그대로 결과물(과제, 레포트, 답안지, 논문 등)으로 제출하지 않는다.

   생성형 인공지능(AI)의 부적절한 사용 예시

   1. 1) 생성형 인공지능(AI)의 사용 여부를 밝히지 않는 경우
   2. 2) 생성형 인공지능(AI)의 산출물을 직접 작성한 것처럼 사용한 경우
   3. 3) 생성형 인공지능(AI)을 사용해 생성된 콘텐츠를 검토 없이 제출한 경우
3. ③ 생성형 인공지능(AI)을 활용할 때, 출처와 활용방법을 명시한다.

   생성형 인공지능(AI)의 사용 출처 표기 예시

   1. 1) 생성형 인공지능(AI)가 생산한 특정 문구나 문장을 인용할 때, 각주 또는 미주를 통해 출처 표기

      ChatGPT, OpenAI (https://www.openai.com)

   2. 2) 학술논문이나 보고서 같은 경우 참고문헌에 표기

      APA 스타일: OpenAI. (2024). ChatGPT (Version 4) [Large language model]. https://www.openai.com

      * ChatGPT는 입력한 질문(프롬프트)에 따라 달라지는 답변을 생성하기 때문에 다른 사람들이 동일한 자료를 검색할 수 있도록 생성된 텍스트 뒤에 프롬프트를 함께 제공해야 함. 답변이 길 경우, 전체 텍스트는 부록에 포함할 수 있음.

   3. 3) 프레젠테이션 또는 발표자료에 표기

      예시) 본 프레젠테이션의 일부 자료는 ChatGPT를 활용해 작성되었습니다. 생성형 인공지능(AI)의 도움을 받아 기본 내용을 정리한 후, 발표자가 최종 수정을 거쳤습니다.

4. ④ 사회적인 피해를 일으키지 않고 법적인 문제를 발생시키지 않는 윤리적인 범위 내에서 활용한다.
5. ⑤ 생성형 인공지능(AI)이 학습하여 불이익을 초래할 수 있는 타인의 개인정보 또는 민감정보, 업무와 관련된 비공개 정보를 입력하지 않도록 주의한다.

교수자 및 학습자 공통 가이드라인

1.  ① 생성형 인공지능(AI)을 맹목적으로 신뢰하거나 거부하지 않고 적절한 생성형 인공지능(AI) 도구를 선택하고 활용하는 역량을 키운다
2.   ② 생성형 인공지능(AI)의 한계를 인지한다.
  ③ 생성형 인공지능(AI)의 기술은 급격히 발전하므로 최신 동향을 파악하고 지속적으로 학습하는 것이 중요하다.

교수자용 가이드라인

① 생성형 인공지능(AI)을 새로운 학습 도구로 적극적으로 탐색하며, 교수-학습 과정의 질 개선을 위한 유용한 도구로 활용할 수 있도록 한다.

② 생성형 인공지능(AI)의 활용에 대한 방침을 강의계획서에 명확히 명시하여 학생들이 이를 인식하고 참고할 수 있도록 한다.

1. (1) 예를 들어, 다음 3가지 옵션(금지, 제한적 허용, 허용) 중 하나를 선택하여 명시할 것을 권고한다.

2. 생성형 인공지능(AI)의 사용 허용 범위

   1. 1) 금지: 생성형 인공지능(AI) 사용금지
   2. 2) 제한적 허용 : 출처 표기 후 생성형 인공지능(AI) 사용 가능
   3. 3) 허용: 자유롭게 생성형 인공지능(AI) 사용 가능
3. ③ 생성형 인공지능(AI) 사용 여부를 GPTZero, Turnitin AI Detector 등과 같은 탐지 도구를 통해 검증할 수 있으나, 이러한 도구들이 100% 정확한 결과를 보장하지는 않으므로 결과를 해석할 때 주의가 필요하다.
4. ④ 평가 방식을 검토하여 다양한 평가 방식을 도입함으로써, 학생의 학업 성취도를 측정하는 데 있어 지식의 습득뿐만 아니라 다차원적인 사고를 요구하는 시험 문제를 출제할 것을 권장한다.
   1. (1) 온라인 평가나 과제물 제출 시 ChatGPT와 같은 문장 생성형 인공지능(AI)을 활용할 가능성을 염두에 두고, 이에 적절히 대응할 수 있도록 유의한다.
   2. (2) 단순히 지식을 묻는 문항보다는 비판적 사고를 요구하는 문제를 출제하여 학생들이 깊이 있는 이해와 분석 능력을 발휘하도록 유도한다.
   3. (3) 발표, 동료 평가, 자기 평가, 상호 평가 등 학습 과정과 결과를 반성적으로 되돌아보고 개선할 수 있는 평가 방법을 활용한다.

학습자용 가이드라인

① 생성형 인공지능(AI) 활용 시 교수자가 제시한 지침을 숙지하고, 수업활동이나 과제물에 대해 생성형 인공지능(AI) 활용 등과 관련된 교수자의 가이드를 따른다.

② 생성형 인공지능(AI)의 산출물을 최종 결과물로 활용하지 않고, 학습과정을 효율적으로 지원해주는 보조 도구로 활용한다.

③ 생성형 인공지능(AI)이 제공하는 자료를 바탕으로 내 아이디어를 발전시키고 문제를 창의적으로 해결하는 데에 활용한다.

④ 생성형 인공지능(AI)의 산출물 활용 시 정보의 사실 여부를 확인하는 절차를 거친다.

⑤ 생성형 인공지능(AI)의 산출물을 활용하여 결과물을 완성 및 제출할 경우 그 책임은 전적으로 본인에게 있음을 인지한다.

⑥ 생성형 인공지능(AI)의 산출물을 출처를 밝히지 않고 그대로 활용할 경우 표절로 간주될 수 있음을 인지한다.

이 가이드라인은 생성형 인공지능(AI) 기술의 발전과 법적, 윤리적 기준의 변화에 따라 지속적으로 업데이트될 수 있습니다. 따라서 사용자들은 최신 가이드라인을 확인하고 준수해야 하며, 본 가이드라인의 내용은 사전 통지 없이 변경될 수 있습니다.