이 지침서는 2023년 4월에 발행됐다. AI는 눈부신 속도로 발전하고 있는 분야인데, 이 지침서를 작성할 당시에는 GPT-3.5가 무료로 제공되는 최신 챗GPT 버전이었다. 기술이 역동적으로 발전하는 만큼 챗GPT를 비롯한 AI가 갖고 있는 윤리적 문제들에 대한 고민도 빠르게 변화하고 있다. 독자들은 신뢰할 수 있는 출처를 이용하여 관련한 최신 뉴스를 지속적으로 확인하기 바란다.

챗GPT 란 무엇인가?

챗GPT는 사람들이 자연스럽게 대화하는 방식으로 컴퓨터와 상호작용할 수 있게 도와주는 언어 모델이다. GPT는 ‘Generative PRe-trained Transformer’의 약자로, 오픈AI에 의해 개발된 자연어 모델군을 지칭한다. 독창적인 결과를 생성하는 능력이 있기 때문에 생성형 AI로도 알려져 있다.

챗GPT는 자연어 프로세싱을 통해 인터넷 데이터를 학습하여 이용자의 질문에 AI 방식의 답변을 제공한다.

이러한 모델은 대량의 텍스트 데이터를 이용한 훈련을 통해 문장에서 나올 다음 단어를 예측하는 법을 학습하고, 그것을 바탕으로 어떤 질문이나 진술에 대해 인간과 같이 일관되고 설득력 있는 답변을 생성한다. 챗GPT의 경우에는 단어 수 3,000억 개에 해당하는 570기가바이트의 데이터가 시스템에 제공됐다. 챗GPT는 또한 약 1,750개의 매개변수를 가지고 있다.1)

챗GPT는 우리가 어느 것에 대해서나 이야기를 나눌 수 있는 ‘컴퓨터 로봇’이라고 생각할 수 있는데2) 사용자 친화적인 인터페이스가 이 과정을 지원한다. 사용자들은 챗GPT에게 데이터와 분석을 요청할 수 있고 심지어는 의견을 물어볼 수도 있다. 그러나 챗GPT의 알고리즘은 분명한 입장을 취하지 않는데, 인터넷 상에 있는 수십억 개의 텍스트를 통계 분석한 결과를 바탕으로 해석하기 때문이다.

본 지침서는 이 글을 작성할 당시 무료로 제공된 챗GPT의 가장 최신 버전인 GPT-3.5를 바탕으로 한 것이다. 앞으로 나올 버전들은 다양한 유형의 데이터를 해석할 수 있고 보다 발전된 작문 능력을 갖추는 등 그 기능이 더욱 발전될 것으로 예상된다.3)

챗GPT 응답

우리는 챗GPT에게 50단어로 챗GPT를 설명할 것을 요청했다. 챗GPT는 다음과 같이 답했다. 챗GPT는 GPT-3.5 아키텍쳐에 기반하여 오픈AI가 개발한 대형 언어 모델이다. 입력 프롬프트를 바탕으로 인간과 같은 텍스트를 생성하고, 질문에 답하고, 다양한 자연어 처리 과제를 실행할 수 있다. 대량의 인터넷 텍스트 데이터를 이용하여 언어의 패턴과 관계를 학습했다.

챗GPT 시작하기

단계별로 챗GPT 사용법을 알려주는 이 지침서는 비디오 설명서로도 제공되며, IESALC 캠퍼스에서는 세미나로도 제공된다. 이와 관련한 상세 정보를 보려면 https://campus.iesalc.unesco.org를 방문한다.

그림 1. 챗GPT 메인 화면

계정 만들기

1. 인터넷 브라우저에서 https://chat.openai.com/를 입력하여 해당 사이트로 이동한다.

2. 계정을 만든다.

a. 이메일 주소를 입력하거나, 구글 또는 마이크로소프트 계정과 연동시킨다.

b. 비밀번호를 생성한다(최소 8자).

c. 오픈AI에서 오는 연락을 받을 이메일 주소를 입력하고 확인을 누른다.

d. 이름과 생년월일을 입력한다.

e. 전화번호를 입력한다.

f. 문자로 전송받은 인증 코드를 입력한다.

단, 아직까지는 챗GPT가 제공되지 않는 국가도 있다.

챗GPT 이용하기

1. 계정을 만들고 로그인한 후 화면 하단에 있는 입력 창에 질문을 입력한다.

2. 그러면 화면에 글자가 나타나면서 즉시 답변이 생성된다.

a. 찬성 또는 반대 아이콘을 눌러서 해당 답변이 적절한 지 또는 부적절한 지를 표시할 수 있다.

아이콘을 선택하면 선택사항으로 추가 의견을 기입하여 피드백을 제공할 수 있는 팝업창이 나타난다.

3. 챗GPT에게 동일 질문에 대한 답변을 다시 요청하려면 ‘Regenerate response(다시 답변하기)’를 누른다.

a. 다시 받은 답변이 더 나은지, 처음 답변과 동일한지 또는 더 안 좋은지를 표시할 수 있다.

b. 여러 개의 답변을 받은 경우, 마우스로 스크롤하여 그러한 답변들을 볼 수 있다.

4. 왼쪽 메뉴창에서 챗GPT와 나눈 대화의 이름을 정하거나 대화를 삭제할 수 있다.

5. 새로운 질문을 하려면 ‘New chat(새로운 대화)’을 클릭하거나, 하단에 있는 입력창에 새 질문을 입력한다.

챗GPT를 이용할 때 고려해야 할 사항들

■ 답변의 정확성을 높이려면 아래의 예와 같이 어떠한 방식으로 챗GPT가 답변해주기를 원하는지를 입력한다.4)

▶[OO이 어떻게 작동하는지] 50단어로 답변해주세요.

▶[OO에 대해] 고등교육 프로그램 관리자의 입장에서 답변해주세요.

▶[OO에 대해] 4문단으로 답변해주세요.

■ 원하는 답변이 아닐 때는 질문을 수정하여 다시 입력한다.

■ 높은 수요로 인해 챗GPT 무료 버전을 이용할 수 없거나 속도가 매우 느릴 수 있다.

■ 챗GPT의 학습에 이용된 데이터는 2021년까지의 데이터이다. 다시 말해, 챗GPT는 2021년 이후에 일어난 사건이나

2021년 이후 생성된 자료에 대한 지식은 가지고 있지 않다.

그러나 챗GPT를 통합한 일부 브라우저는 최신 정보와 연결할 수 있도록 설계되어 있다.

■ 챗GPT가 자신이 제공한 정보를 검증하거나 그 신뢰성을 평가할 수 있는 방법은 없다.

챗GPT와 관련하여 자주 묻는 질문들 Q. 챗GPT를 어디에서 찾을 수 있나요? A. https://chat.openai.com/ Q. 챗GPT를 이용하려면 어떤 정보를 제공해야 하나요? A. 계정을 만들기 위해서 이메일 주소와 전화번호, 이름, 생년월일을 제공해야 합니다. Q. 앱이 있나요? A. 아니오. 챗GPT는 인터넷이 연결된 기기에서 웹브라우저를 통해서만 이용할 수 있습니다. Q. 무료인가요? A. 예, 무료 버전이 있습니다. 또한 월 20달러의 이용료를 내면 챗GPT 플러스로 업그레이드할 수 있는 옵션이 출시되고 있습니다. Q. 무료 버전과 유료 버전의 차이는 무엇인가요? A. 오픈AI에 의하면, 챗GPT 플러스는 답변 속도가 더 빠르고, 챗GPT 플러스 가입자들은 최신 제품을 먼저 그리고 안정적으로 이용할 수 있습니다. Q. 어느 언어로나 질문을 할 수 있나요? A. 챗GPT가 이용할 수 있는 정보의 양이 영어로 되어 있는 경우가 많기 때문에 영어에서 가장 잘 작동하지만, 스페인어, 포르투갈어, 불어 등 다른 언어로도 이용할 수 있습니다. 단, 사용 언어에 따라서 답변의 신뢰성이 달라질 수 있습니다. Q. 어느 나라에서나 이용 가능한가요? A. 대부분의 국가에서 이용할 수 있지만, 30여개 국가에서는 사이트가 차단되어 있거나 제공되지 않습니다. Q. 오프라인으로도 이용할 수 있나요? A. 아니오, 인터넷이 연결되어 있어야 합니다.

아래의 순서도를 이용해서 안전하게 챗GPT를 이용할 수 있는지 확인하자.

그림 2. 챗GPT를 안전하게 이용할 수 있는 상황은 언제인가?5)

인공지능(AI)

챗GPT는 현재 인공지능 기술에서 가장 널리 사용되는 기법인 기계학습에 기반하고 있다. 이 섹션에서는 다양한 유형의 AI를 살펴볼 것이다.

AI를 이해하는 한 가지 방법은 그것의 능력에 따라서 유형을 분류하는 것인데, 이 경우 ANI(Artificial Narrow Intelligence, 협소한 인공지능)와 AGI(Artificial General Intelligence, 보편적 인공지능)로 나뉜다. 약한 AI라고도 불리는 ANI는 현재까지 출시된 AI 유형들을 지칭한다. AGI는, 만약 그 정도까지 기술이 발전한다면, 인간 지능에 맞먹는 수준이 될 것이다.

ANI는 두 가지의 주요 기능, 즉 반응형 기계(reactive machines)와 제한적 메모리(limited memory)를 갖고 있다. 반응형 기계는 기억이나 경험을 저장하는 일차적인 유형의 AI로, 한 개의 사물이나 작업에 대해서만 학습하기 때문에 주어진 하나의 시나리오에만 반응하고 다른 시나리오에는 거의 적용되지 않는다. 반응형 기계의 가장 유명한 예가 체스 게임에서 세계 체스 챔피언인 가리 카스파로프(Garry Kasparov)를 이긴 IBM의 딥블루(Deep Blue) 컴퓨터이다.

제한적 메모리는 단기간 동안 정보를 저장하여 그 정보에 반응한다. 일례로, 자율주행 차량은 주변 정보를 이용하여 정지나 좌/우회전과 같은 결정을 자동으로 내린다.

기계학습은 현재 ANI와 관련하여 가장 보편화된 기법으로 최근 몇 년간 큰 발전을 이루었다. 내장되어 있는 규칙에 따라 답변을 하는 것이 아니라, 컴퓨터가 데이터와 그 데이터로부터 기대되는 답변을 수신한 다음 데이터와 답변 사이의 패턴을 찾아내어 규칙을 생성한다. 챗GPT는 기계학습에 기반하고 있다.

ANI의 다른 기법으로는 기호 논리(symbolic logic, 추론 엔진이라고도 불린다), 전문가 시스템(expert system), 지식 그래프(knowledge graph)가 있다. 기호 논리는 가장 전형적으로 챗봇(chatbot)에서 볼 수 있는데, 챗봇은 일련의 폐쇄형 질문을 통해 이용자가 가진 문제의 성격을 파악하여 상담원에게 연결시키는 기능을 한다. 지식 그래프는 기계학습에 기반하지 않은 다른 개념이나 데이터를 연결하고 설명하는 방식이다.

인공지능(AI)이란 무엇인가? 기술이 발전하면서 우리가 기술을 정의하는 방식도 변화하고 있다. 인공지능에 대한 단 하나의 고정된 정의는 없지만, AI형 기계는 ‘잠재적으로 감각, 언어적 상호작용, 추론과 분석, 문제 해결, 그리고 심지어는 창의성 등 인간의 인지능력을 모방하거나 추월할 능력이 있다’는 것이 보편적인 견해이다. 유네스코 세계과학기술윤리위원회(World Commission on the Ethics of Scientific Knowledge and Technology)(2019). 인공지능의 윤리에 관한 1차 연구(Preliminary Study on the Ethics of Artificial Intelligence, https://unesdoc.unesco.org/ark:/48223/pf0000367823).

그림3. 기호 논리의 예: 아르헨티나 부에노스 아이레스시가 제공한 챗봇 보티(Boti). 보티는 온라인과 왓츠앱(WhatsApp)에서 작동한다. (출처: http://buenosaires.gob.ar/boti)	그림 4. 지식 그래프의 예: 구글 검색에서 ‘UNESCO’를 입력했을 때 얻은 결과

고등교육에서 챗GPT 이용하기

비록 세상에 모습을 드러낸 지는 얼마 안되었지만 챗GPT는 이미 고등교육의 여러 부분에서 광범위하게 사용되고 있다. 이 섹션에서는 교수와 학습, 연구, 행정, 지역사회 연계 부문에서 챗GPT를 이용할 수 있는 몇 가지 방법을 살펴볼 것이다.

교수와 학습

정보를 생성하고 평가하는 챗GPT는 교수 및 학습 과정에서 다양한 역할을 할 수 있다. 챗GPT는 다른 형태의 AI 들과 함께 학생들의 학습 경험과 프로세스를 개선할 수 있는데, 이때 챗GPT는 단독으로 사용되거나 또는 기관에서 사용하는 다른 시스템이나 플랫폼에 통합될 수 있다.

챗GPT는 여러 가지 단순한 과제나 기술적인 과제(예: 기초 연구, 계산, 교정)를 수행할 수 있는데, 아래의 표에 제시된 예들은 교수와 학습을 지원할 목적으로 챗GPT 를 통합하고 이용하는 방법을 보여준다.

AI의 역할

AI의 역할6)	설명	구현 예
가능성 엔진 (possibility engine)	아이디어를 표현하는 다양한 방법을 생성한다.	학생들이 챗GPT에 질문을 입력한 후 ‘Regenerate response’ 기능을 이용하여 여러 가지 답변을 얻는다.
소크라테스와 같은 논쟁 상대	논쟁 상대 역할을 한다.	대화나 논쟁 구조를 따라서 학생들이 챗GPT에 질문을 입력한다. 교수는 학생들에게 챗GPT를 이용하여 토론을 준비하도록 요청할 수 있다.
협력 코치	학생들이 연구하고 문제를 해결하는 과정을 지원한다.	그룹 활동에서 학생들이 챗GPT를 이용하여 과제를 수행하는데 필요한 정보를 찾는다.
측면에서 지원하는 가이드	물리적 및 개념적 공간을 탐색할 때 가이드 역할을 한다.	교수들은 챗GPT를 이용하여 수업에 필요한 콘텐츠(예: 토론 질문)를 생성하고, 특정한 개념을 가르칠 때 학생들을 지원할 방법에 대한 자문을 구한다.
개인교습	학생들에게 개인교습을 제공하고 진행상황에 대한 즉각적인 피드백을 제공한다.	학생이나 교수가 제공한 정보(예: 시험 점수)를 바탕으로 챗GPT가 개별 학생들에게 피드백을 제공한다.
공동 설계자	디자인 과정 전반을 지원한다.	교수가 챗GPT에게 커리큘럼 설계나 갱신에 관한 아이디어(예: 평가 기준)를 요청하거나 구체적인 목표(예: 커리큘럼의 접근성을 높일 수 있는 방법)에 초점을 맞출 것을 요청한다.
탐험자	데이터를 다양한 방식으로 조합해보고 해석할 수 있는 도구를 제공한다.	교수가 학생들에게 기본 정보를 제공하면, 학생들은 챗GPT에게 다양한 질문을 하여 더 많은 정보를 찾는다. 챗GPT는 언어 학습을 지원하는 데도 이용될 수 있다.
함께 공부하는 친구	학생들이 배운 내용을 복습하도록 돕는다.	학생들은 챗GPT에게 자신이 이해한 내용을 설명하고, 그 내용을 학습하는데 도움이 되는 방법에 대해 묻는다. 챗GPT는 학생들이 다른 상황(예: 취업 인터뷰)에 대비하는 데도 도움을 줄 수 있다.
동기 부여자	학생들이 배움의 범위를 확장하도록 게임이나 도전과제를 제공한다.	교수나 학생이 챗GPT에게 현재의 지식 수준을 요약하여 제공한 후 학생들의 학습을 확장할 수 있는 방법(예. 퀴즈, 연습문제)에 대해 묻는다.
역동적인 평가자	교수에게 개별 학생들의 현재 지식 수준에 대한 정보를 제공한다.	학생들이 개인교습 형식으로 챗GPT와 대화를 나눈 후, 챗GPT가 각 학생의 현재 지식 수준을 요약하여 교수에게 제공한다. 교수는 그 정보를 학생 평가에 활용한다.

연구

그림 3에서 보는 바와 같이 연구자들은 연구의 여러 단계에서 챗GPT를 이용할 수 있다.

챗GPT는 또한 연구기금 신청서의 기술적인 부분(예: 커뮤니케이션 계획)을 작성하는 것과 같이 연구와 관련한 다른 프로세스에서도 시범적으로 이용되었다. 챗GPT가 학술 논문에 대한 동료검증을 할 수 있는지를 살펴본 한 실험에서는 특정 논문의 통과 가능성을 예측하는데 챗GPT를 이용할 수 있을 것으로 보았다.7)

챗GPT는 또한 학술 저널의 전체 논문을 생성하는 데도 이용되었는데8), 그로 인해 인간이 아닌 저술자를 지식 생성의 기여자로 간주할 수 있는가에 대한 윤리적 논쟁이 발생했다. 본 지침서를 작성할 당시, 이 논쟁은 합의가 이루어지지 않았다. 일부 출판사들은 챗GPT가 논문의 내용이나 무결성에 대해 책임을 질 수 없기 때문에 저술자가 될 수 없다고 주장한 반면, 또 다른 출판사들은 공동 창작자가 될 수 있다고 보았다.9)

그림 5. 연구 과정에서 챗GPT를 이용할 수 있는 방법

행정

고등교육기관의 행정 업무와 관련하여 챗GPT가 할 수 있는 주된 역할은 프로세스의 효율성을 높이는 것이다. 챗GPT는 아래와 같은 행정 업무에 투여되는 직원의 시간을 줄일 수 있다.

■ 입학 지원자들의 질문에 답변하기

■ 학생들의 수강 신청, 수강 요건 완료 여부, 행정 정보(예: 시험 시간표, 강의 장소) 확인 지원

■ 새 소식, 자원, 기타 정보 검색

■ 공지사항이나 알림 전송

■ 외국인 학생/교직원들을 위한 정보 번역

챗GPT을 이용하면 행정 서비스를 연중 무휴로 제공할 수 있고, 다양한 플랫폼에서 지원할 수 있다. 챗GPT는 웹사이트에 통합할 수 있고, 소셜미디어, 문자 메시지 서비스, 학습 관리 시스템/가상 캠퍼스에서도 이용할 수 있다. 챗GPT는 대화형으로 작동하기 때문에 이용자들에게 보다 개인화된 경험을 제공한다.

지역사회 연계

기관에서는 또한 챗GPT를 이용하여 지역사회 연계 전략을 개발할 수 있다. 챗GPT에 기관의 구체적인 특징(지리적 특징, 위치, 지역사회의 필요, 지역사회의 인구 조성)에 관한 정보를 제공한 후 전체 지역사회에 기여할 수 있는 전략을 개발해줄 것을 요청한다. 기관에서는 그러한 전략을 바탕으로 지역사회에 맞는 홍보 캠페인과 구체적인 행동계획을 개발할 수 있을 것이다.

문제와 윤리적 고민

챗GPT가 고등교육에 끼치는 영향은 즉각적이고 분열적이다. 고등교육에서 챗GPT를 적용할 수 있는 범위가 매우 넓음에도 불구하고 많은 대학들은 학생들의 표절 문제를 우려하여 챗GPT 사용을 금지하였고, 일부 국가에서는 챗GPT를 차단시켰다.10) 이 섹션에서는 고등교육과 관련하여 챗GPT가 제기하는 문제와 윤리적 고민을 검토할 것이다.

학문적 진실성

고등교육에서 챗GPT와 관련하여 제기된 주된 우려사항은 학문적 진실성에 관한 것이다.11)

고등교육기관과 교육자들은 보고서 작성이나 시험에서 학생들이 챗GPT를 이용하도록 허용하면 표절과 부정 행위의 위험성이 증가할 것이라고 우려했다. 이것은 챗GPT 이용이 쉬운 서면 입력이나 정보를 기억하여 불러오는 능력에 의존하는 영역에서 더 문제가 될 것이다.

또한 챗GPT로 작성된 글에서는 기존의 표절 탐지 방식들이 무용지물이 될 것이라는 우려가 있다. 시중에서는 이미 AI로 작성된 글을 탐지할 수 있는 도구들이 개발되고 있다. 반면, 세계 곳곳의 여러 고등교육기관에서는 학문적 진실성에 대한 우려로 인해 챗GPT의 사용을 금지시키거나, 평가방식을 수업 중 평가나 비서면 방식으로 전환했다.

규제의 부재

챗GPT는 현재 전혀 규제되지 않고 있는데, 유네스코는 AI 윤리에 관한 권고(Recommendation on the Ethics of AI)에서 이와 관련한 우려를 제기했다(다음 섹션 참조). 챗GPT의 급속한 발전은 많은 이들의 우려를 자아냈고, 학계와 민간분야의 지도자 1,000여 명이 강력한 AI 시스템의 개발을 잠시 중단할 것을 요청하는 공개서한을 발표하기도 했다.12) 일시적으로나마 개발이 중단된다면 잠재적인 위험성을 조사하고, 그러한 위험성을 보다 잘 이해하고, 공통된 프로토콜을 개발할 수 있는 시간을 벌 수 있을 것이다.

개인정보 침해에 관한 우려

2023년 4월에 이탈리아는 전세계에서 처음으로 프라이버시 문제를 이유로 챗GPT를 차단시켰다.13) 데이터 보호를 담당하는 이탈리아의 정부기관은 챗GPT를 훈련시키는데 사용되는 개인정보를 수집하고 저장할 수 있는 법적 근거가 없다고 지적했다. 이 기관은 또한 챗GPT가 이용자의 나이를 알아낼 수 없기 때문에 윤리적 우려가 있다고 보았다. 미성년자들이 연령에 부적절한 답변에 노출될 우려가 있다는 것이다. 이 사례는 누가 무슨 데이터를 수집하며 그것이 AI에서 어떻게 적용되는가와 관련한 포괄적인 문제가 있음을 보여준다.

인지 편향

챗GPT는 도덕률에 따라 움직이지 않으며, 옳고 그른 것, 진실과 거짓을 구분할 수 없다는 점을 지적할 필요가 있다. 챗GPT는 인터넷에서 처리한 데이터와 텍스트로부터 정보를 수집하는 것뿐이기 때문에 그러한 정보에 내포된 인지 편향을 학습한다. 따라서 챗GPT가 제공하는 답변을 비판적으로 분석하고 다른 정보원과 비교하는 일이 반드시 필요하다.

젠더와 다양성

성차별을 비롯한 다양한 형태의 차별에 대한 우려는 챗GPT만이 아니라 모든 유형의 AI에서 제기된다.14) 한편으로 이 문제는 AI 관련 주제와 AI 연구 및 개발에서 여성 참여가 부족한 현실을 반영하며, 또 한편으로는 생성형 AI가 성별 정형화를 비롯한 다양한 정형화를 강화하는 콘텐츠를 생산하여 유포할 능력이 있다는 뜻이다.15)

장애인 접근성

챗GPT의 장애인 접근성과 관련해서는 두 가지 주된 우려가 있다. 먼저, 일부 국가에서는 인터넷에 대한 정부 규제나 검열로 인해 챗GPT를 이용할 수 없다. 두 번째 우려는 인터넷 서비스의 유무, 비용 및 속도의 불균형한 분배로 인해 발생하는 접근성과 평등의 문제이다. AI 관련 교육과 연구/개발에서도 일부 지역은 관련 지식이나 자원의 개발이 크게 뒤쳐지는 등 세계적으로 균일하게 진행되지 않았다.

상업화

챗GPT는 민간 기업인 오픈AI(OpenAI)가 만든 것이다. 이 기업은 무료 버전의 챗GPT를 유지하겠다고 약속했으나 보다 안정적이고 속도가 빠른 서비스를 제공하는 유료 옵션(현재 월 20달러)을 내놓았다. 고등교육 분야에 민간 기업이 참여하는 것은 새로운 현상이 아니지만, 수익 창출을 주 목적으로 하고, (더 평등하고 쉽게 얻을 수 있는) 오픈 소스가 아니며, 영리 목적으로 데이터를 추출할 가능성이 있는 기업이 제공하는 AI와 같은 도구들을 선택할 때는 신중함과 규제가 요구된다.

AI 윤리에 관한 유네스코의 권고

AI 윤리에 관한 유네스코의 권고는 AI 시스템이 개인과 사회만이 아니라 환경과 생태계에도 도움이 될 수 있는 기반을 마련하는 것을 목적으로 한다. 이 권고는 또한 AI에 의한 폐해를 방지하기 위한 것이기도 하다.

이 권고는 AI가 긍정적인 측면과 부정적인 측면을 모두 갖고 있다는 점을 인지하며, 각국 정부가 국가적 차원에서 이 권고를 채택하고 민관 행위자들도 본 권고가 제공하는 윤리 지침에서 도움을 얻을 수 있을 것이라는 기대 하에서 2021년 말에 채택됐다.

유네스코는 또한 AI와 교육에 관한 정책결정자들을 위한 지침(Guidance for policymakers on AI and education)을 발간했다. 이 지침은 교육과 관련한 새로운 관행을 기술하고, AI를 이용하여 지속가능한 개발 목표 4(양질의 교육)를 달성하고자 할 때의 문제점들을 논의했다.

2023년에는 ‘유네스코 남미 및 카리브해 지역 고등교육 국제연구소(UNESCO-IESALC)’에서 고등교육에서의 AI 활용에 관한 매뉴얼을 발행할 예정이다. 특히 AI의 확산 속도가 느린 환경에 초점을 맞추고 있는 이 매뉴얼은 고등교육 관계자들을 대상으로 한 최초의 국제적인 지침서가 될 것으로 기대된다.

그림 6. 2021년에 채택된 AI 윤리에 관한 유네스코의 권고

유네스코 권고문의 이행

AI 윤리에 관한 유네스코의 권고문을 이행하는 것은 AI의 급속한 확산을 이용하여 AI가 인류에 기여하는 방향으로 발전하도록 돕는 것과 병행되어야 한다.

AI와 교육에 관한 정책결정자들을 위한 지침은 다음과 같은 7가지 영역에서 정책을 권고한다.

1. 시스템 전반에서의 비전과 전략적 우선과제

2. AI와 교육 정책에 관한 포괄적인 원칙

3. 학제간 계획과 분야간(inter-sectorial) 거버넌스

4. 평등하고, 포용적이며, 윤리적인 AI 이용을 위한 정책과 규제

5. 교육 행정 및 교수와 학습, 평가에서의 AI 이용을 위한 마스터 플랜

6. 시범 테스트, 모니터링과 평가, 증거 기반의 구축

7. 교육 분야에서의 지역적인 AI 혁신 증진

앞으로 UNESCO-IESALC가 발행할 예정인 ‘고등교육에서의 AI 활용에 관한 매뉴얼’은 유네스코의 권고문에 규정된 윤리 원칙들을 바탕으로 AI를 구현하는 문제와 관련한 권고 그리고 AI 와 교육에 대한 유네스코 지침을 채택하는 고등교육 관계자들을 위한 지침을 포함할 것이다.

“세계는 인공지능에 대해 더 강력한 윤리 규범을 필요로 하고 있습니다. 이것이 우리 시대가 직면한 도전과제입니다. AI 윤리에 관한 유네스코의 권고는 적절한 규범적 틀을 제시합니다. 우리 회원국들은 모두 2021년 11월에 이 권고문을 지지했습니다. 이제 국가적 차원에서 그 전략과 규제를 구현할 때입니다. 우리는 우리가 논의한 것을 행동으로 옮기고 이 권고문의 목적을 이행해야 합니다.” 2023년 3월 30일 오드리 아줄레이(Audrey Azoulay) 유네스코 사무총장의 발언

고등교육기관에서 챗GPT를 이용하고자 할 때

챗GPT는 개인과 기관의 역량을 구축할 목적으로 윤리 원칙에 따라 사용될 때 학생들에게 보다 개인화된 맞춤형 학습 경험을 제공하고, 행정 절차의 효율성을 높이고, 연구와 지역사회 연계 활동을 증진하도록 도울 수 있다.

신중하고 창의적으로 이용한다

일부 국가와 고등교육기관에서는 챗GPT를 차단시켰지만, 다수의 정부와 고등교육기관에서는 갈수록 AI가 보편화되고 이용이 쉬워지는 세상에 적응할 방법을 모색하고 있다. 그러한 경우, 챗GPT를 윤리적으로 그리고 적절하게 다루기 위해서는 신중함과 창의성이 요구된다.

이와 관련한 제안은 다음과 같다.16)

■ 교직원, 학생, 기타 관계자들이 챗GPT가 고등교육기관에 끼칠 영향에 대해 논의하고 AI를 채택하고 AI에 적응하기 위한 전략을 함께

수립할 기회를 만든다. AI 감사 실시에 관한 아래 섹션은 이와 관련한 한 가지 방법을 제시한다.

■ 언제, 어떻게 챗GPT를 이용할 수 있는가(그리고 언제 이용할 수 없는가)에 관한 명확한 지침을 수립한다. 그러한 지침은 상명하달식이 아니라

학생 및 교직원과 협력하여 수립해야 한다.

■ 챗GPT의 이용을 학습 성과와 연결시킨다. 이것은 학생들이 챗GPT가 학습을 지원하는 방식과 챗GPT에 대한 기대를 이해하는데

도움이 될 것이다.

■ 모든 형태의 평가 방식을 검토하여 각 요소가 목적에 부합하는지를 확인한다. 그 결과, 필기 시험을 대면 평가로 대체하거나

질문 유형이나 시험 포맷을 변경하게 될 가능성이 있다.

■ 챗GPT 및 기타 AI 도구와 관련하여 학문적 진실성/정직성에 관한 정책을 검토하여 갱신한다.17)

■ 교수, 연구자, 학생들이 챗GPT에 입력하는 질문 방식을 개선하도록 교육을 제공한다. 연구자들이 지적한 바와 같이,

챗GPT는 신중하게 질문을 구성했을 때 가장 효과적이다.18)

챗GPT를 이해하고 관리할 수 있는 역량을 구축한다

고등교육이 챗GPT의 시대에 적응하기 위해서는 또한 챗GPT와 AI를 이해하고 관리할 수 있는 역량을 구축하는 문제에 관심을 기울여야 한다. 이와 동시에, 적어도 지금으로서는, 챗GPT가 인간의 창의성과 비판적 사고 능력을 대체할 수 없으며 그러한 강점 위에서 고등교육이 발전해왔다는 사실을 이해할 필요가 있다.

챗GPT/AI에 초점을 맞춘 새로운 프로그램/강의는 연구개발 역량을 높이고 학생들에게 첨단 지식을 제공할 것이다.

기존 프로그램/강의는 다음과 같은 사항을 통합하여 갱신될 수 있다.

■ AI 문해성 – 디지털 문해성 및 기술의 일환으로 포함시킨다

■ AI 윤리

■ 핵심 AI 역량과 기술

직원 교육을 통해 직원들이 챗봇/AI 도구가 제공하는 것을 모방하는 것이 아니라 학생과 기타 관계자들에게 제공하는 서비스를 개선하고 기술을 통해 효능감을 높일 수 있다.

학과, 기관 또는 외부의 지식공동체 차원에서 교직원들이 관련 역량을 높이고, 교육과 연구에서 챗GPT이용하는 방법에 관한 우수 사례를 공유할 수 있는 동료 지원 및 멘토링 프로그램을 실시할 수 있다.

UNESCO-IESALC는 사회적 및 협력적 학습 공동체인 캠퍼스 IESALC를 통해 이 지침서의 인터액티브 버전을 제공할 예정이다. 또한 장시간에 걸쳐 진행되는 AI와 고등교육에 관한 강의도 구상 중이다. 이러한 강의들은 고등교육 분야에서의 챗GPT와 AI 이용 역량을 강화하기 위한 것이다.

AI 감사

고등교육에서의 AI 감사 단계: 1. 이해한다 / 2. 결정한다 / 3. 모니터링한다

현재 기관에서 챗GPT와 같은 AI를 이용하고 있거나 그렇지 않거나 간에 AI 감사19)를 실시하는 것은 현 상황을 평가하고 기관의 계획을 뒷받침하는 데 도움이 되는 중요한 단계이다.

이 감사는 기관의 운영기구가 모든 학술, 행정 및 IT 부서 그리고 학생들과의 폭넓은 자문을 거쳐 실시할 것을 제안한다. 기관은 추가적으로 지역사회 구성원, 연구 협력기관, 학생들의 가족 등 기관의 다른 주요 관계자들의 자문을 거칠 수도 있다.

1. 현 상황을 이해한다

■ 데이터 기반의 AI란 무엇인가?

■ 디지털 기술은 이 기관의 기능을 어떻게 뒷받침할 수 있는가?

■ 기술이 AI에 기반하고 있다면

▶ 그 기술은 어떠한 데이터를 수집하는가?

▶ 그 데이터 프로세싱은 어떻게 작동하는가?

■ 기관 차원에서 현재 어떠한 정책이나 규제를 가지고 있는가?

▶ AI의 이용과 관련하여

▶ 개인정보 및 데이터 보호와 관련하여

▶ 관련 영역(예: 표절, 안전장치)과 관련하여

■ 현재 기관에서 어떤 유형의 AI를 이용하고 있는가?

▶ 어느 기능 또는 단위에서 이용하고 있는가?

▶ 모든 관계자(교직원, 학생)가 그러한 도구를 이용할 수 있는가?

▶ 관련 교육과 지원은 어떻게 제공되고 있는가?

2. 어떠한 AI를 이용할 지 결정한다

■ 어느 영역이 AI로부터 도움을 받을 수 있는가? (예: 학생 서비스, 평가, 연구)

■ 어떠한 AI 기술을 선택할 수 있는가?

▶ 선택 기준은 무엇인가?

▶ 이 기술을 통해 얻을 수 있는 부가가치는 무엇인가?

▶ 데이터는 어떻게 보호할 수 있는가?

■ 오픈 소스/액세스 AI 도구와 상업용 AI 도구에 대한 기관의 입장은 무엇인가?

■ 기관은 어떻게 장애인 접근성 요소가 반영되도록 할 것인가?

3. 성능과 평등성을 모니터링한다

■ 기관의 필요라는 측면에서 해당 AI 기술은 얼마나 효과적인가?

▶ 효과성을 측정하는 기준은 무엇인가?

■ 수집된 데이터를 기관이 이용할 수 있는가?

▶ 어떻게 이용할 수 있는가?

▶ 얼마나 자주 데이터를 수집하는가?

■ AI 기술은 평등성 문제를 어느 정도나 해결하고 있는가?

▶ 그것을 어떻게 측정하는가?

관련 자료 및 추가 정보

Campus IESALC: https://campus.iesalc.unesco.org/

UNESCO (2021) Recommendation on the Ethics of Artificial Intelligence. https://unesdoc.unesco.org/ark:/48223/pf0000381137에서 볼 수 있다.

UNESCO (2021) AI and education: Guidance for policy-makers. https://unesdoc.unesco.org/ark:/48223/ pf0000376709에서 볼 수 있다.

UNESCO World Commission on the Ethics of Scientific Knowledge and Technology (2019). Preliminary Study on the Ethics of Artificial Intelligence. https://unesdoc.unesco.org/ark:/48223/pf0000367823에서 볼 수 있다.

(원문출처)

https://www.iesalc.unesco.org/wp-content/uploads/2023/04/ChatGPT-and-Artificial-Intelligence-in-higher-education-Quick-Start-guide_EN_FINAL.pdf

---

1) https://www.sciencefocus.com/future-technology/gpt-3/

2) 거의 모든 것: 챗GPT는 다른 사람의 권리를 침해하거나, 차별을 강화하거나, 공격적이거나, 고의적으로 허위 정보를 유포하는 등의 부적절한 요청은 거부하도록 훈련되었다. 훈련이 잘 되어 있기는 하지만 완벽하지는 않다.

3) https://www.timeshighereducation.com/news/gpt-4s-launch-another-step-change-ai-and-higher-education

4) 프롬프트의 더 많은 예시를 보려면 다음을 참고한다: Atlas, S. (2023) ‘ChatGPT for Higher Education and Professional Development: A Guide to Conversational AI’, College of Business Faculty Publications [사전 인쇄본]. https://digitalcommons.uri.edu/cba_facpubs/548에서 볼 수 있다.

5) 이 순서도는 인공지능 및 데이터 정책 전문변호사인 알렉산드르 튤카노프(Aleksandr Tiulkanov, 2023년 1월)가 만든 것이다.

6) 이 표에 나열된 AI의 역할과 설명은 영국 개방대학교(Open University) 교육공학과의 마이크 샤플스(Mike Sharples) 명예교수가 고안한 것으로, 저자의 허락 하에 게재한 것이다. 구현 예시는 유네스코 IESALC가 고안했으며, 또한 네덜란드의 교육 컨설턴트인 로널드 크누스트 그라이첸(Ronald Knust Graichen)이 https://eduteka.icesi.edu.co/articulos/KNUST-como-usar-chatGPT-en-el-aula에서 제안한 내용을 참조하였다.

7) Srivastava, M. (2023) ‘A day in the life of ChatGPT as an academic reviewer: Investigating the potential of large language model for scientific literature review’. OSF Preprints. https://doi.org/10.31219/osf.io/wydct에서 볼 수 있다.

8) 일례로, https://www.scientificamerican.com/article/we-asked-gpt-3-to-write-an-academic-paper-about-itself-mdash-then-we-tried-to-get-it- published/.

9) Stokel-Walker, C. (2023) ‘ChatGPT listed as author on research papers: many scientists disapprove’, Nature, 613(7945), pp. 620–621. https://doi.org/10.1038/d41586-023-00107-z에서 볼 수 있다.

10) 이 지침서를 작성할 당시, 챗GPT는 중국과 이란, 북한, 러시아에서 금지되어 있었다. 또한 32개의 다른 국가에서도 금지되어 있다. https://www.bbc.com/news/technology-65139406 와 https://www.wepc.com/tips/what-countries-is-chat-gpt-unavailable/를 참조한다.

11) 또한 Sullivan, M., Kelly, A. and McLaughlan, P. (2023) ‘ChatGPT in higher education: Considerations for academic integrity and student learning’, Journal of Applied Learning and Teaching, 6(1)를 참조한다. https://doi.org/10.37074/jalt.2023.6.1.17에서 볼 수 있다.

12) https://futureoflife.org/open-letter/pause-giant-ai-experiments/

13) https://www.bbc.com/news/technology-65139406

14) 또한 https://code.intef.es/noticias/chatgpt-un-riesgo-o-una-oportunidad-para-el-sector-educativo/ 및 https://www.cbsnews.com/news/chatgpt- large-language-model-bias-60-minutes-2023-03-05/을 참조한다.

15) UNESCO IESALC (2021) Women in higher education: has the female advantage put an end to gender inequalities? https://unesdoc. unesco.org/ark:/48223/pf0000377182; https://oecd.ai/en/wonk/closing-the-gender-gap에서 볼 수 있다.

16) 이러한 제안 중 일부는 고등교육기관들이 이미 발표한 지침에서 차용한 것이다. 한 예로 http://www.rochester.edu/college/honesty/ assets/pdf/chatgpt-ai-guidance-for-instructors.pdf를 들 수 있다.

17) 예를 들어, https://conecta.tec.mx/es/noticias/nacional/institucion/tec-de-monterrey-recomienda-su-comunidad-uso-inteligente-de-chatgpt

18) https://www.timeshighereducation.com/depth/chatgpt-revolution-academic-research-has-begun

19) 이 감사는 브라질대학교(University of Brasília) 개방형 및 원격교육 유네스코 의장 사무실(UNESCO Chair in Open and Distance Education) 연구원 겸 에듀카디지털(Educadigital)의 공동설립자이자 소장인 프리실라 곤잘레스(Priscila Gonsales)가 고안한 ‘교육에서의 AI 감사(AI Audit in Education)’를 저자의 허락 하에 차용한 것이다.