인공지능 윤리교육 현황

인공지능 기술이 발전함에 따라 사회적으로 인공지능 소양과 컴퓨팅 사고력의 함양에 관심이 커지고 있으며 더불어 인공지능 윤리의 중요성도 부각 되고 있다.

인공지능 윤리역량은 인공지능을 활용하는 시민이나 인공지능 관련 정책을 만드는 사람들, 인공지능 비전문가이지만 인공지능을 활용하고 인공지능에 의해 이득 혹은 피해를 보는 사회의 구성원들을 위한 역량이다[14]. 즉, 인공지능 기술이나 서비스 를 경험하면서 살아가고 있는 모든 사람에게 필요한 역량이다. 따라서, 국내외에서 이루어지고 있는 인공지능 윤리교육 현황을 분석하고자 한다.

가) 국내 인공지능 윤리교육 현황

우리나라 교육부는 2020년 인공지능 교육 길라잡이를 통해 ‘초중고 인공지능 교 육 내용 기준’을 발표하였다. 인공지능 윤리와 관련된 내용은 ‘인공지능의 사회적 영향’ 영역이 포함되어 있다[15]. <표 Ⅱ-13>과같이 학교급에 따라 ‘인공지능 영향 력’, ‘인공지능 윤리’가 세부 영역과 내용 요소로 나뉘어 있다.

Ÿ 인공지능과 관련된 윤리적 딜레마 상황에 대해 논의하기

Ÿ

가치·태 도

Ÿ 진로 및 직업 관점에서 인공지능의 중요성 인식

Ÿ 인공지능의 다양한 측면에 대한 비판적 자세와 윤리적 태도

인 공 지 능 프 로 젝 트

핵심 아이디어

Ÿ 인공지능은 다양한 분야와 융합하여 새로운 가치를 창출하는 데 도움을 준다.

Ÿ 인공지능은 지속가능발전목표를 달성하는 데 도움을 준다.

지식·이 해

Ÿ 인공지능과 지속가능발전목표 Ÿ 인공지능 문제해결 절차

Ÿ

과정·기 능

Ÿ 인공지능 프로젝트 주제 탐색하기 Ÿ 인공지능 프로젝트 수행 계획 구안하기

Ÿ 인공지능 소프트웨어 개발 및 평가 방법 설정하기

Ÿ

가치·태 도

Ÿ 인류의 지속 가능한 발전에서 인공지능의 중요성 및 가치를 판단하는 태도

Ÿ 인공지능 프로젝트를 수행하는 과정에서 협력적으로 문제를 해결하는 자세

Ÿ 프로젝트를 수행하는 과정에서 윤리 문제 등 사회적 영향 인식

고등학교는 2015 개정 교육과정의 부분 개정으로 ‘인공지능 기초’ 과목이 처음 만들어져 2020년에 시행되었다[16]. 인공지능의 사회적 영향 영역의 성취기준은 인공지능 사회의 구성원으로서 갖추어야 할 인공지능 윤리 의식, 가치 판단 능력을 함양하는 데 중점을 두도록 설정되었다. 이 영역에서는 인공지능의 사회적 가치와 영향력을 인식하고 새롭게 고려해야 할 윤리적 쟁점에 대한 충분한 사회적 논의의 과정이 필요하다는 것을 이해하도록 하였다. 또한, 지능정보사회의 구성원으로서 사회적 책임과 공정성을 함양하고 실천하도록 하고 있다. <표 Ⅱ-14>는 인공지능 의 사회적 영향 영역에 대한 성취기준이다.

학교급 세부 영역 및 내용 요소

초등1~4학년 인공지능 영향력 우리에게 도움을 주는 인공지능

초등5~6학년 인공지능 영향력 인공지능과 함께하는 삶

인공지능 윤리 인공지능의 올바른 사용

중학교 인공지능 영향력 인공지능과 나의 직업

인공지능 윤리 인공지능의 오남용 예방

고등학교 기초

인공지능 영향력 사회적 문제 해결

데이터 편향성

인공지능 윤리 윤리적 딜레마

사회적 책임과 공정성

고등학교 심화

인공지능 영향력

인공지능과 공존 알고리즘 편향성

인공지능 윤리 인공지능 개발자 윤리

인공지능 도입자 윤리

<표 Ⅱ-13> 초중등 인공지능 윤리교육 내용 요소[15]

1. 사회적 문제 해결 (12인가 04-01)

인공지능이 미래사회에서 해결하게 될 여러 가지 사회적 문 제를 예측하고 인공지능의 역할을 제시한다.

2. 데이터 편향성 (12인가 04-02)

축적된 데이터의 질과 양, 인간의 편향적 성향이 인공지능의 수 행 결과에 미치는 영향을 탐색하고, 올바른 데이터 활용의 중요 성을 인식한다.

<표 Ⅱ-14> 고등 인공지능 기초 – 인공지능의 사회적 영향 영역의 성취기준[16]

교육부와 한국과학창의재단에서 제시한 교과서와 교재 외에도 네이버 커넥트 재 단이 발행한 ‘소프트웨어야 놀자’라는 이름으로 인공지능 윤리 교재 시리즈를 제공 하고 있다. 교재는 인공지능 신뢰성, 편향성, 악용 가능성, 책임성 총 4권으로 구 성되어 있으며 <표 Ⅱ-15>는 인공지능 윤리 교재 시리즈의 권별 구성이다[17]. 인 공지능 윤리를 중심으로 구성된 교재임을 살펴볼 수 있다.

교재 명 내용 요소 소재 윤리기준

인공지능의 신뢰성

Ÿ 데이터 기반 인공지능 Ÿ 인공지능 모델의 정확도 Ÿ 인공지능의 정확도 확인하기 Ÿ 인공지능의 정확도 높이기

Ÿ 인공지능의 신뢰성과 사회적 영향

엔트리 프로그램으로 실습하기

데이터 관리 투명성

인공지능의 편향성

Ÿ 데이터 편향성

Ÿ 고인돌과 바위 구분하는 인공지능 만들기

Ÿ 학 급 회 장 을 선 출 하 는 인 공 지 능 만 들 기

Ÿ 인공지능의 편향성과 사회적 영향

엔트리 프로그램으로 실습하기

(고인돌과 바위 나누 기, 고양이와 표범 구 분하기)

데이터 관리 투명성 다양성 존중

인공지능의 악용 가능성

Ÿ 생성하는 인공지능

Ÿ 생성하는 인공지능 체험하기

Ÿ 인공지능의 악용 가능성과 사회적 영향

클로버 보이스, 바흐두들 편곡 프로그램 체험하기

침해 금지 안전성

인공지능의 책임성

Ÿ 인공지능과 윤리적 딜레마

Ÿ 사회적 합의와 인공 지능 활 용의 책임성

자율주행차 윤리적 딜레마

공공성 책임성 다양성 존중

<표 Ⅱ-15> 소프트웨어야 놀자 AI 윤리 교육 시리즈 세부 내용[17]

3. 윤리적 딜레마 (12인가 04-03)

인공지능 사회에서 고려해야 할 윤리적 딜레마에 대한 충분한 사회적 논의의 필요성을 인식한다.

4. 사회적 책임과 공공 성

(12인가 04-04)

인공지능 사회의 구성원으로서 인공지능 윤리의 중요성을 인식 하고 사회적 책임감을 느끼고 공정성을 추구하는 방안을 제시 한다.

이외에도 인공지능 윤리교육의 필요성을 강조한 인공지능 윤리교육 프로그램에 대한 연구가 2020년 이후 꾸준히 이루어지고 있다.

김태창 외(2021)는 “AI 역량은 AI를 개발하고 활용하기 위한 AI 전문가 역량과 AI를 사회에서 윤리적으로 올바르게 활용하기 위한 AI 윤리 역량으로 이루어져 있 다. 아직 완전한 AI 시대가 온 것은 아니지만 앞으로 우리에게 끼칠 영향을 생각 한다면 올바른 AI의 활용을 교육하는 것은 꼭 필요한 일이다. AI 시대에 기술의 혁신과 변화는 막을 수 없고 그 부작용 역시 완전히 막을 수 없을 것이다. 이런 상황에서 AI 윤리교육을 교육과정에 적용해 모든 국민을 대상으로 미리 가르치는 것은 매우 중요한 일이다.”라고 하였다[18].

김효은(2020)은 “인공지능의 윤리적 쟁점은 인공지능이라는 도구와도 관련되지만, 인공지능이 학습 재료로 삼는 데이터와도 깊게 관련된다. 인공지능이 자율적으로 의사 결정을 해도 이때 사용하는 데이터는 인간이 제공하는 것으로 인간의 한계, 인간사회의 편견과 편향을 그대로 반영할 수밖에 없다. 따라서, 데이터를 수집, 분 류, 선정하는 단계에서 이미 윤리적 시각이 핵심적 요소가 된다.”라고 하였다[19].

김지언 외(2021)는 ‘초등학생 인공지능 윤리교육을 위한 STEAM 프로그램 개발’

연구에서 윤리 항목을 선정하고 윤리 항목과 교육과정의 관련성을 분석하였다[20].

인공지능 시대의 학생들이 ‘윤리적인 인공지능 개발자’이면서 ‘현명한 인공지능 사 용자’로 성장하는 데 목표를 두고 인공지능 윤리교육을 위한 STEAM 프로그램을 개발하고 학생들에게 적용하였다. 프로그램을 통해 초등학생에게 인공지능 윤리에 대한 이론적 바탕과 다양한 활동을 제공하고, 교사에게 현장에서 바로 활용할 수 있는 교수학습 과정 안과 활동지를 제공하였다.

이예솔(2022)은 ‘경험학습 기반의 인공지능 윤리 학습 모델을 적용한 인공지능 교육 프로그램’ 연구에서 인공지능 윤리 교육에 필요한 교육 주제와 교육내용 요소 들을 선정하여 중학생 대상의 인공지능 윤리교육 프로그램을 개발하였다[21]. 개발 된 프로그램의 목표는 첫째, 인공지능 개발자와 사용자들에게 안전과 보안, 투명성 과 설명 가능성, 인적 가치 증진이 필요함을 이해한다. 둘째, 인공지능 기술이 미 치는 사회적 영향과 관련된 윤리적 이슈를 파악하고 이에 대해 윤리 가이드라인을 정립할 수 있다. 셋째, 모둠 프로젝트 활동을 통해, 주어진 문제를 해결하는 다양 한 방법을 분석하고 종합하여 협동심을 기를 수 있다. 이러한 목표는 “학생들에게

인공지능 역기능을 체험하여 잘못된 점을 파악하고 인공지능 윤리 의식을 내면화 하여 올바르게 인공지능 기술을 활용할 수 있을 것이다.”라고 하였다[21].

공은주(2022)는 소설 ‘아이로봇’을 읽고 노벨 엔지니어링(novel engineering) 활 동에서 인공지능 윤리교육을 진행하였다[22]. 노벨 엔지니어링은 소설을 뜻하는

‘novel’과 공학을 뜻하는 ‘engineering’이 합쳐진 융합교육법으로, 학습자는 책과 같은 이야기를 읽고 주인공의 문제 상황을 인식하여 코딩을 통해 해결책을 고안하 는 수업 방법이다. 문제 인식 단계에서는 등장인물이 겪는 인공지능 관련 도덕적 딜레마 문제를 발견하고 인식한다. 문제 범위 지정 단계에서는 딜레마 상황에서 인 공지능 로봇이 물에 빠진 사람 중 살릴 수 있는 한 사람을 결정하기 위해 고려해 야 할 요소를 식별한다. 학습자는 소설 속의 딜레마 상황에서 인공지능 윤리에 대 해 생각해보는 활동을 한다. 해결책 디자인 단계에서는 학생이 생각해본 판단 근거 에 따른 데이터 세트를 만들고 판단 기준에 따른 가중치를 결정하는 등의 활동을 통해 인공지능 윤리교육을 진행하였다[22].

나) 해외 인공지능 윤리교육 현황

해외 주요국에서도 인공지능 교육뿐만 아니라 인공지능 윤리를 강조하고 있고, 교육기관·민관 기관·기업이 함께 인공지능 윤리교육 프로그램을 개발 및 개설하고 있다. 미국의 경우 AI4K12는 인공지능의 5가지 빅아이디어를 통해 인공지능이 가 져올 사회적 영향(Social Impact) 내용을 포함하여 인공지능 윤리의 중요성을 강 조하고 있으며[8], MIT Media Lab과 몬투어 교육청은 독립적인 인공지능 윤리 과목인 ‘디자인(AI 설계)과 가치(AI 윤리)’를 필수 과목으로 지정하고 있다[23].

MIT 공대는 중학생 대상의 인공지능 윤리교육인 ‘모두를 위한 인공지능’ 과목도 개설하였고 하버드대학교는 컴퓨터과학 전공자에게 윤리 문제를 교육하고 있다 [24]. AI4ALL은 ‘AI & Ethics Teaching Guide’에서 수학·프로그래밍·윤리학의 경험이 없어도 인공지능 윤리교육이 가능한 교육과정을 마련하였다[25].

캐나다의 ‘ACTUA AI 교육 안내서’에는 인공지능과 인공지능 윤리를 리터러시 로 간주하고 전 과목, 전 교과에서 인공지능 윤리를 반영하고 있다[26]. 교육과 정은 도입, AI 교육을 위한 체계, AI의 초중고 수업 적용, 추가 자원의 4개 부분 으로 구성되어 있으며 ‘AI 교육을 위한 체계’ 부분에서는 초중고 수업을 위해

AI 교육을 어떻게 구성해야 하는지에 대한 안내를 제공하며 ‘사회적 영향’이라는 주제에서 인공지능 윤리 문제를 언급하고 있다. 특히, ‘Actua’s AI Education Project’에서 10개의 프로젝트 활동을 제공하고 8번째 단계에서 ‘Ethics in AI:

Don’t let DANN turn evil!’ 주제로 60분짜리 활동이 제공된다.

핀란드는 헬싱키 대학(University of Helsinki)과 기술 자문회사 레악또르 (Reaktor)가 만든 인공지능을 주제로 한 무료 온라인 강좌를 2018년부터 운영 하고 있다[11]. Introduction to AI, Building AI 두 개의 파트로 운영하고 있으 며, ‘Introduction to AI’의 AI의 사회적 영향 단원에서 알고리즘 편향, 신뢰성, 개인정보 보호 개념의 변화, 직업의 변화와 같은 사회적 영향력에 관한 내용을 언급하고 있다.

영국은 인공지능 사용자로서 갖추어야 할 역량과 윤리 의식을 교육하고 있다 [27]. 인공지능에 대한 직접적인 교육보다는 컴퓨터 활용이라는 교과에 포함되 어, AI를 교육 보조 도구로 활용하는 방안에 집중하고 있다. ‘모든 사람의 AI와 데이터 문해력 향상’의 필요성을 강조하고는 있지만, AI 기술보다는 AI 관련 제 품을 사용함을 인식하고 자신감 있는 사용자가 되는 데 필요한 지식을 갖추는 것을 목표로 하고 있다. 이처럼 국내외 인공지능 윤리교육 연구는 꾸준히 이어 지고 있지만, 대부분의 연구가 인공지능 교육과 인공지능 윤리가 별도의 영역으 로 구성되어 있다,

다) 인공지능 윤리원칙

우리나라에서 제시한 인공지능 윤리원칙을 기준으로 교육 현황을 살펴보면 특 정 윤리 요소의 개념을 학습하거나 지식 전달에 중점을 둔 교육이 주를 이루고 있다. 국가 주도하에 인공지능 윤리교육을 위한 인공지능 윤리 요소의 선정이 이 루어졌고, 선정된 윤리 요소를 기준으로 인공지능 교육을 진행하는 것을 알 수 있다. 본 연구에서도 <표 Ⅱ-16>과 같이 국가 차원에서 제시된 인공지능 윤리기 준 및 윤리원칙 문서를 기준으로 윤리 요소 분석을 진행하였다.

2020년에 발표한 ‘사람이 중심이 되는 인공지능(AI) 윤리기준’ 보고서의 주요 내 용은 인간성을 위한 인공지능을 위해 고려해야 할 3대 기본원칙과 3대 기본원칙을 실현하기 위한 세부적인 10대 핵심요건을 포함하고 있다[28]. 제시된 인공지능 윤