프로그램명 설명 가능한 AI 학교급 중학교 차시 3 / 3 차시
학습목표 설명가능한 AI 체험을 통해 설명가능한 AI의 적용분야를 설명할 수 있다.
학습자료 활동지, PC, 웹캠, 마이크 또는 노트북, 스마트기기
성취기준
도덕
[9도04-02] 과학 기술이 현대인의 삶에 미치는 긍정적인 영향과 가치를 설명 하고, 동시에 과학 기술이 지닌 문제점과 한계를 열거하며, 과학 기술의 바람직한 활용 방안을 제시할 수 있다. 생활 문제의 해결 과정을 알고리즘으로 구상한다.
과학 [9과24-02] 과학을 활용하여 우리 생활을 보다 편리하게 만드는 방안을 고안하 고 그 유용성에 대해 토론할 수 있다.
사회 [9사(일사)12-03] 현대의 주요한 사회문제를 조사하고, 이에 대한 해결 방안 을 탐구한다.
정보
[9정03-01] 실생활 문제 상황에서 문제의 현재 상태, 목표 상태를 이해하고 목표 상태에 도달하기 위해 수행해야 할 작업을 분석한다.
[9정03-02] 문제 해결에 필요한 요소와 불필요한 요소를 분류한다.
[9정03-03] 논리적인 문제 해결 절차인 알고리즘의 의미와 중요성을 이해하고 실생활 문제의 해결과정을 알고리즘으로 구상한다
차시 교수·학습 내용 학습자료( )
유의점( ) 3
차시
개 별 학습
감성 적 체험
[활동 1] 설명가능한 인공지능의 개념과 오류 알기
• 설명가능한 인공지능 알기
- 설명가능한 인공지능이란 무엇인가요?
(판단에 대한 이유를 사람이 이해할 수 있는 방식으로 설명하는 인공지능 입니다.)
• 인공지능의 오류를 일으킨 예 조사
지난해 12월 아시아계 뉴질랜드인이 온라인으로 여권을 신청 했다가 사진 인식 오류로 여권발급이 거부당한 일이 발생했 다. 눈이 작은 아시아계 신청인의 눈이 감겨진 것으로 인식해 발급을 거부했지만 실제로는 눈을 뜨고 있었기 때문이다.
★ 동기유발, 욕구, 호기 심, 몰입
인공지능 오류 예 1 (눈이 작은 사람을 눈 을 감고 있다고 잘못 인식한 예)
http://www.irobotn ews.com/news/artic leView.html?idxno=
9732
모둠 학습
- 위의 사람은 왜 여권 발급을 받지 못했을까요?
( 눈을 감은 사진이라고 판단되었기 때문입니다.) - 인공지능은 왜 눈을 감고 있다고 판단하였을까요?
(인공지능이 상대적으로 눈이 큰 사람에 대한 정보를 많이 갖고 있어 눈이 작은 사람에 대해 눈을 감고 있다고 인식했기 때문입니다.)
- 어떻게 수정해 주면 좋을까요?
(눈이 작은 사람도 학습하도록 데이터를 입력해줍니다. )
미국 뉴욕에서 일하는 흑인 프로그래머 재키 앨신은 지난달 28일 트위터에 자신의 구글포토스 캡처 화면과 함께 “구글 사진, 내 친구는 고릴라가 아니야”라는 글을 올렸다.
공개된 캡처 화면에는 앨신이 흑인 여성 친구와 함께 찍은 사진 묶음의 표지에 ‘고릴라들’이라는 제목이 달려 있다. 구 글포토스 서비스가 흑인 두 명을 고릴라로 인식한 것이다.
-- 인공지능은 왜 사람을 고릴라로 판단하였을까요?
(인공지능이 상대적으로 피부가 하얀 백인에 대한 정보를 많이 갖고 있어 피부색이 진한 흑인은 고릴라로 판단하였습니다. )
인공지능 오류 예 2 (사람을 고릴라로 잘못 인식한 예)
http://www.viva100.
com/main/view.php?
key=201507020100 00337
- 두 가지 사례를 통해 인공지능이 잘못된 판단을 내리는 경우를 알 아보았습니다. 어떻게 하면 판단 오류의 횟수를 줄일 수 있을까요?
(인공지능이 왜 그런 판단을 내리게 되었는지 설명한다면 이러한 오 류의 원인을 알고 오류를 줄일 수 있을 것입니다. )
[활동 2] 설명가능한 인공지능 되어보기 1단계: 역할 나누기
- 인공지능 설계자 3~4명, 인공지능 1명 2단계: 인공지능에게 필요한 개념 정의하기 - 설계자: ㅇㅇㅇ 생김새의 특징 말로 표현하기 3단계: 인공지능을 시험하기
① 설계자: 인공지능의 개념을 평가할 사진을 준비한다. 사진 뒤에 정답을 기록한다. 대표적인 이미지 뿐 아니라 애매한 사 진도 함께 제공한다.
② 인공지능은 2단계에서 정의한 특징에 따라 사진을 분류한 다. 이때 사진을 이유를 말하면서 사진을 분류한다. 사진의 뒷면은 보지 않는다.
4단계: 오류 수정하기
① 설계자: 인공지능이 분류한 사진의 뒷면을 확인하며 오판 한 사진을 찾아 이유를 분석한다.
② 설계자: 다시 개념을 수정하고 사진을 추가로 제공한다.
5단계: 인공지능 동작하기
① 인공지능은 4단계에서 수정한 특징에 따라 사진을 분류한 다. 이때 사진을 이유를 말하면서 사진을 분류한다.
② 인공지능이 분류한 사진의 뒷면을 확인한다.
[활동3] 설명가능한 인공지능
- 설명가능한 인공지능에 대해 알게 된 점은 무엇인가요?
- 설명가능한 인공지능이 개발되지 않았을 때 인공지능을 도입하 기 어려운 분야는 어떤 것이 있을까요?
인공지능역할을 맡 은 학생이 어떤 개념을 학습하는지 미리 알지 못하도록 차단한다.
사진, 종이, 펜
학생들이 다양한 의견을 제시할 수 있도 록 허용적인 분위기를 조성한다.