원리 이해하기
1. 자율주행 자동차와 트롤리 딜레마
1-1. 트롤리 딜레마란
트롤리 딜레마에 대해 들어본 적 있나요? 트롤리란 흔히 ‘광차’로 번역되는데, 광차는 광산 등 공사 현장에서 모 래 등을 수송하던 열차입니다. 트롤리 딜레마는 대표적인 윤리적 딜레마 예시로, 트롤리가 사고를 피할 수 없는 상황에 처했을 때 어떤 선택을 하는 것이 옳은지를 묻는 문제입니다. 다음 상황을 보고, 여러분이라면 어떤 선택 을 할지 생각해봅시다.
< 상황 >
당신은 트롤리의 방향을 조종할 수 있는 기관사입니다. 트롤리가 매우 빠른 속도로 질주하고 있는데, 열차가 가 는 방향 앞에 다섯 명의 사람들이 철로를 점검하는 작업을 하고 있습니다. 속도가 너무 빠르기 때문에 브레이크를 잡아도 제때 멈출 수 없고, 다섯 명의 사람들과 충돌할 수밖에 없는 절박한 상황이 되었습니다.
그런데 이때 다른 방향으로 갈라진 철로에는 한 명의 사람이 일하고 있습니다. 당신은 열차가 달리는 방향을 조종 할 수 있습니다. 당신은 열차를 지금 방향 그대로 가게 유지할 것인가요? 아니면 직접 장치를 조종해 방향을 바꿀 것인가요?
원리 이해하기
변환기를 당겨야 하나 말아야 하나...
◆ 여러분이라면 어떤 선택을 하실 건가요?
◆ 그 이유는 무엇인가요?
원리 이해하기
학생용 워크시트 – 4. 인공지능의 책임성
학생용 워크시트 – 4. 인공지능의 책임성
1-2. 자율주행 자동차와 트롤리 딜레마
트롤리 딜레마를 자율주행 자동차와 관련지어 생각해볼 수 있습니다. 자율주행 자동차가 피할 수 없는 사고를 마주했을 때, 트롤리 딜레마와 같은 상황에서 어떤 선택을 하는 것이 옳을까요? 다양한 윤리적 딜레마 상황을 체험해보고, 각각의 상황에서 자신이 판단한 결과를 아래 표에 기록해봅시다.
기준 나의 결과
가장많이 살려준 캐릭터 가장 많이 희생된 캐릭터
희생자 숫자의 중요도
(숫자가 많은 쪽을 살려야 한다고 생각 하는 정도)
승객 보호 선호도
(자율주행 자동차에 탑승 중인 승객을 보호해야 한다고 생각하는 정도)
법규 준수 여부의 선호도
(신호를 지키는 사람을 살려야 한다고 생각하는 정도)
개입에 대한 회피 선호도
(자율주행 자동차가 가고 있는 방향을 직접 바꾸는 것을 피하는 정도)
성별 선호도
종에 대한 선호도
연령 선호도
체력 선호도
사회적 가치관 선호도
(범죄자가 아닌 사람을 구해야 한다고 생각하는 정도)
원리 이해하기
중요하지 않음 매우 중요함
중요하지 않음 매우 중요함
중요하지 않음 매우 중요함
중요하지 않음 매우 중요함
남성 여성
인간 애완동물
젊은이 노인
건강인 비만인
높음 낮음
1-3. 생각 나누기
◎ 모둠원과 결과를 비교해보고, 모둠원이 가장 많이 살려준 캐릭터와 가장 많이 희생된 캐릭터를 적어 봅시다.
◆ 모둠원이 선택한 가장 많이 살려준 캐릭터는 무엇인가요?
◆ 모둠원이 선택한 가장 많이 희생된 캐릭터는 무엇인가요?
◆ 나의 선택과 모둠원의 선택을 비교해보고, 비슷한 점과 다른 점에 대해 이야기해봅시다.
원리 이해하기
학생용 워크시트 – 4. 인공지능의 책임성
학생용 워크시트 – 4. 인공지능의 책임성
원리 이해하기
◎ 모둠원과 결과를 비교해보고, 모둠원끼리 가장 결과가 비슷했던 항목(기준)과 가장 결과가 다르게 나온 항목(기준)을 적어봅시다.
◆ 모둠원끼리 가장 결과가 비슷한 항목(기준)은 무엇인가요?
예) 종에 대한 선호도
◆ 모둠원끼리 가장 결과가 다르게 나온 항목(기준)은 무엇인가요?
예) 승객 보호 선호도
◆ 모둠원과의 결과를 비교해보고 알게 된 점을 이야기해봅시다.
원리 이해하기
◎ 다음 동영상을 보고, 물음에 답해봅시다.
◆ 자율주행 자동차에게 윤리적 딜레마 문제가 발생했을 때 자율주행 자동차의 선택을 결정하기 위한 기준을 어 떻게 정해야 할까요?
◆ 이와 같이 인공지능 기술과 관련된 윤리적 딜레마 상황에 대해 미리 생각해보고 이야기를 나누는 일은 왜 중요 할까요?
https://youtu.be/ixIoDYVfKA0
학생용 워크시트 – 4. 인공지능의 책임성
학생용 워크시트 – 4. 인공지능의 책임성
자율주행 자동차의 트롤리 딜레마 상황에서 누구를 구할 것인가에 대한 의견은 국가마다 크게 다르고, 문화나 경제와도 깊은 연관이 있다고 합니다. 예를 들어, 한국이나 중국 같은 노약자를 존중하는 문화권에서는 젊은이보 다 노약자를 살리는 선택을 하는 경향이 있었습니다.
이처럼, 인공지능과 관련된 딜레마 문제는 사람마다, 그리고 국가나 문화권마다 생각하는 정답이 모두 다릅니 다. 따라서 이러한 문제에 대한 대처 방안은 인공지능을 만드는 개발자나 사용하는 사용자 등 적은 수의 사람이 결정해서는 안 되고, 많은 사람이 사회적인 기준을 합의해서 결정해야 할 필요가 있습니다. 여러분 역시 인공지 능 시대를 살아갈 사람들로서, 이러한 문제에 대해 미리 생각해보는 것은 매우 가치 있는 일이라고 할 수 있습니 다.
원리 이해하기
< 젊은이와 노약자를 살리겠다고 선택한 비율 >