주제 05 인간이 제어하는 자율주행자동차의 윤리적 기준
1. 독일 자율주행차 윤리 가이드라인의 의미와 이슈
독일 정부는 지난 8월 23일 세계에서 처음으로 자율주행차 윤리 가이드라인을 발표했다. 이는 현재 개발하거나 실험 중인 많은 완전 자율주행 또는 일부 자동화되는 자동차의 경우에도 여전히 사고의 위험성이 존재하기 때문에 고도의 자율주행 시스템을 위한 소프트웨어 개발에서 본질적인 의사결정이 필요한 경우를 가정하고 있다.
제1항 (부분 또는 완전) 자율주행차는 모든 도로 사용자의 안전을 최우선으로 해야 한다고 선언한다.
제2항 특히 모든 개인에 대한 보호는 어떤 공리주의적 고려 대상이 될 수 없음을 명시하고 있다.
제3항 도로나 교통의 공공성을 상기하면서 모든 자율주행차나 커넥티드 카가 안전하게 운행되는 것을 공 공 섹터가 책임져야 하며, 그런 측면에서 라이선싱과 모니터링이 이루어져한다는 것을 밝힌다.
제4항 우리 사회가 개인의 자유로운 선택과 책임, 보호에 대해 갖고 있는 원칙을 언급하면서 기술이 법에 명시되어 구현될 때는 개인 선택의 자유와 타인의 자유와 안전이 균형을 이루어야 함을 언급한다.
제5항 자율주행이 실제적으로 사고를 예방해야 하며 처음부터 위중한 상황이 발생하지 않도록 디자인되어 야 함을 강조하지만, 어떤 딜레마적인 상황이 발생할 수 있음을 인정한다.
제6항 기술이 활용되기 위해서는 가능한 피해 최소화 기술을 모두 드러낼 수 있을 때 사회적으로나 윤리 적으로 권한 위임이 될 수 있을 것이며, 피할 수 없는 사고가 단지 기술 명령어 때문에 비롯된 것이라고 한다면 윤리적으로 문제가 제기될 수 있음을 말한다.
제7항 어떤 상황에서도 인간의 목숨이 최상위에 놓여야 하며, 이는 동물이나 재산 피해가 나더라도 개인 의 부상을 피하도록 프로그램되어야 한다는 것을 제시하면서 인간의 안전과 목숨이 그 어떤 것보다 상위 의 가치를 갖고 있음을 선언한다.
제8항 우리가 그동안 논의해 왔던 사회윤리 딜레마의 경우를 언급하는데, 실제 상황에서나 예견할 수 없 는 행위를 통해 사람의 생명이 선택될 수 없음을 명시한다.
제9항 다시 피할 수 없는 사고에서 개인의 특성(나이, 성별, 물리적, 정신적 차이)을 기반으로 어떤 차별적 판단과 다른 사람의 희생을 제안해서는 절대로 안 된다는 금지 사항을 언급한다.
제10항 사고의 책무는 운전자에서 생산자, 기술 시스템 운영자, 인프라와 정책, 법률 결정을 위한 기관에 서 이동하는 것이기 때문에 앞으로 법원이 이런 변화를 충분히 반영해야 함을 지적한다.
제11항 자율주행에 따른 손실의 책임은 다른 제조물 책임과 같이 원리로 이루어져야 한다고 제시한다.
제12항 새로운 기술과 그 채택은 공개적으로 투명하게 이루어져야 하고, 독립적인 전문가 그룹에 의해 리 뷰 받고 공개적으로 소통되어야 함을 선언한다.
제13항 철도나 비행기와는 다르게 도로의 모든 차를 연결하거나 중앙 통제에 놓는 것이 현재 가능하지 않 으며, 이런 것이 현존하는 디지털 인프라 안에서 차량에 대한 감시나 조작이 안전하게 이루어질 수 있는가 에 대해 윤리적 문제가 있음을 지적한다.
제14항 차량에 대한 공격, IT 시스템에 대한 조작이나 내부적 약점에 대한 해킹 같은 것에 도로 교통이 피 해를 받지 않아야 자율주행이 정당화될 것이고, 그래야 시민의 확신이 이루어질 수 있음을 지적한다.
제15항 마지막으로 자율주행차를 통해 생성되는 데이터의 중요성을 언급하는데, 중요하거나 중요하지 않 거나 어떤 데이터가 만들어지고 이를 사용하는 권리는 자동차 소유자나 이용자에게 전적으로 선택권이 있 으며 이를 초기부터 명확히 해야 함을 제시한다.
[한국인터넷진흥원] “독일 자율주행차 윤리 가이드라인의 의미와 이슈” (한상기, 이슈&트랜드 2017년)
인간의 제어없이 움직이는 자율주행자동차
중학교 6차시
자율주행자동차 알고리즘을 활용한 융합인재교육 프로그램 ￭ 71
● 6차시 교수 ․ 학습 과정안
학습
주제 인간의 제어없이 움직이는 자율주행자동차 차시 5/8
학습 목표
• 자율주행 기술 4-5 단계인 인간의 제어없이 움직이는 자율주행자동차의 대해 이해한다.
• 인간의 제어없이 움직이는 자율주행자동차의 미해결 쟁점을 이해하고 함께 토론한다.
• 정확한 인지 능력을 위한 다양한 상황과 센서의 기술에 대해 이해한다.
융합 준거
상황 제시 인간의 제어없이 움직이는 자율주행자동차의 기술에 대해 이해하기
창의적 설계 자율주행자동차의 미해결 쟁점에 대해 토론하기
감성적 체험 미래 기술인 완전 자율주행은 어떤 환경일까?
교수학습
자료
빔프로젝트(혹은 디지털 TV), PC, 학습지
학습
단계 교수·학습 활동 시간(분) 자료 및 유의점
도입
<상황 제시> 인간의 제어없이 움직이는 자율주행자동차의 단계에 대 해 알아보자.
<창의적 설계>
▣ 교사 활동 : 4-5 단계에 대해 설명하고 인간이 제어하는 자율주행 자동차와 인간의 제어없이 움직이는 자율주행자동차의 차이점에 대해 학습할 수 있도록 한다.
- 학생들은 인간의 제어없이 움직이는 자율주행자동차의 기술 단 계에 대해 이해한다.
5‘
전개
<창의적 설계>
▣ 교사 활동 : 인간의 제어없이 움직이는 자율주행자동차의 미해결 쟁점에 대한 사례를 통해 이해할 수 있도록 한다.
- 학생들은 선생님이 제시하시는 미해결 쟁점 외 다른 상황에 대 해 생각하고 친구들과 함께 토론한다.
▣ 교사 활동 : 정확한 인지 능력을 위한 완전 자율주행 기술에 사용 되는 센서와 그 역할에 대해 이해할 수 있도록 한다.
- 학생들은 센서의 기술이나 새로운 기능의 센서에 대해 이해하 고 완전 자율주행자동차가 움직이는 환경에 대해 생각한다.
7‘
5‘
72 ￭ 2018 중학교 자유학기용 프로그램[교사용]
학습
단계 교수·학습 활동 시간(분) 자료 및 유의점
정리
<감성적 체험>
▣ 교사 활동 : 미래 기술이 적용될 때 발생할 수 있는 상황에 다양한 상황에 대해 생각해 볼 수 있도록 한다.
- 학생들은 미래 도래할 상황에 대해 생각하고 현재의 부족한 기 술에 대해 함께 생각하고 발표한다.
10‘
자율주행자동차 알고리즘을 활용한 융합인재교육 프로그램 ￭ 73
74 ￭ 2018 중학교 자유학기용 프로그램[교사용]