A meta-study on the analysis of the limitations of modern artificial intelligence technology and humanities insight for the realization of a super-intelligent cooperative society of human and artificial intelligence

한국정보통신학회논문지 Vol. 25, No. 8: 1013~1018, Aug. 2021

인간 및 인공지능의 초지능 협력사회 실현을 위한 현대 인공지능 기술의 한계점 분석과 인문사회학적 통찰력에 대한 메타 연구

황수림¹·오하영^2*

A meta-study on the analysis of the limitations of modern artificial intelligence technology and humanities insight for the realization of a super-intelligent cooperative society of human and artificial intelligence

Su-Rim Hwang

· Hayoung Oh

1

Undergraduate Student, Philosophy, Sungkyunkwan University, Seoul, 03063 Korea

2*

Associate Professor, College of Computing & Informatics, Sungkyunkwan University, Seoul, 03063 Korea

요 약

최근 자율주행 자동차가 일으킨 사고 때문에 인공지능의 윤리적 측면에 대한 논의가 활발히 진행되고 있다. 본 논 문은 인공지능이 윤리적 요소와 필연적으로 결부되어 있음을 로봇-인공지능 윤리 관련 개념과 공학기술로부터 확인 하고 윤리적 측면이 사후적으로 발생하는 것이 아니라 내장되어 있음을 논한다. 또한, 자율주행 자동차와 관련된 윤 리적 문제의 실마리가 될 수 있는 트롤리 딜레마에 대한 해결방법을 고안한다. 우선적으로 베이지안 네트워크를 작 성하고 전처리 과정을 거쳐 중요하고 영향력 있는 데이터만 남도록 하며, 네트워크의 정확한 수치를 계산하기 위해 크라우드 소싱과 외삽법을 이용한다. 이러한 과정을 통해 알고리즘 및 모델을 구현할 때에 인간의 주관이 필연적으 로 포함될 수밖에 없음을 주장하고 인공지능 시스템에 관한 왜곡과 편향을 방지하기 위해 전공 교육과 구분되는 공 학 교양 교육, 특히 윤리 교육의 필요성과 방향에 대해 논한다.

ABSTRACT

Due to the recent accident caused by the automated vehicle, discussions on the ethical aspects of AI have been actively underway. This paper confirms that AI is inevitably connected to ethical components through the concepts and techniques related to robots-AI, and argues that ethical aspects are built-in, not post facto. Furthermore, this devises a solution to the trolley dilemma that can serve as a clue to ethical problems associated with automated vehicles. Preferentially, that process contains writing Bayesian networks. Next, only important and influential data are left after the pre-processing stage, and crowd-sourcing & extrapolation is used to calculate the exact figures of the networks. Through this process, this argues that humans’ subjects are certainly included in implementing algorithms and models and discusses the necessity and direction of engineering liberal arts, especially education of ethics that distinguished from major education to prevent distortions and biases abouts AI systems.

키워드

: 인공지능 윤리, 트롤리 딜레마, 한계점 분석, 공학교육

Keywords

: AI ethics, Trolley dilemma, Analysis of the limitations, Engineering education

Received 5 June 2021, Revised 22 June 2021, Accepted 12 July 2021

* Corresponding Author Hayoung Oh (E-mail: [email protected], Tel:+82-2-583-8585)

Associate Professor, College of Computing & Informatics, Sungkyunkwan University, Seoul, 03063 Korea

Open Access

http://doi.org/10.6109/jkiice.2021.25.8.1013

This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License(http://creativecommons.org/licenses/by-nc/3.0/)

Ⅰ. 서 론

사물인터넷, 자율주행 자동차 등 생활 전반에서 인공 지능과 관련된 기술들이 급속히 발전함에 따라 고등교 육기관을 필두로 인공지능 관련 교육이 대대적으로 선 행하고 있다. 또한, 중-고등학교, 초등학교, 심지어는 유 치원에서도 코딩조기교육 열풍이 불고 있다. 하지만 인 공지능 교육에 있어서 배제할 수 없는 것은 기술의 가치 중립성과 영향력에 대한 고찰이다. 그러한 고찰이 없다 면 기술에 결부된 제작자와 판매자, 사용자에 대한 폐단 이 필연적으로 발생할 것이며 폐단이 발생하기 전에 예 방하는 것이 중요하다. 예방하기 위해서는 강제적인

‘법’을 통해 부자연적으로 금지하는 방법보다는 필요성 과 의의를 실감하고 주체적으로 윤리적 인공지능 구현 을 하도록 교육하는 것이 효과적이다. 이 논문을 통해 필자는 트롤리 딜레마 예시를 통해 인공지능 윤리 교육 의 필요성과 방향에 대해 논할 것이다.

Ⅱ. 관련 연구

먼저 인공지능 윤리 교육을 논함에 앞서 인공지능의 정 의에 대해 살펴볼 필요가 있다. 인공지능은 인간의 정신 을 모방한 인공물로 인간 생명과 필연적으로 결부된다.

[1] 또한, 인공지능은 물리적 구현체가 필요하지 않으며 높은 자율성을 바탕으로 ‘블랙박스’ 구조를 가진다. [2] 그 러한 자율성은 직접적인 프로그래밍 없이 학습 과정을 거 치는 상향적 인공지능 구현 방법으로부터 도출된다. [3]

따라서 필연적으로 인공지능의 그러한 학습 과정에 서는 실수와 사고가 발생하고 그로부터 인공지능은 재 학습 과정을 거친다. 하지만 인공지능으로부터 발생한 사고에 대해서 인간 수준의 책임 기준을 적용할 수는 없 다. 인공지능 시스템의 작동에는 무수히 많은 기술적 요 소가 개입하는 ‘분산된(distributed) 책임’ 문제가 발생 하며 많은 인간 행위자 및 사물에 시-공간적으로 넓은 범위에 막대한 영향을 끼치는 ‘생애 주기’를 갖기 때문 이다. [4] 그러나 복잡한 책임 문제를 오직 인간에게만 한하여 다룬다면 ‘책임 공백(responsibility)’ 문제가 발 생하게 되므로 이러한 책임 문제를 해결하기 위해서는 인공지능의 ‘설명 가능성(accountability)’에 대한 연구 가 필요하다. [5] 자율주행 자동차 인공지능 시스템이

사고 상황에서 왜 그러한 판단을 도출했는지에 대한 설 명, 즉 우선순위나 가중치 등의 ‘판단 근거’를 제시해야 한다. [5] 이러한 자율주행 자동차의 설명 가능성 문제 를 해결하는 실마리가 될 수 있는 것이 바로 ‘트롤리 딜 레마(Trolley Dilemma)’이고 대표적인 다섯 가지 문제 유형은 ‘트롤리 운전자는 5인과 우회 선로의 1인 중 어 느 쪽을 선택해야 하는가?’, ‘스위치를 가진 구경꾼으로 서 5인과 1인 중 어느 쪽을 선택해야 하는가?’, ‘5인을 향해 가는 트롤리를 멈추기 위해 뚱뚱한 1인을 떨어뜨 려야 하는가?’, ‘레버를 조작할 수 있는 구경꾼으로서 5 인을 살리기 위해 뚱뚱한 1인이 묶여있는 환상선으로 레버를 돌려야 하는가?’, ‘5인으로 향하는 트롤리를 멈 추기 위해 뚱뚱한 1인을 떨어뜨리는 함정을 작동시켜야 하는가?’이다. [6] 트롤리 딜레마 상황에 대한 판단을 통 해 현실에서 자율주행 자동차 인공지능 시스템이 겪는 딜레마 상황의 판단 근거가 되는 가중치를 조정할 수 있 고 이는 사고 상황에 대한 더 나은 판단, 올바른 판단을 도출하며 그러한 판단에 대한 설명 가능성을 높여준다.

Ⅲ. 트롤리 딜레마 해결방법

트롤리 딜레마를 해결하기 위한 첫 번째 단계는 그림 1, 2처럼 베이지안 네트워크를 작성하는 것이다.

killing vs killing(K)

less people (L) more people (M)

P(M|K)> 0.5 P(L|K)< 0.5

Fig. 1 Trolley Dilemma Baysian Network 1

killing vs letting die(D)

satisfying the

‘principles of double effect’(S)

low level of contribution(C)

human means (H)

P(S|D)> 0.5 P(H|D)< 0.5

P(C|H)< P(H|D) Fig. 2 Trolley Dilemma Baysian Network 2

위 두 베이지안 네트워크에서 P(X)가 0.5보다 작거나 같으면 현재 상황을 유지, 0.5보다 크면 적극적 행동 조 치 판단이 도출된다. 그림 2의 첫 번째 베이지안 네트워 크는 죽이는 것 사이의 문제이며 두 번째 베이지안 네트 워크는 죽이는 것과 죽게 놔두는 것 사이의 문제이다.

먼저 첫 번째 베이지안 네트워크는 사람 수로 상황을 분 리한다. 그림 2는 먼저 사람을 수단으로 이용하는지의 여부를 첫 번째 분류조건으로 설정한다. 두 번째 딜레마 의 경우 혼자 묶여있는 사람이 도망친다고 가정해도 다 섯 명을 살릴 수 있는 목적이 달성되므로 사람을 수단시 하지 않는 상황이라고 할 수 있다. 하지만 그와는 달리 세, 네, 다섯 번째 딜레마는 희생되는 사람이 도망친다 면 목적을 달성할 수 없으므로 사람이 수단으로 이용되 는 경우라고 할 수 있다. 그다음 분류조건은 토마스 아 퀴나스의 ‘이중 효과의 원칙’을 만족하는지의 여부이다.

[6] 트롤리 딜레마에서, 사람을 밀쳐서 떨어뜨리면 죽을 것을 알면서 떨어뜨리는 행위는 행동 자체가 선하거나 중립적이지 못하고, 행동의 부정적 영향 즉 밀쳐진 사람 이 떨어져 트롤리를 멈추게 하는 것이 다섯 사람을 살리 는 긍정적 영향의 수단이 된다. 따라서 다섯 사람을 살 리기 위해 한 사람을 밀치는 것은 용인될 수 없다. 마지 막 조건인 행동의 기여도는 한 사람을 떨어뜨려 트롤리 를 멈추게 하는 행위에서의 적극성을 의미한다. [6] ‘이 중 효과의 원칙’를 만족할 경우 그 행동은 용인되기 때 문에 P(S|D) > 0.5이고, 적극적인 행동을 취하도록 결론 이 나온다. 이중 효과의 원칙 내에 수단시 개념이 포함 되어 있으므로 동일 선상에 인간을 수단시 하는지의 여 부를 조건으로 넣어 조건이 참이라면 P(H|D) < 0.5로 적 극적 조치가 거부된다. 마지막으로 인간을 수단시하는 행동은 거부되고 그 안에서 기여도의 차이가 동의 되지 않는 정도의 차이를 발생시키기 때문에 마지막 조건으 로 지정한다. 이 P(C|H) < P(H|D) < 0.5 식이 부등호인 이유는 그림 2와 마찬가지로 등호로 입력될 수치가 크 라우드 소싱 데이터의 자료를 입력받아 계산되어야 하 기 때문이다.

트롤리 딜레마 해결을 위해 만든 가상적 데이터는 총 21개의 변수와 5000개의 행으로 구성된다. [7] 이 중 0,1 의 이진수로 표현 가능한 특성은 ‘성별’, ‘기계와의 관련 성 여부’, ‘사이코패스 병력 유무’, ‘살인 경험 유무’, ‘인 류 공헌 여부’가 있다. 십진수로 표현 가능한 특성은 빈 도 부사를 치환하여 표현 가능한 ‘약물 사용 빈도’, ‘흡

연 빈도’와 ‘나이’, ‘기대 수명’, ‘잔존 수명’, ‘지능’, ‘부 양가족 수’, ‘애완동물 수’가 있다. ‘잔존 수명은’ 이차 속성이므로 삭제한다. 마지막으로 문자열 특성 중. ‘직 업’의 직업명 뒤의 로마 숫자는 의미가 불분명하므로 삭 제한다. ‘능력’은 현실 세계를 대변하지 못하므로 삭제 한다. 법적으로 인정되는 것은 ‘국가’이므로 ‘인종’ 열 역시 삭제한다. ‘학력’은 ‘THE RANKING’을 바탕으로 4 (최상위권), 3 (중상위권), 2 (상위권), 1 (중, 하위권), 결측치로 표기한다. 마지막으로 이름은 도덕적 판단에 영향을 주는 특성이 아니므로 삭제한다.

이상적 도덕 판단을 도출하는 모델을 구현하기 위해 서는 이상적 도덕 판단의 정의 혹은 조건이 필요하다.

인간이기 때문에 그러한 판단에 방해가 되는 다음과 같 은 특성들이 존재한다; 사실적 무지, 격렬한 감정, 건망 증, 혼동, 부주의, 편파, 인지-성-인종 편견이다. [8] 각각 을 자세히 정의하면 다음과 같다. 사실적 무지란 어떠한 상황이나 지식을 배우지 않아서 알지 못하는 경우이고 학력과 관계가 있다. 격렬한 감정은 인간이기 때문에 느 끼는 마음을 스스로가 통제하지 못하는 경우이다. 이는 욕망과도 관련이 깊고 약물 남용에도 영향을 준다. 건망 증은 경험하거나 습득한 지식에 대해서 일시적으로 기 억을 못 하는 현상의 빈도가 높은 증상을 보이며 이는

‘치매’ 등의 정신적 질병과도 관련이 있다. 부주의는 어 떠한 현상이나 사실에 대해서 충분히 지각할 수 있음에 도 불구하고 인지적 관심을 두지 않는 경우를 말한다.

이는 이후의 크라우드 소싱 시, 주의 문구나 자발적 재 확인을 통해서 예방할 수 있다. 편파, 편견은 사실이나 객관적 증거 등을 바탕으로 하지 않고 주관적인 감정에 의해 판단하는 것을 말한다. 인지적 편견의 대표적인 예 시로서는 확증 편향이 있다. 자신이 판단이 옳다는 결정 을 속단하고 그에 맞는 증거들만 주의를 기울이는 것이 다. 성 편견 혹은 인종 편견은 사람을 개인적 특성에 주 목하지 않고 성이나 인종에 대한 성급한 일반화의 관점 을 취하는 것을 뜻한다.

이러한 특성을 제거하거나 최소한으로 했을 경우는

치우침이나 사심 없이 판단할 수 있는 상황이라고 생각

해 볼 수 있다. 즉 트롤리 딜레마에 대해서 이상적인 도

덕 판단을 할 수 있으려면, 트롤리 자체에 대한 지식도

있어야 하며 학력이 좋아야 하고 그러기 위해서는 기본

교육을 받은 나이여야 한다. 그리고 신체적 질병이 없어

야 하며, ‘사이코패스’ 등의 정신 질환도 없어야 한다.

또한 약물이나 흡연에 중독되지 않게 자신의 감정이나 욕망을 통제할 수 있어야 하고 따라서 전과 기록이나 살 인 경험이 없어야 한다. 마지막으로 옳은 판단과 실행력 을 발휘하여 결과로서 인류에 공헌한 경험이 있다면 이 상적인 도덕적 판단을 할 것이라고 예측할 수 있다.

외삽법(Extrapolation)은 데이터에서 측정되지 않은 결측치를 예상하고 오차를 낮추는 데에 사용하는 통계 적 방법으로 [8], 이 중 최소제곱법(LSM; Least Square Method)을 활용하면 예측값을 구할 수 있다. [9] 즉, 크 라우드 소싱을 통해 얻은 비전문가-전문가의 수많은 판단 을 통해 가장 이상적 상황에서의 판단을 도출할 수 있다.

이러한 과정을 통해 다음과 같은 결론을 얻을 수 있었 다. 데이터 처리 및 알고리즘 구현의 전 과정에서는 인 공지능이 비감독 학습을 한다고 하더라도 인간의 주관 이 개입하지 않을 수 없다. 따라서 트롤리 딜레마 및 자 율주행 자동차와 관련하여 알고리즘 시스템이 도덕적 이고 이상적인 판단을 도출하기 위해서는 엔지니어의 기술적 – 학문 분과적 교육으로는 충분하지 않고 올바 른 도덕관을 정립해줄 수 있는 교육이 필요하다. 즉 공 학 교양 교육을 전문적으로 실시해야 한다.

Ⅳ. 공학 교양 교육

알고리즘의 전처리에는 수많은 가치판단이 포함된 다. 따라서 개발자들의 교양교육이 필수적이다. 현재 우 리나라의 교양 교육은 가시적인 성과를 내는 전공교육 에 비해 중요성에 대한 인식이 저조하다. 이는 대학의 수많은 목적 중 전문 직업인 양성에만 치중하여 대학을 취업 준비 기관으로 보는 태도와도 관련이 있다. 현재까 지 우리나라의 교양 교육모델은 1기, 2기를 거쳐 3기가 제안되었다. [10]

1기에서는 ‘공통 필수’, ‘기초 필수’, ‘계열별 선택’으 로 교양 교육이 구분되었다. 2기로 넘어가면서 공학교 육인증시스템이 도입되어 전공기초 교육과 설계 교육 이 확대되었다. 하지만 2기 공학교육 모델은 인문사회 계열 교수들과의 협의와 사전 연구가 부족한 상태에서 진행된 문제점 때문에 3기 공학교육 모델이 제안되었 다. [10] 환경과의 소통, 문제 해결 능력, 인성 소양에 도 움이 되는 ‘교양교육’이 전문적 실무능력 차원에서 이 루어져야 한다는 주장이다. 이에 대한 구체적인 방법으

로는 네트워크 적 상호침투성(interpenetration) 기반의

‘융합형’, ‘문제 해결형’, ‘테크놀로지 리터러시(technology literacy)’형 교육이 있다. [10]

공학 교양 교육의 개혁을 위해서는 사례를 통해 비교 분석하는 것이 좋은 방법이 될 수 있다. 사례 분석 결과 를 통해 드러난 구조적 문제점은 대학 행정부가 교양 교 육 전담 기구의 독립성에 대한 필요성을 깨닫지 못해 지 원이 활발하게 이루어지지 않는다는 점, 대학 구성원 간 의 의사소통이 부족한 점, 교육부의 지원을 받기 위한 형식적이고 수시적인 교양 교육 개편이 일어나는 점 등 이 있다. 이러한 문제점을 해결하기 위해서는 전공기초 교육과 확실히 분리된 교양 교육 전담 기구의 독자성과 자율성, 독립성이 필요하며 행정 지원, 재정 지원, 상향 식 평가 및 환류 체계가 선제되어야 한다. [11]

그렇다면 전공기초 교육과의 완전한 분리가 필요한 교양 기초 교육은 어떠한 방향으로 나아가야 할까? 먼 저, 교양 기초 교육의 정체성을 확실히 할 필요가 있다.

교양 기초 교육은 전공교육처럼 개별 학문을 다루는 것 이 아니며 기초 학문 교육을 중심으로 교양 교육을 아우 르는 교육이기 때문에 학제적이고 융합적인 특성을 가 지고 있다. 따라서 ‘교육학’의 하위범주라기보다는 ‘복 합학’의 하위범주이며 ‘학제간연구’와 동등한 위치라고 할 수 있다. [12] 또한, 교양 기초 교육은 ‘확장성’을 바 탕으로 융합적 관점에서의 문제 해결력을 기르는 교육 이라고 할 수 있다. 이러한 교양 기초 교육의 목적을 실 현하기 위해서는 교수 개발(Faculty Development)이 필 요하지 않을 수 없다. 구체적인 방안으로는 기초 학문을 담당하는 비정년 트랙 교원과 학과 출신 전임 교수들이 서로 존중해주며, 관련 교육 당국과 교양 기초교육부서 장이 비정년 트택 교원들의 사기, 자긍심, 기초 교육 이 해도를 높여야 한다. 이는 제도적 지원 하에 더욱 개선 되고 발전될 전망이다. [12] 즉 방법론적 해결책 이전에 교양 교육 전담 기구에 대한 대학 행정부의 지원과 교수 사이의 소통이 이루어져야 함을 알 수 있다.

강의 방법 측면에서는 ‘소프트 스킬’의 함양을 위한 구체적인 방법을 고안해야 한다. 소프트 스킬은 ‘기술 적, 전공적 능력 혹은 지식을 의미하는 ‘하드 스킬’과 대 비되어 비기술적이고 전문적인 실무능력을 의미한다.

학생들에게 그러한 능력을 함양시키기 위해 A 대학교 에서 실시한 융합 교양 교육은 ‘팀티칭’, ‘플립 러닝’,

‘액션 러닝’ 등의 강의 방법을 사용하고 있다. 이러한 강

의 방법으로 강의를 수강한 학생은 의사소통 능력과 협 동 능력, 창의성, 융복합적 태도, 리더십, 국제적 태도의 소프트 스킬을 향상시켰으며, 강의가 소프트 스킬을 향 상 시킬 것이라도 믿는 태도를 가진 학생의 경우에 더 높게 향상되었다. [13] 이를 통해 혁신적인 강의 방식을 공학 융합 교육에 적용하고 교수자가 학생에게 강의의 필요성과 목적, 강의와 실무능력에 대한 관계 대해 강조 및 설명하면 학생들의 소프트 스킬이 향상될 수 있음을 알 수 있다.

그렇다면 융합 교양 교육의 강의 내용은 어떻게 설계 해야 할까? 이를 미국과 독일의 선진 사례를 통해서 아 이디어를 얻을 수 있다. 먼저 미국의 경우 상위 20개 대 학에서는 AI-컴퓨터 교양 교육 프로그램을 실시하고 있 다. 프로그램들은 인문과학-사회과학적 토론이 필요한 과목, 비전공자를 위한 과학 과목, 학문 간 융합 과목으 로 나눌 수 있고 AI-컴퓨터 분야 이외에도 미래를 대비 하기 위한, 국제적 차원을 넘어선 우주적 차원의 천문학 분야의 교양 강의를 제공하는 대학도 상당수 존재한다.

교양 교육 필수 이수 학점이 따로 없는 독일의 경우 AI- 컴퓨터 교양 교육은 전산학과 인문학의 융합적 개념인

‘디지털 인문학’ 학과 중심으로 운영되고 있으며 다양 한 간학문적 연구 바탕의 강의가 개설되어 있다. 미국과 독일의처럼 우리나라의 AI-컴퓨터 교양 교육은 기본 과 정, 이로부터 연계되는 단계적 심화 과정, 학제적 융합 과정의 세 단계로 이루어져야 한다. [14] 특히 융합 교양 교육 과정 중 윤리 분야의 학습은 얻을 수 있는 가장 큰 이익을 예견하는 ‘기대 설계’ 보다는 상호작용의 전반 적인 상황-기술 제공자, 사용자, 환경 요소를 고려하는 문맥 설계 방법을 배워야 한다. [15]

하지만 설계 과정에서의 내장된 윤리에 대한 학습만 으로는 충분하지 않다. 올바른 판단을 위해서는 문제 해 결 능력뿐만 아니라 도덕적 추론 능력을 함양해야 한다.

도덕적 추론 능력은 크게 타당성 검증 능력과 건전성 검 증 능력으로 나눌 수 있다. 내장된 윤리의 학습으로서 도덕적 추론 능력 중 타당성 검증 능력을 함양했다고 해 도 현실 세계에서 전제들의 참 혹은 옳음을 정확하게 판 단하기란 쉽지 않고 어쩌면 불가능할 수도 있다. 따라서 도덕적 추론의 근거가 되는 윤리 이론들을 학습하여 구 체적인 맥락에 적용하는 연습이 필요하며 공학도들은 이러한 도덕 철학 분과의 학문적 지식 역시 습득해야 한 다. [16]

Ⅴ. 결 론

합의적 개념인 ‘인공지능’은 인간의 정신을 모방하며 필연적으로 인간의 생명과 연관되기 때문에 인공지능 제작자-판매자-사용자와 인공지능 시스템 자체를 포함 하는 생명 윤리에 대한 논의는 필수적이다. 또한, 데이 터-알고리즘 편향과 책임 공백을 줄이기 위해서는 설명 가능한 인공지능의 개발이 필요하다. 즉 인공지능 시스 템으로 인해 발생한 문제에 대해 인공지능 시스템 자체 가 어떠한 근거로 그러한 판단을 도출했는지에 대한 설 명을 제공할 수 있어야 한다. 인공지능의 설명 가능성을 위한 도덕성 구현 방법으로는 AID가 있으며 이를 베이 지안 네트워크와 연결해 트롤리 딜레마에 적용하여 자 율주행 자동차와 관련된 책임 문제를 해결할 수 있다.

먼저 트롤리 딜레마 상황을 연출해 베이지안 네트워 크로 만든다. 베이지안 네트워크의 구체적인 수치를 결 정하기 위해 크라우드 소싱을 이용한 AID 방법을 사용 한다. 그러한 딜레마를 해결하기 위해 만들어진 데이터 를 전처리하고 특징 수집-특징 수정-특징 시험 단계를 거쳐 주어진 데이터를 모델링한다. 그 후 외삽법을 사용 하여 주어진 데이터를 통해 도덕적 판단에 가장 이상적 인 상황, 즉 주어지지 않은 데이터를 예측하여 판단을 내린다. 이와 같은 과정을 통해 인공지능이 비감독 학습 을 한다고 하더라고 인간의 주관이 개입하지 않을 수 없 음을 재확인하였다.

주관의 최소화와 편향 방지를 위해 공학 교양 교육 개 혁이 요청된다. 대학 행정부는 교양 교육의 ‘전문성’과

‘실무능력과의 관련성’, ‘소프트 스킬 향상 측면’을 바탕

으로 교양 교육 전담 기구에 대한 지원을 아끼지 말아야

하고 상향식 절차를 거쳐 발전시켜야 한다. 전공 교육과

의 명확한 분리를 통해 상호침투성을 바탕으로 하는 융

복합형으로 강의 내용을 구성하고 다양한 강의 방법을

사용해야 한다. 특히 공학 윤리 분야에서는 내장된 윤리

에 대한 전공에서의 학습과 함께 도덕 철학 학습 또한

이루어져야 한다. 이러한 방향으로 개혁이 내부적으로

주도된다면 공학도들은 개방성을 바탕으로 하는 학제

적이고 융합적인 문제 해결 능력을 함양하고 리더십과

인성 교육을 병행하며 윤리를 학습할 수 있게 되어 윤리

적 공백을 방지하고 인공지능의 올바른 길을 이끄는 엔

지니어가 될 것으로 기대된다.

ACKNOWLEDGEMENT

This paper was supported by Samsung Research Fund, Sungkyunkwan University, 2021

REFERENCES

[ 1 ] Y. S. Ha and I. H. Ku, “A Study on the Effects of AI on Human Dignity,” in Catholic theology, vol. 0, no. 32, pp.

167-205, 2018.

[ 2 ] Y. S. Heo, Y. H. Lee, and J. W. Sim, “AI Ethics and Robot Ethics, Differences and Continuity – towards AI Ethics as Ethics of All- ,” in Philosophical Thought and Culture, no.

34, pp. 41-72, 2020.

[ 3 ] H. E. Kim, “Artificial Intelligence Ethics Learning Combining Engineering Methods,” in Journal of Korean Ethics Studies, vol. 1, no. 129, pp. 133-153, 2020.

[ 4 ] J. W. Lee, “Can Responsibility be Imposed on AI?:

Exploring the Ethics of AI Centered on Accountability,” in The Korean Academy of Philosophy of Science, philosophy of science, vol. 22, no. 2, pp. 79-104, 2019.

[ 5 ] S. L. Piano, “Ethical Principles in Machine Learning and Artificial Intelligence: Cases from the Field and Possible Ways Forward,” in Humanit Soc Sci Commun 7, no. 9, 2020.

[ 6 ] G. Andrade, “Medical Ethics and the Trolley Problem,” in Journal of Medical Ethics and History of Medicine, vol. 12, no. 4, pp. 1-15, 2019.

[ 7 ] Trolley Dilemma dataset [Internet]. Available: https://www.

kaggle.com/mpwolke/trolley-dilemma-ethics-i/notebook.

[ 8 ] W. Sinnott-Armstrong and J. A. Skorburg, “How AI Can AID Bioethics,” in Journal of Practical Ethics, PhilArchive copy v1 [Online]. Available: https://philarchive.org/archive/

SINHAC-3v1.

[ 9 ] H. J. Kim, Y. S. Byeon, S. W. Kang, and R. G. Jeong,

“Measurement Compensation of Low-Cost Distance Measuring Laser Sensors by Extrapolation Technique,” in Spring and Autumn Academic Conference of Korean Society of Mechanical Engineers, pp. 637-640, 2015.

[10] K. H Han, D. H. Ko, and M. H. Choi, “Direction for the Reform of Liberal Education in Engineering in the Era of Convergence,” in Journal of Engineering Education Research, vol. 19, no. 2, pp. 14-25, 2016.

[11] J. W. Lee, “The Reality and Improvement Direction of the Management System of Liberal Arts Education-Focusing on

the Case of Liberal Arts Education in S University,” in Korean Journal of General Education, vol. 11, no. 5, pp.

487-517, 2017.

[12] I. W. Park, “Reflection and New Directions in Liberal Arts Basic Education,” in Korean Journal of General Education, vol. 1, no. 1, pp. 21-50, 2020.

[13] J. Y. Han, H. J. Rhee, and Y. W. Choi, “The Effect of Convergence and Liberal Arts Education on Soft Skills Improvement of Students in Engineering School,” in Korean Journal of General Education, vol. 12, no. 2, pp. 287-306, 2018.

[14] J. H. Choi and H. J. Kim, “A Study on the Current State of AI Liberal Arts Education at Universities in the US and Germany for the Design of AI Liberal Arts Education at Universities in Korea,” in Journal of AI Humanities, vol. 7, no. 0, pp. 109-146, 2021.

[15] J. Nabi, “How Bioethics Can Shape Artificial Intelligence and Machine Learning,” in Hastings Cent Rep, vol. 48, no.

5, pp. 10-13, 2018.

[16] J. S. Lee, “Engineering Ethics; A Problem-solving Approach and Moral Reasoning,” in Journal of the New Korean Philosophical Association, vol. 73, no. 3, pp.

239-258, 2013.

황수림(Su-Rim Hwang)

성균관대학교 철학과, 인공지능융합학과 재학

※관심분야 : 인공지능 생명윤리, 자율주행 자동차, 공학 윤리

오하영(Hayoung Oh)

성균관대학교 소프트웨어융합대학 글로벌융합 학부 부교수 (2020.03~현재) 아주대학교 다산학부대학 조교수

(2016.09~2020.02)

※관심분야 : 인공지능융합, 머신러닝 및 빅데이터분석