한스 요나스 책임관에 근거한 인공지능기술 행위주체별 책임

인공지능기술에 대한 기술적 특성을 한스 요나스의 기술관에 비춰 분석해보았 다. 이러한 인공지능기술을 다루는 것은 결국에는 우리 인간이다. 따라서 우리에 게 요구되는 책임의 자세를 살펴볼 필요가 있다. 본 연구의 제3장 2절 ‘인공지능 기술과 관련된 윤리적 쟁점들’에서 정리하였듯이, 기술의 생애단계는 기술을 개 발하고 연구하는 개발단계, 사회적 기준을 근거로 개발된 기술의 타당성과 적절 성을 평가하는 인허가단계, 그리고 인허가된 기술을 대중에게 보급하는 상용 또 는 이용단계로 나누어 볼 수 있다. 이러한 과정에서 다양한 행위주체들이 참여하 게 되는데 본 연구에서는 기술의 생애단계에서 참여하게 되는 개발자·제조사, 공 적주체, 사용자로 나누어 한스 요나스의 책임관에 근거한 그들의 책임을 제시해 보고자 한다. 여기서 개발자·제조사는 인공지능 과학자, 연구자, 그리고 인공지 능기술과 관련된 프로그램 제작 및 탑재, 인공지능기술이 적용된 제품을 생산하 는 제조사를 의미한다. 그리고 공적주체는 지방정부, 정치인, 국제기구로서 인공 지능과 관련된 법령을 정하고 인공지능기술에 대한 규제 또는 완화 정책을 논의 하고 시행하는 주체이다. 마지막으로 사용자는 인공지능기술을 현장에서 사용하 고 평가하는 모든 주체이다. 이들은 의료, 제조, 금융, 교통, 농업, 국방, 관광 등 인공지능기술을 활용하는 모든 산업분야에 종사하는 사람들부터 그 서비스를 제 공받는 수요자이자, 민간차원에서 인공지능기술에 대한 적절성을 평가하는 평가 자의 역할을 한다. 다만 이러한 행위주체들은 기술의 생애단계 중 반드시 어느 한 단계 속에서만 활동하는 것이 아니라, 모든 단계를 거쳐 지속적으로 다른 행 위주체와 교류하는 특성을 지니고 있다. 그렇기 때문에 각 주체들은 분절적이기 보다는 서로 영향을 주고받는 관계라 할 수 있다.

그리고 기술의 생애단계에서 이끌어낸 행위주체 외에도 교육주체를 추가하여 그들의 책임을 제시해보고자 한다. 인공지능기술의 적용 범위가 대부분의 산업 분야로 확대되면서 그에 따르는 문제점이 발생하고 있다. 주로 인공지능기술을 어떻게 다루고 취급하는가에 대한 기술사용문제, 인공지능기술과 관련된 인력 부족문제, 인공지능기술의 보급에 있어 사회적 계층 간의 차이가 발생하는 것

을 예로 들 수 있다. 국내에서도 이러한 문제의식을 바탕으로 인공지능 교육과 관련된 정책을 추진하고 있다.⁹⁵⁾ 초등, 중등, 고등, 대학, 그리고 평생교육까 지 국내의 교육단계별로 어떤 인공지능교육을 할지의 계획을 구상하고 있다고 한다. 이렇게 인공지능교육에 대한 교육주체의 역할이 중요해지고 있다. 이러 한 방향에서 교사, 산업체 연수기관, 교육기관 등의 교육주체들이 지녀야 될 책임을 한스 요나스의 관점에서 제시해보고자 한다.

가. 개발자·제조사의 책임

국내에서 인공지능기술을 적용한 산업 분야 중에서 비중이 크면서 논란이 되 는 주요 분야는 자동차 분야라고 할 수 있다. 자동차를 구매할 때 차주들은 자 율주행 옵션을 추가하여 자신의 안전과 편의를 보장하기도 하지만 자율주행 기 능으로 인해 크고 작은 사고가 발생할 때마다 안전성에 대한 논란이 제기되고 있다. 현재 국내 법률상으로는 자동차를 주행할 때 발생하는 모든 책임은 운전 자에게 있다.⁹⁶⁾ 현재까지 자동차 제조사는 자율주행 기능을 ‘운전자 보조 시스 템’으로 명시하고 그 세부내용을 지침으로 제공하고 있기 때문에 조작과 취급에 대한 책임은 운전자에게 있는 것이다. 이때의 책임은 법률상의 책임으로 어떤 문제가 발생했을 때 법적인 처벌과 보상 차원의 책임을 의미한다. 이러한 법률 적 책임의 논쟁은 자동차 분야에만 국한되지는 않는다. 인공지능기술을 탑재한 의료기기와 관련된 사고, 국방 분야 등 인간의 생명과 직접적으로 관련된 분야 에서 법률적 책임의 논쟁은 꾸준히 제기되고 있다. 이렇듯 인공지능기술이 인 간의 생활 곳곳에 들어오면서 그에 따르는 사회적 논란이 발생하고 있다. 이러 한 상황 속에서 인공지능 개발자와 제조사는 인공지능기술을 개발할 때 기술의 사회적 영향력을 고려하여 신중한 태도를 갖춰야 한다.

과학자나 연구자가 기술의 사회적 영향력을 고려해야 하는 이유는 무엇일까?

연구에 있어 연구자의 자유와 공익이 충돌하는 경우가 현대에 들어 많이 발생 하고 있다. 한스 요나스는 이러한 이유를 산업혁명 이후 순수 과학영역이 기술

95) '인공지능시대' 초등부터 단계별 'AI교육 기본계획' 만든다. https://www.yna.co.kr. (검색일:

2020.6.10.)

96) 半자율주행차 상용화… “사고는 ‘너’ 책임”. https://shindonga.donga.com. (검색일: 2020. 6. 10.)

영역으로 확대되었기 때문이라고 보았다.(Hans Jonas, 1987/2014, p. 91) 과거 순수 이론으로서 자연의 법칙이나 진리 탐구의 경우에는 실험 또는 논리 적 사고 과정을 통해 과학적 흥미와 가치중립적 태도를 바탕으로 연구에 몰입 해도 그 연구 결과가 곧 사회적 변화를 일으킬 만큼 거대하지 않았다. 하지만 자연과학이 기술과 융합되면서 과학의 영향력은 점차 일상으로 확대되고 그로 인해 사회적 변화와 경제성장이 일어나면서 그에 따른 새로운 문제점이 발생하 게 되었다. 물론 과학기술의 발전으로 인간의 삶의 질이 향상되고 사회적 발전 을 도모하게 되었으나 환경문제, 인간소외문제, 계층 간 소득격차문제 등 과거 에는 크게 문제가 되지 않았던 주제들이 쟁점화되었다. 이는 곧 오늘날 과학기 술과 사회 사이에 밀접한 관련이 있음을 시사하고 개발자·제조사는 연구의 자 유와 사회적 공익 사이에서 신중한 태도를 보여야 할 것을 강조한다.

그리고 인공지능 개발자와 제조사는 예방과 보호, 보존의 가치를 중심으로 인공지능기술을 다루어야 한다. 한스 요나스는 과학기술 발전을 과학적 진보로 보고 과학적 진보의 이면에 주목하였다.(Hans Jonas, 1984/1994, p. 276) 한스 요나스가 말하는 진보란, 좀 더 나은 것, 적어도 더 바람직한 것으로 도 약하는 것으로서 한스 요나스는 진보를 개인의 도덕적 진보와 사회의 과학적 진보로 나누었다.(Hans Jonas, 1984/1994, p. 277) 사회의 과학적 진보는 개인의 도덕적 진보보다 그 영향력이나 사회적 변화가 뚜렷하게 나타난다. 하 지만 이러한 과학적 진보에는 언제나 포기하게 되는 비용이 발생한다. 이때의 비용은 단순히 돈을 의미하는 것이 아니라 과학적 진보로 발생하게 되는 환경 파괴, 생명경시풍조 등 과학기술의 발달로 인한 여러 사회적 문제를 의미한다.

그렇다고 과학적 진보 자체를 거부하기에는 이미 생활 속에 자리 잡은 기술력 의 크기가 상당해서 과거의 생활로 돌아가기는 불가능하다. 따라서 이러한 사 회적 문제를 최소화하기 위해 개발자와 제조사는 인공지능과 관련된 사고를 방 지하기 위한 예방 측면에 더욱 관심을 기울여야 할 것이다. 그리고 개발자와 제조사는 인공지능의 판단은 어디까지나 인간의 이성적인 판단을 보조하는 수 단으로서 수행하고, 최종 결정권은 인간에게 있다는 것을 유념해야 한다. 또한 인공지능기술을 인간의 편의제공을 위해서만 사용하는 것이 아니라, 수질 관 리, 멸종위기종 관리, 공해유발 원인을 차단하는 등 다른 생명과 환경을 보존

하고 관리하는 데에도 유용하게 쓰일 수 있도록 인공지능기술의 개발 방향을 다른 분야로 확대할 필요가 있다.

나. 공적주체의 책임

공적주체의 책임은 한스 요나스가 말하는 정치인의 책임과 밀접한 관련이 있 다. 정치인의 책임은 미래를 고려한 책임이라고 할 수 있다. 오늘날의 공적주 체는 정책을 수립하는 데 과거에 비해 많은 요소를 고려해야 한다. 이러한 요 소들을 분석하기 위해 자료(Data)가 필요한데, 이를 바탕으로 경제성장률, 인 구변화, 일자리 전망, 주요 정책수립을 통해 미래를 대비한 국가 운영에 힘쓰 고 있다. 그러나 현재 시점에서 미래를 예측한다는 것은 꽤나 조심스러운 일이 다. 과학기술이 발전하고 사회 모습이 다양해짐에 따라 앞으로의 모습을 단순 하게 예측할 수 없게 된 것이다. 이렇게 ‘변화’ 자체가 일상이 된 현재의 모습 속에서, 정책의 방향은 현재 발생하고 있는 문제의 원인을 분석하고 해결하는 데 초점을 맞추는 것처럼 보인다. 이러한 정책의 방향은 오늘날 살아가고 있는 국민의 요구와 사회적 여론을 적극적으로 반영한다고 볼 수 있다. 인공지능관 련 정책 또한 이러한 상황 속에서 제안되는 정책이라고 할 수 있다. 데이터 수 집·활용 기반 구축, 5G 등 네트워크 고도화, 인공지능 인프라 확충 및 융합 확 산 등의 ‘디지털인프라 구축’, 그리고 ‘비대면 산업 육성’, ‘SOC 디지털화’의 영 역을 중심으로 한 국내의 정책⁹⁷⁾ 추진 배경이 코로나19의 확산에 따른 경제활 동 감소, 변화된 일상의 모습과 관련이 있다는 것을 예로 들 수 있다.

인공지능기술의 특성상, 그 발전 방향을 예측할 수 없으며 지속적인 변화가 발생할 것이라는 점에서 공적주체의 역할은 더욱 중요해지고 있다. 그러나 현

인공지능기술의 특성상, 그 발전 방향을 예측할 수 없으며 지속적인 변화가 발생할 것이라는 점에서 공적주체의 역할은 더욱 중요해지고 있다. 그러나 현