인간－로봇 공존을 위한 규범(윤리․법) 환경의 변화

적 도덕 행위자(AMA: Artificial Moral Agent)’의 개념을 통해 의도하지 않아도 도덕적 의사결정 을 내려야하는 기계나 소프트웨어가 도덕적 판단을 할 수 있도록 알고리즘 설계단계에서 도덕과 윤리기준을 프로그래밍 하는 방법론(윌러치 ․ 알렌(노태복 역), 2014; 한상기, 2015)을 제시 하고 있다. 한편, 미국의 인공지능 전문가 엘리저 유드코프스키(Eliezer Yudkowsky)는 로봇 이 인간에게 우호적으로 행동하도록 설계되어야 한다는 ‘우호이론(friendliness theory)’을 제시하였 다. ’17년 1월 인류미래연구소(FLI: Future of Life Institute)는 인간에게 유용하고 혜택을 주는 착한 인공지능(beneficient AI)을 개발해야 한다는 이른바 ‘아실로마 AI원칙(ASILOMAR AI PRINCIPLES)’을 도출하기도 하였다.³⁸⁾

나아가 인공지능, 로봇기술이 군사용, 해킹 등 이른바 ‘치명적 자율무기 시스템(LAW: Lethal Autonomous Weapon system)’에 활용되면서, 인간의 생명 ․ 신체에 해를 가하거나 인간 고유 의 기본권 침해 가능성에 대한 우려가 지속되고 있다. 이에 따라 윤리적 차원의 논의를 넘 어 법 ․ 제도적 대응의 필요성도 점차 높아지고 있다. 뿐만 아니라 자율주행자동차가 상용화 될 경우, 운전자 및 운행자를 기준으로 규정된 현행 자동차 관련 법령, 사고발생 시 책임주 체 그리고 보험제도 등 일상생활 영역에서도 다양한 법적 환경의 변화도 함께 요청되고 있다.

특히, 유럽연합(EU)의 경우 로봇, 인공지능 기술의 발전에 따라 야기되는 다양한 윤리적 ․ 법적 이슈에 대한 규범적 차원에서의 ‘법제화’ 움직임이 가장 활발하다. 우선, 로봇기술연구 단체인 유럽로봇연구네트워크(EURON: European Robotics Research Network)가 ’07년 4월 이탈리아 로마에서 개최된 국제로봇자동화학회(ICRA: IEEE International Conference on Robotics and Automation)에서 발표한 ‘EURON 로봇윤리 로드맵(The EURON roboethics roadmap)’을 시작으로, EU 집행위원회는 ’12년부터 2년 동안 진행한 ‘로봇법 프로젝트 (RoboLaw Project)’의 결과물로서 ’14년 9월에 ‘로봇규제에 관한 가이드라인’(Guidelines on Regulating Robotics)을 제정하였다. 최근 ’16년 5월에는 유럽의회 법사위원회(Committee on Legal Affairs)가 ‘로봇법 규칙 초안을 위한 보고서(Draft Report)’을 위원회에 제출하였고, ’16년 10 월에는 영국하원 과학기술 상임위원회는 로봇과 인공지능의 윤리적 ․ 법적 이슈를 다루는

‘로봇공학과 인공지능(Robotics and artificial intelligence)’ 보고서를 발표하는 등 유럽연합 차원에서 로봇, 인공지능 기술이 야기할 윤리적 ․ 법적 영향을 고려한 로봇규제의 근거를 마

고려해야 한다고 말한다.

38)

‘

’

‘

’

련하기 위한 노력이 한창 진행 중이다. 특히, 최근에 발표된 ‘로봇법 규칙 초안을 위한 보고 서(Draft Report)’는 유럽연합 차원의 로봇법 법제화 방향을 담고 있을 뿐만 아니라, 유럽연합 회원국을 포함하여 인공지능, 로봇 등에 관한 법제화를 시도하는 각국에게 지침으로 작용할 수 있다(Committee on Legal Affairs, 2016). 전자적 인격(electronic person) 부여, 로봇 등록제 도 입, 로봇기술헌장 마련, 로봇기술 규제기구 창설, 지적재산권 및 개인정보의 보호, 로봇기술 표준화, 법적 책임 등 로봇법 관련 법제화 과정에서 고려해야 할 원칙과 주요내용도 구체적 으로 제시하고 있다는 점에서 중요한 의미를 갖는다.

이 밖에도 미국의 백악관은 ’16년 5월부터 7월까지 5회에 걸친 워크숍을 통해 ‘인공지능의 미래를 위한 준비(Preparing for the Future of Artificial Intelligence)’ 보고서를 10월에 발표 한데 이어 12월에는 ‘인공지능과 자동화가 경제에 미치는 영향(Artificial Intelligence, Automation and the Economy)’ 보고서를 발표하였다. 또한 스탠포드 대학은 ’16년 9월에 발표한 ‘인공지 능과 2030년의 삶(ARTTFICIAL INTELLIGENCE AND LIFE IN 2030)’보고서를 통해 교통, 가 정/서비스 로봇, 의료, 교육, 빈곤지역, 공공안전 ․ 보안, 고용 ․ 직장, 엔터테인먼트 등 8대 분 야에 미칠 인공지능의 사회적 영향을 분석하였다. 이를 통해 규제와 정책을 통한 인공지능 의 역기능에 대비할 필요가 있음을 강조하였다. ’16년 12월 국제전기전자기술자협회(IEEE:

Institute of Electrical and Electronics Engineers)에서도 인권, 책임, 투명성, 교육 등 4대 쟁 점을 다룬 인공지능 윤리 지침서인 ‘윤리적인 디자인(Ethically Aligned Design)’을 발표하였다.

아울러 우리나라도 ’07년에 로봇기술의 윤리적 발전방향과 로봇의 개발 ․ 제조 ․ 사용 시 지켜 야할 윤리적 가치 및 행동지침을 담은 ‘로봇윤리 헌장’ 초안을 발표한 바 있지만 더 이상 논 의가 지속되지는 못하였다.

나. 인간중심 법체계 환경의 변화

최근 인공지능 기술의 비약적인 발전은 강한 인공지능(strong AI)의 출현을 굳이 상정하지 않더라도 현행 인간 중심의 법체계에 큰 혼란을 야기할 가능성이 높다. 물론 우리 ｢헌법｣상 기본권의 주체와 ｢민법｣상 권리와 의무의 주체, ｢형법｣상 형사책임의 주체 등은 모두 자연 인(自然人)인 ‘사람’으로 한정하고 있으므로, 인간 중심의 현행법 체계상으로는 인공지능, 로 봇에게 권리주체성을 인정하기는 어렵다. 다만, 기계 또는 알고리즘이 인간의 개입 없이 스 스로 법률행위를 하거나 새로운 콘텐츠를 생성하고, 심지어 특정 영역에서는 인간을 넘어 서는 행위결과를 만들어내는 사례가 증가하고 있다. 예를 들어 인공지능은 로봇저널리즘(기 사 작성), 투자자의 자산 운용(로보어드바이저), 영화, 음악, 미술 등의 다양한 영역에서 창

의성 높은 결과물을 만들어내고 있다. 특히, 저작권 영역에서는 인간의 창작물과 인공지능 이 만들어낸 결과물 사이의 경계도 모호해지는 등 창작행위가 더 이상 인간만의 독점 영역 이 아닐 수 있다는 불안감이 커지고 있다. 따라서 인간과 유사하게 자율성을 바탕으로 생각 하고 행동을 하는 인공지능에게 법적지위를 부여할 것인가, 인공지능이 권리와 법적책임의 주체가 될 수 있는지에 대한 고민이 필요한 시점이다.

물론 현재까지 인공지능에 의해 만들어진 대부분의 결과물들은 인간의 의도 내지 개입 하에 인공지능이 도구적으로 활용되어 왔다. 그러나 지속적으로 학습하고 지능화하는 인공 지능 기술의 특성 상 인간이 관여되지 않는 상황에서 인공지능이 타인의 저작물을 이용하 거나 스스로 만든 결과물에 대한 저작권을 어디까지 인정할 것인가에 대한 법률적인 검토 가 필요할 수 있다. 또한 인공지능이 만든 음악, 그림, 기사 등 창작물이 타인의 저작물을 침해하는 경우, 그 책임을 누가 부담할 것인지 등에 대한 사항은 현 상황에서도 중요한 쟁 점이 된다. 예를 들어 로봇저널리즘이 타(他) 언론 기사의 내용을 무단으로 재사용하여 기 사를 작성하거나 로봇저널리즘에 의해 작성된 기사가 오보일 경우, ‘정정보도’ 청구의 대상 및 책임주체는 누가 될 것인지에 대한 보다 심도 깊은 논의가 필요하다. 마찬가지로 인간의 개입 없이 인공지능이 스스로 계약을 체결하는 경우, 자율성을 가진 인공지능에게 대리인 으로서의 법인격을 부여할 것인지 그리고 만약 인공지능이 행한(법률)행위의 효과가 이용 자 입장에서 전혀 의도하지 않거나 반할 경우 그 책임을 누구에게 귀속시킬 것인지 등에 대 한 민사법적 쟁점도 제기될 수 있다.

이처럼 로봇, 인공지능 등 지능정보기술의 급속히 발전이 인간의 생활, 삶 전반에 큰 변화 를 야기하고 있지만, 여전히 인간과 유사하거나 인간을 초월하는 수준으로의 기술 발전은 금명간 이루어지지 못할 것이라는 것이 중론이다. 확실치 않은 기술적 발전, 소위 ‘강한 인공 지능(Strong AI)’을 예상하면서까지 현행 인간중심의 법체계를 바꾸는 것은 신중할 필요가 있 다. 다만, 최근 유럽연합(EU) 의회에서 인공지능을 탑재한 로봇에게 ‘전자인간(electronic personhood)’이라는 특수한 형태의 법적지위를 부여하는 결의안을 채택한 바와 같이,³⁹⁾ 적어 도 인간과 동등한 법적지위는 아니더라도 인공지능을 가진 로봇이 인간에게 도움을 주는 존재로서 일정한 권리를 갖고 행동할 수 있는 특수한 형태의 법적지위를 부여하는 방안은 검토될 필요가 있다.