인간과 기계와의 관계 : 싱귤래리티(Singularity)을 향하여 (The Human-Machine Relationship : Toward Singularity)
◇ 싱귤래리티(Singularity)란 기술변화의 속도가 너무 빠르고 거대해서 인류의 삶이 완전히 변화되는 시점을 의미함.
ㅇ 이번 토론에서는 싱귤래리티가 언제쯤 실현될 것이며, 실현된다면 인류에게 긍정적일 것인가 아니면 부정적일 것인가에 대해 논의
◇ 디지털 기술의 진보에 따라 싱귤래리티가 실현될 것으로 생각되나, 특정 시점이 아닌 연속적인 변화의 과정일 것으로 예상
ㅇ 인공지능(AI)은 특정분야에서 인간의 능력을 추월하여 보다 빠르고, 정확하며, 효율적으로 일처리를 해가고 있으며,
ㅇ 감성 등 인간적 특성을 강화하는 기술과 결합된다면 사회 번영, 질병 치료, 기후 변화 등 많은 분야에서 역할을 할 수 있을 것임.
◇ 기술진보에 따른 리스크는 차별(discrimination), 불평등(inequality), 불공정(unfairness), 책임감 결여(lack of responsibilities) 등이 있음 ㅇ 이를 극복하기 위해, 디지털 기술의 속성, 디지털 기술이 창조하는 결과,
디지털 기술에 대한 규제 등에 대한 기술적·철학적 이해를 높여가야 하며, ㅇ 미래사회의 변화 방향성에 대해 장기 목표를 설정하고 어떻게 도달할
것인지에 대한 로드맵을 만드는 일도 중요 1. 회의 개요
□ 일시/장소 : 2018.5.29.(화), 12:15~13:00, OECD 본부(Amphitheater 3)
□ 참석자
ㅇ 사회자: Benoit Georges (Head, Atificial Intelligence, Les Echos, 프랑스) ㅇ 토론자:
- Olivier Mathiot (President, The Camp, 프랑스)
- Jerome Monceaux (CEO & Co-Founder, Spoon, 프랑스)
- Rob Nail (CEO & Associate Founder, Singularity University, 미국) - Mariarosaria Taddeo (Deputy Director, Digital Ethics Lab, University of Oxford, 영국)
2. 주요 논의 내용
가. 토론 내용
□ 사회자 (Benoit Georges, Head of Atificial Intelligence, Les Echos, 프랑스) ㅇ 싱귤래리티란 “인류 역사상 가장 특별한 모멘텀”이라고 정의되고 있는데
맞는 것인가? 그리고 언제쯤 실현될 것인가?
□ Rob Nail (CEO & Associate Founder, Singularity University, 미국) ㅇ 싱귤래리티란 기술의 파괴적인 힘이 너무 거대해서 미래에 대한
예측이 어려운 시기를 말함. IT 분야를 예를 들면 인공지능(AI)의 능력이 인간을 초월하는 시기라고 말할 수 있음.
ㅇ 싱귤래리티는 실현될 것이라고 생각되나, 어떤 단일시점에 실현되는 것이 아니라, 시간이 경과하면서 계속적으로 진행되는 것임.
□ 사회자 (Benoit Georges, Head of Atificial Intelligence, Les Echos, 프랑스) ㅇ 200년전의 증기기관도 인류의 삶을 바꾸어 놓았듯이 기술의 진보는 항상
인류의 삶을 변화시켜 왔는데, 왜 지금이 보다 특별한 시기라고 말하는가?
□ Rob Nail (CEO & Associate Founder, Singularity University, 미국) ㅇ 과거나 지금이나 변화의 양상은 크게 다르지 않지만 “변화의 속도”가
매우 다름. 현재 수많은 기술적 진보가 진행되고 있고, 미래 인간의 삶은 급진적으로 달라질 것이며, 이에 대한 예측이 어렵다는 것은 확실함.
ㅇ 싱률래리티가 도래할 시점보다는 변이과정(transition)이 중요한데, 미래를 어떻게 창조할 것이며, 어떤 로드맵으로 도달할 것인가에 대한 예측이 어려운 것도 문제임.
□ Mariarosaria Taddeo (Deputy Director, Digital Ethics Lab, University of Oxford, 영국) ㅇ 싱귤래리티라는 것은 우리사회를 파괴적으로 혁신하여 인류가 기계에
종속되는 특정시점을 의미하는 것이 아니라, 일련의 연속적인 변화의 과정을 의미함.
ㅇ 변화의 과정에서 우리 인류가 직면하는 매우 견고한 리스크들이 존재 하는데, 차별(discrimination), 불평등(inequality), 불공정(unfairness), 책임감 결여(lack of responsibilities) 등임. 이러한 리스크들은 기계가 인류를 추월해서 발생하는 것이 아님.
ㅇ 인공지능(AI)은 “지능을 갖고 있는” 기계가 아니며, “지능을 갖고 있는 것 처럼” 임무를 수행하는 기계임. 지능(intelligence), 자각(conscienceness), 감정(emotions), 감각(feelings)을 모두 갖고 있는 기계는 없으며, “인조 인간(synthetic engine)”은 “본질적 인간(semantic engin)”이 될 수 없음을 명심해야 함.
□ 사회자 (Benoit Georges, Head of Atificial Intelligence, Les Echos, 프랑스) ㅇ 인공지능(AI)에 대한 Taddeo박사의 정의에 동의하는가?
□ Rob Nail (CEO & Associate Founder, Singularity University, 미국) ㅇ 인공지능(AI)을 정의하기는 매우 어려우나, 대부분의 기계에 인공지능이
있다고 생각함. 인공지능(AI)은 센서 시스템, 주변환경에 대한 상호 작용시스템 등을 갖고 있는 기계임.
□ 사회자 (Benoit Georges, Head of Atificial Intelligence, Les Echos, 프랑스) ㅇ 인간과 의사소통하는 로봇에 대해서 어떻게 생각하는가?
□ Jerome Monceaux (CEO & Co-Founder, Spoon, 프랑스)
ㅇ 센서를 갖고 있으면서 주변환경의 변화에 반응(reaction)하는 로봇은 진정한 의미의 인공지능(AI)이 아니며, 인공지능(AI)이라 하면 주변에서 어떤 일이 일어났는지에 대해 스스로 이야기를 할 수 있는 로봇이어야 함.
ㅇ 제가 만든 새로운 로봇 SPOON은 사회적 반사(social reflex)기능을 갖고 있는데, 실제 감정이 아닌 감정에 대한 레퍼런스를 바탕으로 주변 사람들을 이해하며 상호작용을 하고 있음.
ㅇ 현재는 특정인에게만 반응할 수 있는 퍼스널 로봇이나, 앞으로는 많은 사람들과 집단적으로 소통할 수 있도록 발전시켜 나갈 예정임.
□ 사회자 (Benoit Georges, Head of Atificial Intelligence, Les Echos, 프랑스) ㅇ 당신은 인공지능이 우리의 미래를 더 밝게 만들 것이라는 긍정적인
시각을 갖고 있는데, 어떻게 하면 사람들에게 이러한 사실들을 잘 전달해 줄 수 있겠는가?
□ Rob Nail (CEO & Associate Founder, Singularity University, 미국) ㅇ 제가 살고 싶은 미래는 밝고 긍정적인 것이지만 대부분의 방송이나
영화에서는 끔찍한 미래를 그리고 있음.
ㅇ 우리가 미래로 가는 실현가능한 로드맵을 잘 만들어서 긍정적인 미래의 이야기로 잘 바꾸어 주어야 함.
□ 사회자 (Benoit Georges, Head of Atificial Intelligence, Les Echos, 프랑스) ㅇ 당신이 운영하고 있는 미래에 대한 교육훈련기관인 ‘캠프’에 대해 이야기
해줄 수 있는지?
□ Olivier Mathiot (President, The Camp, 프랑스)
ㅇ 캠프는 개인이나 조직이 긍정적 미래를 준비할 수 있도록 지속적인 변화관리나 미래적응을 도와주는 훈련기관임. 우리는 스스로를 ‘체인지 메이커(change maker)'라고 부르며, 학문과 연구에 중점을 둔 싱크탱크 (Think Tank)가 아니라 행동과 실행을 강조하는 ’실행탱크(Do Tank)'임.
ㅇ Taddeo 박사에게 다음 3가지를 질의하고 싶음.
- 먼저, 인공지능(AI)에 대한 정의 중 “지능을 갖고 있는” 기계와 “지능을 갖고 있는 것처럼” 일하는 기계가 어떠한 차이가 있는가?
- 현재 인공지능(AI)이 보편화되고 우리의 삶을 지배하고 있는데 그렇다면 싱귤래리티가 이미 도래한 것인가?
- 인공지능(AI)은 작은 알고리즘 코드로서 계속적인 데이터를 제공해 주면서 훈련(딥러닝 방식을 의미)시켜야 하는데, 인공지능(AI)은 어떻게 훈련시켜야 컨트롤이 가능할 수 있겠는가?
□ Mariarosaria Taddeo (Deputy Director, Digital Ethics Lab, University of Oxford, 영국) ㅇ 인공지능(AI)인지 아닌지에 대한 구별은 튜링 테스트(Turing Test)에 근거
하여 살펴볼 수 있는데, 어느 질문에 대한 반응이 인간인지 기계인지 정확히 구별할 수 없는 기계를 진정한 인공지능(AI)이라고 부를 수 있음.
ㅇ 튜링은 자신의 논문에서 “2000년에는 인공지능(AI)과 인간을 구별할 수 없을 것이며, 그 경우 그들이 기계인지 여부에 대한 질문은 가치가 없다”고 말했듯이, 진정한 인공지능(AI)이라면 더 이상 인간과 구별할 필요가 없음.
ㅇ 그러나, 현재 우리 주변에 있는 인공지능(AI)은 특정분야의 전문적인 업무에만 인간보다 잘 하는 것으로서, 과학적으로 보면 인공지능(AI)이 아니라고 규정지어진 것이나 다름없음.
ㅇ 모든 과학자들은 현재 “진정한 인공지능(generic artificial intelligence)”은 이 세상에 없다는 것을 잘 알고 있음.
□ Olivier Mathiot (President, The Camp, 프랑스)
ㅇ 광의의 인공지능(general artificial intelligence)과 협의의 인공지능(narrow artificial intelligence)을 잘 구별해야 함.
ㅇ 협의의 인공지능은 특정 전문분야에서 이미 인간을 훨씬 추월하여 보다 빠르고 효율적으로 일처리를 하고 있으며, 인간의 반복되고 고된 작업들을 대체해 줄 수 있어 매우 긍정적임.
ㅇ 인공지능(AI)은 많은 양의 데이터를 제공해서 오랫동안 교육시켜야만 비로소 일을 잘할 수 있음.
□ 사회자 (Benoit Georges, Head of Atificial Intelligence, Les Echos, 프랑스) ㅇ 왜 지금 시점에서 싱귤레리티가 중요한가?
□ Rob Nail (CEO & Associate Founder, Singularity University, 미국) ㅇ 물리학 용어로서 싱귤레리티는 블랙홀로 들어가는 경계선(horizon point)
같은 것인데, 그 이후의 공간은 완전한 변혁이고 다른 패러다임이 지배함.
ㅇ 싱귤레리티는 인류에게 그간의 삶과는 완전히 다른 변화를 의미하는데, 두렵거나 부정적인 것이 아니라 긍정적인 변화일 것으로 생각됨. ㅇ 한가지 부족한 점은 우리가 원하는 미래사회의 변화 방향성이 정확하게
정립되어 있지 않은 점이며, 보다 먼 미래를 생각하며 장기 목표에 어떻게 도달할 것인지에 대한 로드맵을 만드는 일을 해 나가야 함.
□ Olivier Mathiot (President, The Camp, 프랑스)
ㅇ 혁신이 끊임없이 계속 진행됨에 따라, 미래 일하는 방식은 어떻게 변화할 것인지, 미래에 필요한 스킬은 무엇인지, 우리사회는 어떠한 영향을 받을 것인지, 인류의 복지(welfare)는 어떻게 유지해 나갈지 등에 대해 준비해 가는 것이 중요함.
나. 플로어 토론
□ 질의 1. (철학·윤리학과 박사과정 지원자)
ㅇ 지금까지 인류가 만들어 온 인공지능(AI)에 대해 토론을 하고 있는데, 인류가 이와 같은 도전적인 일에 계속 참여해야 하는가?
□ Mariarosaria Taddeo (Deputy Director, Digital Ethics Lab, University of Oxford, 영국) ㅇ 인공지능(AI)이 우리사회에 좋은 잠재력이 될 수 있을지를 명확히 해야 함.
ㅇ 인공지능(AI)을 인간적 특성을 향상시키는 방향으로 사용한다면, 사회 번영, 질병 치료, 기후변화 대응 등의 인류의 능력을 배가시킬 수 있음.
□ Rob Nail (CEO & Associate Founder, Singularity University, 미국) ㅇ 인류가 인공지능(AI)에 대한 통제를 상실할 지도 모른다는 두려움이
있을 수 있으나, 이는 상상으로만 가능하고 실현될 것 같지는 않음.
ㅇ 우리는 인공지능(AI)이 인류에 도움이 될 수 있도록 충분한 시간을 갖고 원칙을 세우며 알고리즘을 디자인할 수 있기 때문임.
□ 질의 2. (Y20 - the engament group of G20)
ㅇ 인공지능 시대에 살아가기 위해 청년세대들은 어떻게 대비해야 하는가?
또한 기술과 사회적 측면 모두에서 철학적 사고가 중요함을 생각해 볼 때 우리들은 다음세대를 위해 어떤 것들을 준비해 가야 하는가?
□ Jerome Monceaux (CEO & Co-Founder, Spoon, 프랑스) ㅇ 누구와도 상호 작용할 수 있는 기술적 대비가 중요함.
□ Mariarosaria Taddeo (Deputy Director, Digital Ethics Lab, University of Oxford, 영국) ㅇ 디지털시대에는 기술적 대비에 더하여 철학적 사고도 매우 필요하다고
생각함.
ㅇ 디지털 기술은 지금까지 봐왔던 많은 다른 기술들과는 다르게 단순한 기술적 도구가 아니라, 표현(presence)과 존재(location)가 분리되어 있는 것들을 새로운 방식으로 결합하여 현실을 변화시키는 기술임.
ㅇ 만일 다음세대가 디지털 혁신의 가치를 극대화 할 수 있는 사회에서 살아 가기를 원한다면, 우리는 디지털 기술의 속성과, 디지털 기술이 창출하는 데이터들과, 디지털 기술에 사용되는 규제들에 대해서 잘 이해해야 함.
□ Rob Nail (CEO & Associate Founder, Singularity University, 미국) ㅇ 다음세대에서는 학위보다는 지속적인 학습, 창의적인 생각, 호기심,
연민의 인지적 공감능력(compassioning cognitive empathy) 등이 더 중요함.
※ 작성 : 홍순정 서기관 (원소속 : 과학기술정보통신부)
