4. 인공지능의 미래와 윤리
2강. 인공지능의 미래와 기술적 특이점
학습내용
- 인공지능의 미래와 기술적 특이점
- 슈퍼 인공지능 시대의 도래와 지능의 폭발
학습목표
- 미래의 인공지능에 나타날 기술적 특이점을 설명할 수 있다.
- 슈퍼 인공지능 시대의 도래에 따른 지능 폭발의 대비책을 설명할 수 있다.
1. 인공지능의 미래와 기술적 특이점 1) 특이점이란 무엇인가?
- 특이점 : 어떤 기준이나 기존의 해석이 적용되지 않는 지점
- 기술적 특이점 : 인간-기계 인터페이스의 발전, 유전공학기술의 발전, 인공지능 이 새로운 문명을 만드는 가설적 미래 시점의 출현 기대 - 급격한 기술적 발달의 결과로, 제어가 어렵고 다시는 되돌릴 수 없을 정도의
인류 문명의 변화를 가져올 미래 시점
- 미래학자 의견 : “인공지능이 통제 불가능한 수준으로 발전되어 지능의 폭발이 일어나는 특이점을 가져올 것이라고 예견”
→ 지능은 인간이 가진 핵심 기술이므로 다른 기술과는 달리 통제할 수 없으며 스스로 발전
2) 지능의 폭발
- 특이점 가설의 대표적인 예
- 1965년 영국의 수학자 어빙 존 굿이 그의 논문에서 처음 언급 - 가장 똑똑한 사람을 훨씬 능가할 수 있는 기계 → 초 지능 기계 - 인공지능이 발전하여 인간의 지능을 뛰어넘는 기점
- 슈퍼 인공지능이 등장하는 시기
- 지능폭발과 특이점
- 초 지능 기계는 자기보다 더 뛰어난 초 지능 기계를 만듦 - 다시 자기보다 훨씬 뛰어난 초 지능 기계 만들기를 반복 - 특이점에서 지능의 폭발이 생겨난다고 주장
3) 특이점 개념의 발전
- 1958년 폰 노이만이 현대 개념의 특이점을 주장
- 특이점 : 인류 역사의 구조를 단절시킬 수 있는 기술적 개념 - 1965년 어빙 굿이 ‘지능의 폭발’에 대해 언급
→ 특이점 개념 구체화
- 특이점 주의자 : 기술적 특이점의 도래를 믿고 지지하는 사람들 - 1993년 버너 빈지가 특이점의 개념을 대중화시킴
연도 사건
5만 년 전 현재의 인간 호모 사피엔스 시작 1만 년 전 인류 문명의 시작
4) 특이점에 관련된 책이나 어록
5) 인공지능의 종속
- 인공지능 연구가 유드코우스키는 1996년부터 특이점이 시작되었다고 주장 - 컴퓨터의 속도는 2년마다 2배씩 빨라짐
→ ‘무어의 법칙’ : 1965년 고든 무어가 제안
반도체의 직접회로의 성능이 2년(24개월)마다 2배로 증가한 다는 법칙 → 경험적 관찰을 바탕으로 둠
→ 무어의 법칙 3가지 조건 : 반도체 메모리칩 성능(메모리 용량, CPU의 속도) 가 18개월에서 24개월마다 2배씩 향상된다는 ‘기 술 개발 속도에 관한 법칙’
컴퓨팅 성능은 18개월마다 2배씩 향상 된다.
컴퓨터 가격은 18개월마다 반으로 떨어진다.
- 유드코우스키는 1만 년 전 인류 문명이 시작되었고 인쇄술과 컴퓨터의 발명, 인공지능 연구를 통해 앞으로 30년 후에는 지능의 폭발이 일어나고 인류는 인 공지능에 종속될 것으로 주장
- 인류의 과거와 인공지능 이후의 미래 예측
600년 전 인쇄술의 발명
70년 전 컴퓨터의 발명
60년 전 인공지능의 시작
20년 전 딥러닝의 시작
현재 인공지능 연구가 활발히 진행 앞으로 30년 후 지능의 폭발이 일어나고 인류는
인공지능에 종속될 것으로 주장
6) 강한 인공지능을 지지하는 특이점 주의자들
- 적절하게 프로그램 된 기계가 실제로 지능적인 정신 상태일 수 있다고 주장 - 인간의 대뇌 분석을 통해 인공신경망을 구현할 수 있다고 믿음
- 미국의 TIME지에서 특이점이 2045년이라고 주장
7) 특이점 개념에 부정적인 미래 학자들
- 강한 인공지능 구현에 대해 인식론적 입장의 비판
→ 로봇이 마치 인간을 흉내내는 현상에 대해 회의적인 의견 - 스티븐 핀커, 제리 캐플런 등 특이점 예측에 대해 비판적인 견해 - 종교적 차원에서 신학자들은 ‘지능 폭발’에 대해 부정적인 견해 → 과학이 창조와 관련된 신의 영역을 침범할 수 없다는 주장
2. 슈퍼 인공지능 시대의 도래와 지능의 폭발 1) 슈퍼인공지능의 가능성과 대비책
- 슈퍼 인공지능은 미래의 가상적인 인공지능
- 슈퍼 인공지능이 이루어지는 시기 : 기술적 특이점과 관련 - 인간의 지능과 같이 한계가 없음
- ‘닉 보스트롬’ : “슈퍼 인공지능은 사실상 모든 관심 분야에서 인간의 인지 능 력을 크게 뛰어넘는 모든 지성”
→ 슈퍼 인공지능으로 인해 인간이 멸종할 수도 있다고 주장
2) 슈퍼인공지능 구현 시기
- 전 세계 인공지능 전문가 대상 여론 조사 : 2040년 ~ 2050년
- 인공지능학회 참석자 대상 조사 : 30년 ~ 60년 후 → 전문가들 중 일부는 거의 불가능할 것이라는 견해 - 인공지능 연구원들 대상 조사 : 평균적으로 2045년
- 일부 연구원들은 앞으로 수백 년 이상 걸릴 것이라고 답변
3) 슈퍼 인공지능 시대에 대한 대비책
- 슈퍼 인공지능 시대가 도래한다면 인간이 통제할 수 없을 만큼 강력해질 것 → 인간에 큰 위협이 우려
→ 인간은 미리 대비책을 준비해야할 것
- SF영화 사례 : 영화 <2001 스페이스 오디세이>에서는 HAL이라는 인공지능 컴 퓨터가 등장하였고 인간에 적대감을 가짐
<터미네이터>에서는 기계 군단이 인간 말살을 목적으로 터미네 이터를 과거로 보냄
- 슈퍼 인공지능의 위협은 통제하기 어려울 것
- 인공지능이 인간의 지능을 뛰어넘으면 제대로 통제할 수 없다는 점
- 인공지능 연구가 빌 히바드는 “슈퍼 인공지능으로 인한 위협에 대비하기 위해 서는 인간에 대한 사랑을 가진 인공지능 설계가 필요하며 범국민적인 윤리 교 육이 필요하다고 주장”
4) 슈퍼 인공지능 시대와 인류의 삶
- 컴퓨터 연산 능력이 향상됨에 따라 인공지능의 잠재력이 현실화 되고 있음 - 폭발적으로 증가하는 데이터가 결합돼 인간의 통찰력과 예측 능력을 높여주고
거의 모든 분야에 적용돼 인류의 삶을 변화 시킬 것
5) 슈퍼 인공지능의 창의성
- 슈퍼 인공지능은 창의성에 도전할 수 있을까?에 대한 의문점
- 창의성은 인류가 새로운 것을 개발하고 이를 통해 발전할 수 있는 원동력 - 슈퍼 인공지능은 인간과 같은 수준으로 창의성을 구현하기는 어려울 것이며 도
전하더라도 상당히 시간이 걸릴 것이라 추정
- 창의성 : 새롭고 독창적인 생각, 또는 주어진 문제에 대해 효율적인 해결 방법 을 찾아내는 것
평가하기
1. 다음 중 특이점에 대한 설명으로 옳지 않은 것은?
① 인공지능이 새로운 문명을 만드는 가설적 미래 시점
② 인공지능이 발전하지만 통제를 할 수 있는 수준
③ 인류 역사의 구조를 단절시킬 수 있는 기술적 개념
④ 인공지능이 인간의 지능을 뛰어 넘는 기점 - 정답 : ②번
해설 : 인간의 지능을 닮은 인공지능이 통제 불가능한 수준으로 발전되어 인간을 뛰어넘 는 기점을 특이점이라 함
2. 슈퍼 인공지능 시대에 대한 대비책으로 보기 어려운 것은?
① 인간에 대한 사랑을 가진 인공지능 설계
② 인간의 지능보다 뛰어난 인공지능 연구
③ 인공지능 설계자의 윤리교육
④ 슈퍼 인공지능을 제어할 수 있는 연구 - 정답 : ②번
해설 : 인간의 지능보다 뛰어난 인공지능 연구는 슈퍼 인공지능 시대를 도래하고 인간이 통제할 수 없을 만큼 인공지능이 강력해질 것
학습정리
1. 인공지능의 미래와 기술적 특이점
- 특이점이란 이농지능이 새로운 문명을 만드는 가설적 미래 시점을 의미 - 특이점 주의자란 기술적 특이점의 도래를 믿고 지지하는 사람들을 지칭
- 미래학자들은 인공지능이 통제 불가능한 수준으로 발전되어 지능의 폭발이 일어나는 특 이점을 가져올 것이라 예견
2. 슈퍼 인공지능 시대의 도래와 지능의 폭발
- 지능의 폭발은 인공지능이 발전하여 인간의 지능을 뛰어넘는 기점 - 슈퍼 인공지능 시대에 대한 대비책 마련이 필요함
