인공지능(AI)은 어떻게 산업의 미래를 바꾸는가:
지능형 조직으로 나아가기 위한 새로운 과제
ON BEHALF OF:
개요 ...1
Part I: 지능형 조직 구축 ... 2
• AI
구현 추진에서 CEO의 역할
•상향식 AI 이니셔티브 지원
• AI는 데이터 중심 리더십을 원한다
• AI는 어떻게 조직의 변화를 주도하는가 AI 구동을 위한 인력 기술 구축 ... 8
Part II: AI 가 IT 리더십에 미치는 영향 ... 9
•
혁신 기술 역량 집중 강화
• AI는 소프트웨어 개발 및 배포 방식을 바꾼다
•데이터는 어떻게 소프트웨어 개발 관행에 영향을 미치는가
•조직의 데이터 관리 책임 공유 Part III: AI 는 어떻게 신뢰와 리스크에 관여하는가 ... 14
•
새로운 위험은 새로운 위험 관리 구조를 요한다
•설명 가능성의 탐구
• AI가 윤리 문제를 화두에 올리다
•편향 완화를 위한 노력 AI 및 데이터 윤리 구축을 위한 프레임워크 ... 19
연구 소개 ... 20
감사의 말 ... 20
후원자의 견해
...21
MIT SMR Connections는 후원자와 공동으로 콘텐츠를 개발합니다.
MIT SMR Connections는 MIT Sloan Management Review 편집 그룹과는 별개로 운영됩니다.
목차
목차 37%
14%
20%
7%
22%
개요
많은 리더들이 AI를 통해 보다 혁신적이고 생산적인 기업으로 변화함으로써 새로운 기업으로 거듭나기를 기대하고 있습니다. 또한 최근 2,200명 이상의 비즈니스 리더, 관리자 및 주요 기여자를 대상으로 실시한 설문조사에 따르면, AI의 구현은 조직 관리 방식에도 상당한 변화를 이끌어 낼 것으로 보입니다.
전 세계 다양한 조직을 대표하는 응답자들은 AI의 이점을 누리려면 업무 공간의 구조, 기술 전략 및 기술 거버넌스에도 변화가 필요할 것으로 예상하고 있습니다.
AI를 탐색하려는 열망은 광범위하게 퍼져 있습니다. 설문 응답자 중 거의 2/3에
설문 응답자들은 110개국을 대표합니다. 전세계 5개 지역 각각에서 나타난 결과는 전체 결과와 일치합니다.
달하는 숫자가 지난 해 AI 기술에 대한 지출이 증가했다고 답했습니다. 그러나 대부분이 투자 규모에 맞는 이익 실현의 단계까지는 나아가지 못했습니다. AI의 적극적인 채택을 답한 비율은 응답자의 절반 미만이었고, 오직 20명에 한 명 꼴로 AI를 광범위하게 구현하고 있었으며, 18%는 몇 가지 프로세스에, 그리고 19%는 AI 프로젝트를 시범 운영 중이라고 답변했습니다.
AI를 구현해 사용하는 응답자들의 답변에 따르면 이러한 이니셔티브는 다음의 세 가지 중요한 방식으로 일반 관리 및 기술 리더들에게 영향을 미치고 있습니다.
1. AI는 조직의 변화를 주도하고 최고 경영자에게 더 많은 것을 요구할 것이다. 설문 응답자의 대다수는 AI가 현재 떠오르는 그 어떤 신기술보다도 더 크게 조직의 변화를 요구하리라고 예상합니다. AI는 비즈니스 및 운영 전문가뿐 아니라, 데이터 관리, 분석, IT 인프라, 및 시스템 개발에 숙련된 사람들 간의 더 많은 협업을 요구합니다. 이는 조직의 리더는 기존의 주력 기술이 AI 도입 노력에 방해가 되지 않도록 해야 하고, 전체 직원의 기술 구축에 필요한 교육도 반드시 지원해야 함을 의미합니다.
2. AI는 CIO와 CTO에게 새로운 능력을 요구할 것이다. AI는 CIO와 CTO가 다양한 기술 아젠다를 설정할 때 영향을 미치게 될 것입니다.
CIO와 CTO는 고급 AI 구현 기술을 보유한 조직이 설문 응답자들에 비해 이미 주도권을 잡고 있는, 인프라 및 사이버 보안에서부터 데이터 관리 및 개발 프로세스에 이르는 기초 기술 능력분야를 우선적으로 개발해야 합니다. CIO는 또한 응답자 대부분이 AI가 이끌어 내리라 기대하는, 소프트웨어 개발과 배포 프로세스의 중요한 변화도 관리해야 합니다.
게다가 많은 CIO가 공식적인 데이터 거버넌스 노력을 감독하거나 지원할 책임을 맡게 될 것입니다. 설문조사에 따르면, 이러한 임무는 다른 임원들보다 CIO와 CTO가 맡게 될 가능성이 큽니다. 주요 실무자들이 지적하듯이, AI가 산출하는 결과의 효율을 개선하고, 높은 ROI를 달성하려면 양질의 데이터와 지속적인 지원이 모두 필요합니다.
3. AI는 리스크 관리와 윤리에 보다 집중할 것을 요구할 것이다. 이번 설문 조사는 많은 응답자들이 AI 사용에 따르는 위험을 인식하고 있음을 보여주지만, 윤리적, 법적, 평판, 재정적 리스크를 포함하는 리스크 관리 정책과 절차를 만들기 위해 조치를 취한 인원은 실제로 거의 없었습니다. 윤리적 리스크 관리는 오히려 기회가 될 수도 있습니다. 고급 AI 구현 기술을 사용하는 조직들은 그들의 알고리듬이 어떻게 결과를 도출해내는지 설명하는 방식을 제공하는 등의 기술 거버넌스 및 리스크 관리 절차와 정책을 이미 수립하고 있습니다. 그들은 AI 시스템이 어떻게 결론에 도달하는지 이해하는 것이야 말로 AI를 공급하고 육성하는 인간의 지능이 AI의 진보에 보조를 맞추게끔 해줄 새롭게 부상하는 모범 사례이자 필수요소라고 지적합니다.
본 보고서는 이러한 결과를 심층적으로 탐구합니다. 신뢰할 수 있는 AI를 성공적으로 구현하기 위해 리더가 대비해야 할 변화에 관해 자세한 내용을 확인해 보십시오. l
4%3% 11%
19% 1% 18%
24% 2% 25%
43%
82%
62%
2% 34%
49%
21%
27%
5%
4%
13%
14%
18%
19%
지능형 조직 구축
기
업의 리더는 인공지능(AI)을 매우 중요한 전략 자산으로 인식합니다. 이번 글로벌 설문조사에 응한 대다수의 응답자는 이미 AI 여정을 시작해서 아직 기획 단계에 있거나, 사전 시범 운영, 또는 구현했다고 응답했습니다. 그리고 62%의 조직은 지난 해 AI에 대한 지출이 증가했다고 답하는 등 재정적인 투자를 늘리고 있습니다(그림 1 “급부상하는 신기술 부문 지출” 참조).전세계 다양한 산업에 종사하는 2,200명 이상의 리더, 관리자 및 기여자를 대상으로 실시한 이번 설문조사에 따르면, AI 구현의 추진 동력이 조직 문화와 프로세스를 개편하고, CIO와 기타 기술 리더들을 위한 권한을 새롭게 만들어 내고 있습니다. 또한 이번 설문은 AI 리스크 및 윤리적 문제를 바라보는 조직의 태도와 그 태도가 어떻게 기술 거버넌스에 영향을 미치는지 확인해 볼 수 있는 통찰력을 제공합니다.
AI는 비즈니스 혁신과 가치 창출을 약속하지만, 우리가 설문 조사한 대부분의 조직은 아직 투자 규모에 맞는 이익 실현의 단계까지는 나아가지 못했습니다.
응답자의 5%만이 조직 전반에 폭넓게 AI를 구현했고, 1 8 % 는 몇 가지 프로세스에, 그리고 19%는 AI 프로젝트를 시범 운영 중이라고 답변했습니다(그림 2
“대부분은 AI 여정의 초기 단계에 있다”). 13%의 응답자가 AI 채택을 계획하고 있지만, 27%로 가장 큰 비중을 차지한 그룹은 여전히 AI 채택을 조사 중에 있다고 답했습니다.
AI 추진에서 CEO의 역할
이 보고서는 현재 AI 기술을 구현한 조직에게서 배울 점을 찾아내고, 그들이 다른 조직과 어떤 차이가 있는지 살펴볼 것입니다. 우선 한 가지 차이점은 다음과 같습니다. AI의 추진에는 상부의 의지가 핵심인 것으로 보입니다. 우리는 AI를 광범위하게 구현한 조직은 그렇지 않은 조직보다 AI 활용케이스 파악에 고위 경영진이 관여할 가능성이 훨씬 높다는 사실을 발견했습니다. 또한 이들 조직에서는 CEO와 이사회가 새로운 전략 기술 도입에 주도적인 역할을 할 가능성이 높습니다.
리더십은 행동하는 동시에 모범을 보여야 합니다.
보험 및 자산 관리회사 Sun Life의 토론토 본사 사장 겸 CEO인 Dean Connor는 회사의 리더들이 아키텍처와 기술에 관해 의견을 나눌 수 있어야 한다는 기대치를 설정했고, 연례 임원 회의의 반나절은 데이터 분석 훈련 캠프에 할애했습니다.
그림 1: 급부상하는 신기술 부문 지출
클라우드 서비스 AI/머신 러닝
사물 인터넷 블록체인
예산 없음 변화 없음
지출 감소 지출 증가
가장 많은 응답자가 클라우드 서비스 부문 지출을 늘렸고, 그 다음으로는 인공지능(AI)/머신 러닝(Macine Learning)에 부문 지출이 증가했습니다.
그림 2: 대부분은 AI 여정의 초기 단계에 있다
조직 전반에 폭넓게 AI 구현 중 일부 프로세스에서 AI 구현 중 AI 프로젝트 시범 운영 중 AI 채택 계획 중 AI 채택 조사 중 채택하지 않고 고려하지 않음 모름
응답자의 42%가 자신의 조직 내에서 AI에 적극적으로 관여한다고 답변한 반면, 오직 5%만이 현재까지 AI를
AI, 중견기업에 새로운 기회가 되다
우리는 연간 수익이 5,000만~4억9,900만 달러인 기업과 대기업의 설문 응답을 비교해 보았습니다. 그 결과, 중견기업은 AI를 시범 운영 또는 구현할 가능성이 낮고, AI와 클라우드에 대한 지출을 늘리거나 기반 기술 역량이 성숙했다고 평가할 가능성도 낮다는 것을 발견했습니다. 이러한 결과가 함축하고 있는 의미는 무엇일까요? 한 가지 가능성은 어느 중견기업이든 AI를 이용해 혁신하고자 하는 의지만 있다면, 경쟁사보다 우위를 확보할 수 있는 기회를 얻게 되리라는 것입니다. 빠르게 움직인다면, AI 성숙도 곡선에서 앞서갈 수 있습니다.
RAY WANG, CONSTELLATION RESEARCH
“AI 는 장기적인 철학이 필요합니다… AI 구현으로 성공을 꿈꾸는 조직이라면 장기적인 안목을 가져야 하고, AI 구현으로 상당한 경쟁 우위를 점할 수 있다는 것과 장기적인 투자가 필요하다는 것을 이해해야 합니다. 그 밖의 모든 것은 무용지물입니다.”
“이는 ‘CEO가 API 전략과 같은 주제를 논의한다면, 직원도 역시 그 주제에 대해 생각해 봐야 한다’는 메시지를 줍니다.” Sun Life의 선임 부사장 겸 선임 고객 경험 책임자인 Eric Monteiro는 말합니다.
Accenture의 북미 최고 데이터 과학자인 Peter Guerra는 리더들에게 AI를 단지 빠른 투자 회수가 가능한 최신 인기 기술로만 여겨서는 안 된다고 경고합니다. 대신, 리더들은 비즈니스의 방향과 AI가 문제 해결에 어떻게 도움이 될지를 고민해봐야 합니다. “AI는 당신이 하는 모든 일의 토대가 되는, 당신이 하는 모든 것을 주도하는 무언가가 되어야 합니다.”라고 Guerra는 말합니다. “‘나는 AI를 구현할 거야’에 집중할 게 아니라, ‘나는 공급망을 개선할 것이고, 그러기 위해 AI를 활용할 거야’에 초점을 맞추는 겁니다.”
또한 AI는 CEO들이 늘 경험하는, 단기적 성과에 대한 압박과는 공존하기 힘든 장기적 사고방식을 필요로 한다고 Constellation Research의 수석 애널리스트이자 설립자 겸 회장인 Ray Wang은 말합니다. “AI는 장기적 철학이 필요합니다. 여정의 끝에 가서야 기하급수적인 보상이 이루어지는 장기적인 투자를 해야 함을 이해해야 한다는 의미입니다. 리더들은 종종 이를 이해하지 못하기 때문에, 회사의 장기 건전성보다는 주당 순수익만 보고 단기적 결정만을 계속해서 내리죠.”라고 그는 말합니다. “AI는 장기적인 철학이 필요합니다… AI 구현으로 성공을 꿈꾸는 조직이라면 장기적인 안목을 가져야 하고, AI 구현으로 상당한 경쟁 우위를 점할 수 있다는 것과 장기적인 투자가 필요하다는 것을 이해해야 합니다. 그 밖의 모든 것은 무용지물입니다.”
상향식 AI 이니셔티브 지원
AI로 성공하려면 경영진의 의사결정만으로는 부족합니다. Guerra는 AI를 채택해서 장기적으로 긍정적인 영향을 미치기 위한 가장 좋은 시나리오는 리더십 지원과 실무진의 열정이 균형을 이루는 것이라고 조언합니다.
“제가 본 가장 좋은 예는 풀뿌리처럼 올라오는 상향식 노력과 이에 힘을 실어주는 하향식 추진력의 결합이었습니다.” Guerra는 말합니다.
“하향식으로만 추진 되었거나…상향식 노력만 기울인 경우에는 AI가 성공할 수 없었죠. 그럴 경우 아무도 우선순위를 설정하지 않음으로써 심각한 혼돈을 초래합니다.”
American Fidelity Assurance Company의 금융 서비스 및 보험 분야의 연구개발 담당 부사장인 Shane Jason Mock은 자신의 회사에서도 하향식과 상향식 접근 방식을 결합하려는 노력이 진행되고 있다고 말합니다. 성공적인 프로젝트 중 하나는 더 빠르고 효과적인 서비스를 제공하기 위해 고객 이메일을 해석하고 전달하는 데 머신 러닝과 로봇 프로세스 자동화를 이용한 것입니다.
American Fidelity Assurance Company의 R&D 및 혁신 팀은 경영진과 정기적으로 만나서 AI 및 머신 러닝이 해결할 수 있는 비즈니스 니즈를 논의합니다. 이것이 양방향 소통입니다. 때로는 경영진이 문제를 제기하면 Mock의
효과적인 방법: Sun Life, 고위 경영진이 분위기 조성
Sun Life에서는 사장 겸 CEO인 Dean Connor가 AI 애플리케이션 개발에 협력자로 참여하려면 경영진이 정보 아키텍쳐와 기술을 이해해야 한다는 목표를 설정했습니다. 그는 심지어 임원 회의의 일부를 데이터 분석 훈련 캠프에 할애했습니다.
그룹이 해결 방안을 제안하고, 어떤 경우에는 R&D 팀이 새로운 AI나 머신 러닝 활용 사례에 관한 아이디어를 임원진에게 제시하기도 할 것이라고 Mock은 설명합니다.
미 공군 본부의 AI 공동 의장인 Michael J. Kanaan 대위에 따르면, 미 공군은 조직 전반에 걸쳐 누구나 AI의 힘을 활용할 수 있는 환경을 조성하려 애쓰고 있는데, 이는 AI 기술력에 대한 접근을 민주화하고자 하는 문화적 시도입니다. 45만 명의 인력을 고용한 글로벌 기업에서 사업 전반에 AI를 적용한다는 것은 항공 작전, 첩보, 감시, 정찰, 사이버 작전과 같은 군사 임무뿐 아니라, 창고 관리, 유통망, 인력 개발 같은 일반 업무에서도 AI 활용 방법을 찾는다는 것을 의미합니다.
Kanaan이 목표라고 설명한 “모든 사람이 AI 기술로 조직의 임무를 수행하게끔 하는 것”에는 새로운 다기능 구조를 만들겠다는 리더십의 의지가 필요합니다. 미 공군은 26개의 지원 및 임무 작전에서 인력을 동원해 그 목표를 이루어 냈습니다. “우리는 각각의 작전을 대표하는 사람을 모두 한 방에 모아서 그들이 해당 사안에 대해 의견을 내고 자신이 가장 잘 아는 분야를 대표할 수 있게 했습니다.” Kanaan은 말합니다.
AI는 데이터 중심 리더십을 원한다
우리가 면담한 업계 전문가 및 AI 실무자에 따르면, 비즈니스 이점을 얻기 위해 AI를 활용하려면 데이터를 주요 자산으로 관리하려는 경영진의 의지가 필요합니다.
“데이터를 기업 자산으로 여긴다는 것은 데이터가 어디에 있으며, 기업의 사명 또는 목표를 이루기 위해 그 데이터를 어떻게 사용해야 할지 아는 전담 직원이 있다는 의미입니다.” Intel의 아메리카 담당 수석 데이터 과학자 Melvin Greer는 이야기합니다.
AI와 머신 러닝을 업무에 활용한 경험이 Sun Life가 데이터를 다루는 방식에 엄청난 변화를 가져왔다고 Monteiro는 전합니다.
“덕분에 모든 애플리케이션에서 데이터의 중요성에 대한 인식이 높아졌습니다.” 어떤 사업부 팀이 새로운 애플리케이션을 개발한다면, 이제 그 팀원들은 향후에 Sun Life의 다른 팀이 동일한 데이터를 사용할 수도 있다는 점을 고려합니다. 따라서 다음 사람을 위해 데이터를 검증하고 그 정의도 명확히 해야 함을 압니다. “이제 그들은 애플리케이션 설계나 변경 과정에서도 데이터 생성의 품질을 걱정합니다. 전에는 그러지 않았거든요.” Monteiro는 덧붙입니다.
데이터를 자산으로 취급하고 그것에 자원을 집중하는 것은 기업 리더들의 사고에 나타난 획기적인 변화일 수도 있다고 북유럽과 아시아 국가에 서비스를 제공하는 오슬로 소재 통신 회사 Telenor Group의 분석 및 AI 담당 부사장인 Astrid Undheim은 말합니다. “AI로 성공을 거두는 데 있어 정말로 큰 장벽이 있다면, 그건 경영진이 진정으로 이해하지 못할 수도 있지만, 그럼에도 반드시 해결해야만 하는, 양질의 데이터를 대량으로 확보하는 일입니다. AI와 예측 모델 구현에는 종종 이전과는 완전히 다른 일련의 데이터가 필요합니다.” 라고 Undheim은 말합니다.
“그건 엄청난 과제죠.” Astrid Undheim은 덧붙입니다. “문제는 우리가 시스템에 가지고 있는 데이터와 어떻게 하면 AI를 활용해서 그것의 가치를 창출할 수 있는가가 아닙니다. 우리가 생각해봐야 하는 건 어떻게 우리의 절차를 바꿀까 입니다. 어떻게 하면 업무 방식을 바꾸고, 가장
4% 4%
3%
IoT
블록체인 3%
8%
8%
11%
8%
19%
22%
13%
24%
15%
24%
18%
42%
39%
21%
33%
18%
21%
20%
15%
9%
“‘ 전략적으로 우리 회사의 목표는 무엇인가? 어떤 문제를 해결하고 싶은가?’
등의 질문으로 이끌어 가는 것이 중요했습니다. ‘데이터 수집부터 시작하자’ 라고 말하는 건 최선이 아닐 수 있습니다.”
ROB STILLWELL, SEACOAST BANK
중요한 비즈니스 문제를 해결해줄 모델을 구축하는 데 필요한 데이터를 수집할 수 있을까요? 그저 AI 전문가를 고용한다고 해서 마술처럼 순식간에 일이 해결되는 것은 아닙니다. 대개는 AI 전문가에게 실제 업무를 맡기기 전에, 나 스스로가 먼저 어떤 데이터를 수집하고 있었는지 거슬러 올라가 봐야 합니다.”
Seacoast Bank는 머신 러닝 도입 여정의 초기 단계에서 데이터 작업의 중요성을 인식했지만, 우선 비즈니스 목표부터 분명히 했습니다. 즉, 고객에게 더 나은 서비스를 제공하는데 도움이 될 정보를 얻는 것이었죠.
“‘전략적으로 우리 회사의 목표는 무엇인가? 어떤 문제를 해결하고 싶은가?’
등의 질문으로 이끌어 가는 것이 중요했습니다. ‘데이터 수집부터 시작하자’
라고 말하는 건 최선이 아닐 수 있습니다. 하지만 ‘우리의 목표는 무엇인가?’로 시작하면, 목표를 이행하기 위한 적절한 데이터를 얻을 수 있습니다. 우리의 경우에도, 그제서야 머신 러닝을 포함한 모든 것을 개발할 수 있었습니다.”
Seacoast의 선임 부사장 겸 비즈니스 분석 책임자 Rob Stillwell은 말합니다.
플로리다 남부에 있는 93년된 유서 깊은 금융 기관인 Seacoast는 고객에게 더 나은 서비스를 제공한다는 목표를 설정한 후 고객 관련 데이터를 수집하고 분석하는 방식을 개혁하기 위해 노력했습니다. 예를 들어, 은행이 해왔던 다양한 각각의 거래에 집중하는 대신, Seacoast는 Stillwell이 은행 고객에 관한 총체적인 데이터 세트라고 부르는 것을 만들어냈습니다.
이 은행은 이제 머신 러닝 모델에 그 데이터를 적용하여 고객 관계의 평생가치를 분석하고, 그 가치를 증대하는 서비스를 목표로 합니다.
Stillwell은 “우리는 머신 러닝을 활용하기 전에 약 2년 간 데이터에 공을 들였습니다. 데이터 부분을 제대로 처리하는 게 얼마나 중요한지 알았기 때문이죠,”라고 말합니다. 그러면서 두 번째 중요한 요소는 데이터 분석이나 머신 러닝에 들이는 노력이 어떻게 은행의 전략과 일치하는지 결정하는 것이라고 덧붙입니다.
AI는 어떻게 조직의 변화를 주도하는가
AI가 조직의 변화 의지를 요구한다는 이러한 기대는 설문 응답자들의 답변을 통해서도 확인할 수 있는데, 그들은 AI가 주목 받는 다른 신기술보다 더 많은 변화를 가져다 줄 것이라 응답하였습니다. 전체 응답자의 63%는 AI가 극적이고 중대한 조직의 변화를 주도해 가리라고 답변했습니다(그림 3, “AI가 조직의 변화를 주도해 갈 것이다”). 폭넓게 AI를 구현해 사용하고 있는 응답자 중 80%는 AI가 중대하고 극적인
AI/머신 러닝 클라우드 서비스
모름 변화 없음 약간의 변화 적당한 변화 상당한 변화 극적인 변화
63%의 응답자가 AI/머신 러닝이 극적이거나 중대한 변화를 주도하리라 예상하고 있는데, 이는 클라우드를 조금 앞선 비율이고, IoT나 블록체인보다는 크게 앞서 있습니다. 참고: 일부 백분율은 반올림으로 인해 총합이 100이 아님.
그림 3: AI가 조직의 변화를 주도할 것으로 기대된다
효과적인 방법: Seacoast Bank, 데이터 하우스를 조기에 정리
Seacoast Bank는 고객 서비스 개선이라는 머신 러닝 목표를 달성하려면 먼저 적절한 데이터를 수집해서 잘 정리해야 한다는 것을 알고 있었습니다. 그래서 고객 관계의 평생가치를 이해하고 늘리는 데 도움이 될 모델을 구축하기 전에 2년 동안 데이터 전략에 공을 들였습니다.
66% 75% 76% 70%
변화를 주도해 가리라 예상하였습니다. 그 다음으로 59%의 응답자가 클라우드를 중대하거나 극적인 변화의 추진 요인으로 꼽았습니다. 또한 클라우드는 AI 구현을 위한 핵심 기술로도 부상했습니다.
응답자 대다수는 AI가 조직의 경계를 넘어서는 교차 활동을 증가시킨다고 보고 있습니다. 이들은 AI가 부서간 다기능 협업의 필요성을 늘리고, 여러 분야를 포괄하는 훈련을 요하며, 다분야 총괄 팀의 수를 증가시킬 것으로 기대하였습니다(그림 4, “AI로 인해 보다 연결된 조직의 필요성 증가”).
다기능 팀워크의 추구 정도는 데이터 사이언스 전문성이 조직 내에서 어떤 위치에 놓여 있는지 보고하는 설문 응답자들의 답변 속에 반영되어 있었습니다. 데이터 사이언스 팀은 협업을 강화하기 위해 배치되는데, 조직의 22%에서는 IT 부서와 사업부 양쪽에서 일하고, 21%에서는 사업부 파견되어 일합니다. 데이터 과학 그룹이 중앙 집중화되거나 IT 부서 내에 배치되는 빈도는 상당히 낮았습니다.
한편, 응답자가 속한 조직의 47%에서 비즈니스 또는 운영 전문가가 AI 활용케이스를 파악하고 있습니다(그림 5, “누가 AI 활용케이스를 만들고 있는가?”). 비즈니스 전문가가 이러한 방식으로 데이터 과학자들과 협업할 가능성은 AI를 구현한 조직에서 더 높게 나타났습니다.
면담한 실무자 모두가 데이터 과학자와 사업부 간의 협업 필요성에 동의하지만, AI를 조직하고 협업을 가능하게 하는 방법에 관해서는 다양한 철학과 접근 방법을 제시하였습니다.
직원들을 다기능 팀으로 조직하는 경우가 증가할
것으로 예상
부서 간의 협업이 증가할
것으로 예상 AI의 영향을 받는 부서를 위한 심화 훈련 과정이 증가할
것으로 예상 대다수 응답자는 AI가 조직 전체의 부서와 분야를 연결하는 활동을 늘릴 것을
요구하리라고 예상합니다.
분야간 교차 교육 훈련이 늘어날 것으로 예상
그림 4: AI는 보다 연결된 조직을 요한다
IT
42%
38%
36%
37%
34%
47%
53%
고위 경영진
비즈니스 전문가
데이터 과학자/분석가
그림 5: AI 활용케이스를 누가 만들고 있는가?
AI 구현자 모든 응답자
60%
비즈니스 영역이나 운영 전문가는 AI 활용케이스 개발에 관여할 가능성이 높으며, 이미 AI를 구현한 조직에 참여할 가능성은 더 높습니다.
예를 들어, Sun Life는 데이터 사이언스와 AI 전문성을 Monteiro가 “연합모델(federated model)”이라 부르는 것으로 정리했습니다. 이를 관리하는 전문가들은 중앙부서에서 일하기도 하지만, 다양한 사업부에도 파견됩니다. (또한 Sun Life에는 조직 전반을 컨설팅 할 수 있는 소수의 데이터 과학자도 있습니다.) 이를 통해 회사는 고객의 특정 생애 단계를 다뤄본 경험이 있는 컨설턴트와 고객을 매칭하고, 고객의 건정성이나 재무적 미래를 위해 차선책을 예측하며, 보험 정책 리스크를 평가하고, 사기를 예측해 예방하는 등, 사업 전략에 맞는 활용케이스 개발을 주도할 수 있도록 보장합니다.
“그들은 매일 경영 팀의 회의에 참여합니다.” Monteiro는 데이터 및 AI 전문가에 관해 이렇게 말합니다. 이들은 사업부에서 일하는 까닭에, 그들은 다양한 활용케이스의 상대적 중요성과 과제를 이해하고 데이터의 품질이 무엇인지도 알고 있다고, 그는 덧붙입니다. “그들은 비즈니스 성과라는 게 무엇인지도 압니다. 중앙집중식 팀에서 일할 때보다 개별 부서에서 일할 때, 보다 나은 의사결정 모델이 나온다는 프로세스도 이해합니다.”
AI와 데이터 사이언스의 역량이 중앙에 집중되어야 이점을 얻을 수 있다고 보는 의견도 있습니다. Telenor는 초기 머신 러닝을 경험한 이후, 4년 동안 딥 러닝과 신경망(뉴럴 네트워크)을 활용해 왔습니다. Telenor의 애플리케이션은 고객 서비스 개선(고객 문의 자동 처리), 인사 관리(퇴사 위험이 있는 직원 감지를 통해), 네트워크 관리 최적화 및 도시 대기질을 예측하는 센서를 사용하는 사물 인터넷 프로젝트 등을 다루어 왔습니다.
Telenor의 임원인 Undheim에 따르면, 다국적 통신사의 일부 사업부는 중앙집중식 데이터 사이언스와 AI 전문성을 갖추고 있습니다.
“중앙집중화를 하는 이유에는 여러 가지가 있습니다. 첫째는 전문가로 구성된 강력한 커뮤니티를 만들려는 것이죠. 또 다른 이유는 필요한 플랫폼과 도구를 설정하는 게 상당히 까다로운 작업이기 때문에 도구와 플랫폼을 일치시켜 회사가 동일한 도구를 사용할 수 있게 하려는 것입니다.”라고 Undheim은 전합니다.
조직 마다 데이터 사이언스 전문가를 어디에 배치할지 각기 다른 결정을 내릴 테지만, 인터뷰에 응한 많은 실무자는 Telenor와 마찬가지로 AI를 지원하기 위한 데이터와 기술 인프라에는 전사적으로 접근해야 한다고 생각합니다. 다음으로는 관련 내용과 AI가 CIO의 역할과 과제에 미치는 다양한 영향을 살펴보겠습니다. l
AI 구동을 위한 인력 기술 구축
설문에 응답한 리더들은 새로운 기술 채택에 있어 가장 큰 어려움은 올바른 기술을 갖춘 인력을 구하는 것이라고 말합니다. 그리고 AI 구현과 관련해서 이는 매우 시급한 문제입니다. 대부분의 응답자는 그들 조직의 데이터 과학 역량을 개발 단계로 평가했고, 성숙하다고 보는 응답자는 17%에 불과했습니다. 그러나 소수의 조직만이 실제 부족함을 해결하기 위하여 교육을 실시하고 있었습니다.
이번 조사는 많은 조직이 기대치와 실제 취하는 행동간에 격차를 보이고 있음을 조명했습니다. AI의 구현은 사람들의 작업 방식을 바꾸게 될 것입니다. 응답자의 75%가 그들의 조직이 AI의 영향을 받는 부서에 더 많은 교육을 제공해야 한다고 예상합니다. 동시에 전체 응답자의 8%만이 그들의 조직이 이미 광범위한 교육을 제공하고 있다고 답했습니다(그림 6, “AI 기술 개발 트랙 구현 교육” 참조). 다시 말하지만, AI를 이미 구현한 조직일수록 직원에게 AI 교육을 제공할 가능성이 더 높습니다.
미 공군 본부의 AI 공동 의장인 Michael J. Kanaan 대위는 미 공군의 AI 이니셔티브에서 중요한 부분은 기존 인력이 관련 기술을 익히는 것이라고 말합니다. 이 전략의 첫 번째 요소는 이미 갖추고 있는 기술을 파악하는 것입니다.
Kanaan은 공군이 외국어를 구사하는 신병을 발탁하는 국방부 관행을 모델로 삼아 컴퓨터 언어 이니셔티브를 개시할 예정이라고 말합니다. “이 이니셔티브는 컴퓨터 프로그래밍 언어를 인간의 외국어 적성 및 숙련도에 상응하는 기능적이고 객관적인 것으로 다루도록 고안되었습니다.” Kanaan은 말합니다. “우리는 이와 같은 기술과 재능을 가진 이들을 활용하기 위해 그들에게 인센티브를 제공할 예정입니다.
그럼으로써 미래의 일자리를 창출할 내부적 동력을 얻는 거죠. 우리는 전세계에 있는 모든 인력이 코딩 및 프로그래밍 교육에 접근할 수 있도록 여러 수단을 제공하고자 합니다.”
Kanaan에 따르면 이러한 접근 방식은 AI 이니셔티브를 위해 오직 엘리트 데이터 과학자만을 고용하는 일반적인 조직의 노력과는 차이가 있습니다. “저는 매일 이런 얘기를 듣습니다.
‘상위 1%의 머신 러닝 데이터 과학자는 어디서 찾을 수 있을까?’ 아니면, ‘MIT 또는 Stanford 같은 조직이나 수학의 비중이 큰 기관들과 어떻게 경쟁할 수 있을까?’”
대신에 Kanaan은 프로그래밍, 비디오 게임 제작 및 관련 활동에 관심이 있는 사람들을 찾아 그들에게 교육 기회를 제공함으로써 보다 광범위한 인력 내에서 인재를 구하고자 합니다. “이렇게 함으로써 내부 인재를 활용할 수 있죠.”
그 는 말 합 니 다 . “ 장 담 컨 대 프 로 그 래 머 를 채 용 하 려 는 관리자가 밖으로 나가서 복도를 걷다가 아무나 붙잡고
‘이봐요, 프로그래밍 할 줄 알아요?’라고 묻는 일은 절대로 없을 겁니다. 하지만 복도 저편에서 걸어오는 당신이 잘 모르는 평범한 코딩 기술자야 말로 정말 큰 변화를 가져다 줄 사람입니다. 그게 우리에게 정말 중요한 사실입니다.”
내부 인재 활용 목표를 위해 미 공군 리더들은 군 전체를 대상으로 자기 평가를 실시했고, 그 결과 2,900명 이상의 직원이 사용자 인터페이스 개발, 데이터 큐레이션, 심지어는 머신 러닝 관련 기술을 갖추고 있음을 알게 되었습니다.
Kanaan은 이 평가의 메시지가 “프로그래밍이나 코딩 능력을 갖추고 있다면, 여러분의 가치를 인정해줄 테니 우리에게 알려주십시오. 그러면 기회에 관해 이야기를 나눠볼 수 있을 겁니다.” 였다고 말합니다
다음 단계는, 발굴한 직원들에게 매일 24시간 교육 자료에
그림 6: AI 기술 개발 트랙 구현 교육
광범위한 교육을 제공한다
교육을 일부 제공하지만 확대할 필요가 있다
AI 교육은 없지만, 계획하고 있다
AI에 대한 교육은 없고, 제공 계획도 없음
모름 1%
7%
8%
15%
11%
14%
10%
12%
3%
4%
6%
8%
23%
25%
22%
46%
39%
37%
조직 전반에 폭넓게 AI 구현 중 일부 프로세스에 AI 구현 중
AI 프로젝트 시범 운영 중 모든 응답자
58%
52%
최첨단 AI를 구현했다고 답한 응답자 중에서도 조직 내에서 AI
성숙한 클라우드/데이터 센터 역량
26%
29%
19%
41%
52%
성숙한 사이버 보안 역량
34%
30%
22%
54%
49%
73%
71%
성숙한 개발 프로세스 및 워크플로우
41%
33%
27%
21%
55%
성숙한 데이터 관리 역량
18%
53%
44%
39%
32%
AI를 폭넓게 구현하는 중 AI 프로젝트 시범 운영 중 AI 채택 조사 중
73%
81%
일부 프로세스에 AI 구현 AI 채택 계획 중 도입 계획 없음
AI 도입이 IT 리더십에 미치는 영향
I 구현은 임원급 기술 리더들, 특히 CIO, 수석 데이터 책임자 및 수석 분석 책임자에게 상당한 영향을 끼칠 것입니다. AI 제작에 필요한 역량 개발은 IT 로드맵, 소프트웨어 개발 및 배포 프로세스뿐 아니라, 조직이 데이터를 취급하는 방식에도 영향을 줄 것입니다.
혁신 기술 역량 집중 강화
응답자 대부분은 그들의 조직이 AI 애플리케이션의 이점을 실현시키는 데 핵심이 되는 기반 기술 역량인 클라우드/데이터 센터 인프라, 사이버 보안, 데이터 관리 및 개발 프로세스, 워크플로우 등을 아직 개발 중이라고 답했습니다. 조직이 AI 구현 곡선을 타고 올라가는 과정에 있을 경우 성숙한 역량을 갖췄다고 응답할 가능성이 더 높습니다(그림 7, “AI를 구현한 조직이 가장 성숙한 기술 역량을 보고한다” 참조).
이것이 바로 CIO와 임원급 기술 리더들은 이러한 역량을 향상하기 위한 계획을 가지고 있어야 한다는 분명한 증거입니다.
“CIO와 긴밀하게 협력해야 합니다.” 미 공군 본부의 AI 공동 의장인 Michael J.
Kanaan 대위는 말합니다. “우리가 얘기하고자 하는 바는 간단합니다. 클라우드가 없으면, AI 구현은 어렵습니다. 데이터 세트가 없어도 마찬가지죠. 미 공군이 보안 문제에 초점을 맞춘 DevOps를 참조하기에, DevSecOps에서 올바른 선택을 하지 못한다면, 역시 AI 구현은 효과가 없을 것입니다. AI는 바로 이 커다란 빙산 꼭대기에 있습니다.”
Sun Life의 선임 부사장 겸 선임 고객 경험 책임자인 Eric Monteiro는 클라우드 서비스가 AI에 특히 중요한 자산이라고 말합니다. 온디맨드 클라우드 컴퓨팅 리소스에 지출하는 것이 AI에 필요한 컴퓨팅 인프라를 구매하고 운영하는 것보다 비용 면에서 더 효율적입니다. 또한 클라우드 서비스는 글로벌 금융 서비스 및 보험 회사인 Sun Life에 더 큰 유연성을 제공해서 회사가 개별적 필요에 따라 다양한 사업부에 서비스를 제공하고 최신 기술에 접근할 수 있게 합니다.
“컴퓨팅 모델과 솔루션 모두 클라우드를 통해 더욱 유연해졌습니다.” Monteiro는 말합니다. “클라우드에 인프라를 구축하면 전체를 다 구매하지 않고도 각 비즈니스의 다양한 요구를 충족할 수 있습니다. 그리고 클라우드를 통해 가장 좋은 최신 도구 키트를 사용할 수 있습니다. 분석 커뮤니티의 요구에 맞춰 충분히 빠른 방식으로 모든 도구 키트를 구매하고 관리하고 인증할 방법은 없습니다.
클라우드로 가는 것은 다른 누군가가 그 일을 대신 해준다는 의미입니다.”
그림 7: AI를 구현한 조직이 가장 성숙한
기술 역량을 보고한다클라우드/데이터 센터, 사이버 보안, 데이터 관리 및 개발 프로세스, 워크플로우 같은 특정 기술 역량을 발전시키는 것은 성공적인 AI 구현 기반의 토대를 마련하는 것입니다.
A
61%
63%
57%
67%
노르웨이 소재의 통신 회사 Telenor Group의 분석 및 AI 부사장 Astrid Undheim은 AI 실무자들은 컴퓨팅 리소스든 DevOps든, 아니면 다양한 알고리듬과 데이터를 실험하기 위한 신기술이든 간에 어떤 상황에서라도 IT가 빠르게 반응해 주기를 바란다고 말합니다.
“제가 보기에, AI와 머신 러닝 전문가는 IT에 대한 요구, 특히 IT의 민첩성과 관련해서 요구가 상당히 많습니다.” Undheim은 말합니다. “머신 러닝에 효과가 있는 IT와 그렇지 않은 IT 간의 차이는 상당히 크죠. 그리고 기존에 IT를 아웃소싱했던 통신 회사들이 빠르게 반응하는 IT 인프라를 구축하기란 상당히 어려운 일입니다.”
AI는 소프트웨어 개발 및 배포 방식을 바꾼다
설문 응답자들은 AI가 소프트웨어 개발 및 배포 프로세스를 변화시키고 있음을 강하게 지적했습니다. 61%의 응답자가 소프트웨어 개발 프로세스에서 AI가 중대하거나 극적인 변화를 주도하리라고 보았고, 응답자의 57%는 소프트웨어 배포 프로세스에도 비슷한 영향을 미칠 것으로 예상했습니다(그림 8, “AI가 소프트웨어 개발 및 배포 프로세스에서 주도하는 변화” 참조). 그리고 이미 AI를 구현한 조직일수록 소프트웨어 개발 및 배포 방식에 큰 영향을 받을 가능성이 높습니다.
“ 제가 보기에 AI와 머신 러닝 전문가는 IT 에 대한 요구, 특히 IT의 민첩성과
관련해서 요구가 상당히 많습니다. 머신 러닝에 효과가 있는 IT와
그렇지 않은 IT 간의 차이는 상당히 크죠.”
ASTRID UNDHEIM, TELENOR
배포 프로세스는 지속적인 모니터링과 재교육을 요하는 역동적인 과정이기에 AI는 기존의 기술 구현과 비교해서 상당한 변화를 가져옵니다.
이러한 시스템을 관리하려면 회사가 개발하는 예측 AI 및 머신 러닝 모델의 지속적인 관리가 필요하며, 이는 배포 이전뿐 아니라, 배포 이후에도 계속되어야 합니다. 이것은 AI 및 머신 러닝 모델을 개선하고, 수정할 준비를 갖추고 있어야 한다는 의미라고, Constellation Research의 수석 애널리스트, 설립자 겸 회장인 Ray Wang은 말합니다.
그림 8: AI가 소프트웨어 개발 및 배포 프로세스에서 주도하는 변화
AI 머신 러닝은 극적이거나 중대한 변화를 가져올 것이다
소프트웨어 개발
소프트웨어 배포
AI 구현 조직 모든 응답자
대다수 응답자가 AI가 소프트웨어 개발 및 배포 방식의 변화를 요구할 것으로 예상합니다.
“항상 데이터를 수집하고, 모델을 개선해야 합니다.
결코 만만한 작업이 아닙니다. 또한 일단 시스템을 교육한 다음에는, 시스템이 ‘잊어버리게(un-learn)’
해야 한다는 것도 명심해야 하죠.” Wang은 말합니다.
“시정 작업도 할 수 있어야 합니다. 옳다고 추정했던 패턴이 틀렸다면, 시스템을 어떻게 재교육해야 할까요?” 그는 리더들이 이 질문에 답할 수 있어야 한다고 말합니다.
머신 러닝과 AI 알고리듬은 추가적으로 유용한 데 이 터 를 입 력 하 면 결 과 를 개 선 할 수 있 도 록 설계됩니다. 데이터 분석 및 시스템 설계 컨설팅 회사 Auroral LLC의 설립자 겸 수석 컨설턴트인 Linda Zeger는 테스트를 통해 예측 모델에 문제가 없음을 보여줄 수 있지만, 그래도 지속적인 유지관리는 필요하다고 말합니다. “우선 [모델을] 사용하기 시작하면, 변화가 생기고, 시간이 지나면서 제대로 작 동 하 지 않 을 수 있 습 니 다 . 이 것 이 일 반 적 인
LINDA ZEGER, AURORAL
“ 이것은 일반적인 소프트웨어 프로젝트와는 약간 다릅니다. 심지어 배포 후에 인간과 소프트웨어의 상호작용이 변할 수 있기 때문이죠.
그리고 그 경우에, 원래 갖고 있던 모델이 구식이 되는 겁니다.”
테스트 과정은 환경 또는 운영 조건이 변해도 계속 진행되어야 합니다.” Zeger는 설명합니다.
AI와 머신 러닝 모델을 끊임없이 재평가해야 하는 한 가지 중요한 이유는 시간이 지남에 따라 시스템이 어떤 조치를 취하거나 사용자가 AI 시스템과 상호작용하는 상황에서 그 방법을 설명해야 할 때 초기 모델의 경우에는 모든 변수를 통합해서 반영할 가능성이 낮기 때문입니다.
Zeger는 자율주행차를 예로 듭니다. 테스트 운전자들은 임박한 충돌을 감지하면 차가 자동으로 제어되리라는 설명을 듣지만, 어떤 이유로든 차량이 예상대로 움직이지 않거나 위험한 상황이 된다면, 운전자가 백업 운영자 역할을 해야 합니다.
하지만 차량이 테스트 환경에서 완벽하게 운행했다고 하더라도, 소비자가 운전대를 잡았을 때는 결과가 달라질 수 있다고 Zeger는 말합니다.
“일단 그런 차를 소유하게 되면, 운전자는 차량의 자동 성능에 만족하고 익숙해질 수 있습니다. 그들은 차츰 인내심을 잃기 시작하고, ‘차가 꽤 잘하고 있는 걸. 내가 너무 신경 쓸 필요가 없겠어.’ 라고 생각하게 됩니다. 이렇게 차주가 초기 세팅과 다르게 반응하게 되면, 자율주행차의 성공은 대체로 퇴색할 수밖에 없습니다. 바로 이 시점에서 차량/운전자 시스템을 재교육하고 재평가해야 합니다.”
이 시나리오는 인적 요인의 관련성을 잘 보여준다고, Zeger는 설명합니다. “이것은 일반적인 소프트웨어 프로젝트와는 약간 다릅니다. 심지어 배포 후에 인간과 소프트웨어의 상호작용이 변할 수 있기 때문이죠. 그리고 그 경우에, 원래 갖고 있던 모델이 구식이 되는 겁니다.” 그녀는 설명합니다.
데이터는 어떻게 소프트웨어 개발 관행에 영향을 미치는가
AI가 조직에 전달하는, 데이터를 전체적이고 능동적으로 관리해야 한다는 요구는 소프트웨어 개발 관행에 영향을 미쳤으며, 아키텍처 전략에 대한 비즈니스-IT 간의 협업 필요성도 증가시켰다고 전문가와 실무자들은 말합니다. 기업들이 각자 수집하고 생성하는 데이터의 향후 사용을 계획함에 따라, 조직 전반에 흐르는 데이터가 머신 러닝과 AI 모델의 개발뿐만 아니라 모든 소프트웨어 개발에 어떻게 적용되는지에 대한 인식도 높아지고 있습니다.
이러한 태도와 접근방식의 전환이 IT 직원에게도 영향을 미쳤다고 Monteiro는 말합니다. “이제 IT 분야에서 애플리케이션을 설계하는 사람은 단지 애플리케이션에 관해서만 생각하지 않습니다. 데이터에 관해서도 함께 생각합니다. 이제 그들은 그들이 만들거나 설계하는 애플리케이션이 추후 프로세스에서 사용될 데이터를 생성한다는 것을 압니다. 10년 전만 해도 그렇지 않았습니다. 따라서 애플리케이션 제작이든 웹사이트 디자인이든 간에 이제는 데이터 품질이 설계 원칙의 핵심입니다.”
Monteiro는 AI 개발에는 기존의 애플리케이션 개발보다 더 많은 비즈니스와 IT 간 협업이 초기 단계부터 필요하다고 말합니다. 컴퓨팅 아키텍처나 특정 애플리케이션에서 데이터가 흐르는 방법, 새로운 AI 시스템이 회사의 다양한 부분에서 비즈니스 절차를 바꾸는 방법, 사람들이 사용자 인터페이스를 통해 시스템과 상호작용하는 방법 같은 AI의 양상에 관한 선택들은 이제 초기 단계부터 논의되고 있습니다.
#1
#2
#3
#4
#5
“아키텍처에 관한 비즈니스와 IT간의 사전 조정과 데이터 및 API 전략에 대한 기대치가 높아졌습니다.” Monteiro는 말합니다. “그런데 이렇게 하면 프로젝트 초기에 복잡한 문제가 생기게 됩니다. 사실 우리가 깨달은 것 중의 하나는 초반에 조정이 많이 필요했기 때문에 프로젝트가 느려졌다는 겁니다. 전에는 생각지도 못했던 많은 질문이 제기됐죠. 그러다가 데이터를 사용해야 하는 시점이 되자, 속도를 올릴 수 있었습니다. 논의를 통해 초반에 제기된 많은 문제를 해결했기에 때문이죠.”
이는 AI 프로젝트를 논의할 때 기술 전문가들이 비즈니스에 관해 더 잘 알아야 하는 것처럼, 비즈니스 전문가들은 기술이 작용하는 방식을 이해해야 한다는 의미라고 Monteiro는 말합니다. 이러한 문화적 변화는 IT 분야 리더들이 비즈니스 동료들의 질문, 즉 기술 기능과 데이터, 그리고 그것들을 지원하는 컴퓨팅 아키텍처에까지 이르는 질문에 세부적으로 답할 수 있어야 함을 의미합니다. “역사적으로 비즈니스 리더들은 지금까지는 어떤 자료가 어느 데이터베이스에 있는지에 대해서는 신경 쓰지 않았습니다. 하지만 이제는 중요한 문제가 되었기 때문에 더 이상 무시할 수 없죠.” Monteiro는 말합니다.
조직의 데이터 관리 책임 공유
데이터 거버넌스는 AI-준비(AI-ready) 데이터 전략에서 중요한 구성 요소이지만, 오직 46%의 응답자만이 공식적인 데이터 거버넌스를 운영하고 있다고 답변했습니다. 그에 반해서, 이미 AI를 구현한 조직은 데이터 거버넌스 프로그램을 보유할 가능성이 훨씬 높았습니다. AI를 폭넓게 구현한 조직 중 74%와 부분적으로 구현한 조직 중 62%는 이러한 노력에 참여하고 있다고 응답했습니다. 이미 AI를 구현한 조직을 포함해 모든 응답자가 여전히 보안과 규정 준수를 중요하게 생각하지만, 데이터 액세스, 데이터 품질, 데이터 윤리에 대해서는 그다지 걱정하지 않는 것으로 나타납니다(그림 9, “데이터 거버넌스를 주도하는 가장 큰 이슈는 여전히 보안과 규정 준수이다” 참조).
그럼에도 불구하고 신기술을 구현하려는 추진력은 데이터의 품질, 거버넌스 및 접근성 측면에서 더욱 활성화되고 있습니다. 많은 응답자가 데이터 보안(64%), 데이터 품질(61%), 데이터 프라이버시 및 접근성(각각 58%), 데이터 거버넌스(57%) 관련해서 더 많은 작업을 하고 있다고 답했습니다.
설문조사 데이터에 따르면, 누가 데이터 거버넌스를 책임져야 하는가에 대한 답변은 매우 다양합니다. 응답자 중 40%는 CIO 또는 CTO가 데이터 거버넌스에 책임이 있다고 답했지만, 나머지 60%는 다양한 답변을 내놓았습니다. 책임을 여럿이 분담하거나 다른 임원에게 할당한 조직에서도 데이터 거버넌스에 필요한 구조와 시스템은 불가피하게 기술 리더들의 해결 과제에 포함될 것입니다. 누가 궁극적으로 책임을 지게 될지 와는 상관없이, 거버넌스의 다양한 측면이 다른 그룹에 할당되거나 중앙으로 집중되거나 비즈니스 리더들에게 할당될 수도 있습니다.
그림 9: 데이터 거버넌스를 주도하는 가장 큰 이슈는 여전히 보안과 규정 준수이다.
데이터 보안 유지 우려
데이터가 개인정보 보호 또는 기타 규정을 준수하여 관리되는지에 관한 우려
내부 사용자가 데이터 품질을 신뢰하는지에 대한 우려
윤리적인 데이터 사용에 관한 우려
AI, 분석 또는 기타 애플리케이션에서 데이터에 쉽게 접근할 수 있을지에 대한 우려
데이터 품질, 데이터 윤리 및 접근성과 같은 문제에 대한 관심이 점차 커지고 있음에도, 좀 더 발전한 AI 관행을 가진 조직을 포함해서 모든 응답자가 여전히 데이터 거버넌스와
효과적인 방법: DBS Bank, 거버넌스의 중앙집중화
AI에 대한 거버넌스는 기술 위험, 규정 준수, 개인정보 보호 및 책임감 있는 적절한 사용에 관한 논의를 모두 아우르는 엄청난 노력이 될 수도 있습니다. DBS Bank는 검토 및 승인 절차를 간소화하기 위해 그러한 모든 활동을 중앙집중화하였습니다. 그러한 접근 방식이 일부 기업에는 실용적이지 않을 수 있지만, 적어도 DBS의 프로젝트 리더들은 이제 필요한 승인을 수월하게 받을 수 있게 되었습니다.
데이터 관리 인력, 그리고 사용자들이 데이터 접근과 거버넌스의 책임을 분담합니다. 두 번째 방어선에서는 내부 감사가 모든 데이터 정책이 구현되고 실행되었는지 확인해야 합니다. 세 번째 방어선에서는 기업 리스크 관리 팀과 보안 전문가가 함께 데이터 사용이 기업 전체의 데이터 거버넌스 지침을 준수하는지 살피는 것이라고 Equifax의 미국 정보 서비스 부문의 데이터 및 분석 담당 부사장인 Vickey Chang은 말합니다.
Chang은 15명의 데이터 과학자와 협력하여 신경망을 이용하는, 예를 들어, 금융 기관의 대출 신청 평가를 돕는 예측 모델 같은 것을 개발하는 연구 업무를 진행합니다.
가장 최근 시행한 프로젝트는 신용 산업을 감독하는 규제 기관이 사용할 블랙박스라고 알려진 신경망 모델을 만드는 작업이었습니다. 이 작업에는 많은 통계 모델 구축이 필요하며, Equifax의 거버넌스 프로세스는 내부 점검입니다.
“우리 팀이 여러 데이터 소스를 사용해 모델을 구축하게 되면, 우리는 고객의 요청을 충족시키기 위해 올바른 방식으로 데이터를 사용하는지 확인하기 위해 모든 적절한 데이터 승인을 받아야 하죠.” Chang은 말합니다. 데이터 관리 및 거버넌스 팀 평가는 Chang의 팀이 해당 사업부에 적용되는 데이터 규정(국가와 산업에 따라 다를 수 있음)을 준수하는지 확인하기 위한 것으로 데이터를 보유한 각 사업부와 함께 수행됩니다.
싱가포르의 DBS Bank는 은행 전반에 걸쳐 데이터 혁신을 추진하고 데이터 관리 및 거버넌스 표준을 향상하기 위한 전략적 노력의 일환으로 Data First 프로그램을 설립했습니다. 이 프로그램에서는 각 사업부의 선임 리더가 데이터 소유자로서 부서 내 모든 이가 데이터에 대해 전략적으로 사고하게끔 이끌어 갈 책임을 집니다. 또한 데이터에 영향을 미치는 법률 및 규제 요건과 관련된 모든 측면은 법무, 준법, 사무국 그룹의 상임 이사가 이끄는 데이터 우수 팀의 중심 아래 중앙에서 관리합니다.
더불어 법적 위험, 규제 준수, 데이터 개인 정보 보호 및 데이터의 적절한 사용 감독을 중앙에서 관리함으로써 DBS의 AI 및 분석 활용케이스의 검토 및 승인 프로세스도 간소화되었다고 법무, 준법, 사무국 그룹의 상임 이사 겸 책임자 Lam Chee Kin은 말합니다. 그는 “데이터 프레임워크를 조화롭게 처리하고 단일화된 자문을 얻으려면 하나의 조직을 만들어야 합니다.”라고 전합니다. 반면에 많은 다른 조직은 데이터 개인 정보 보호, 비밀 보장, 자유경쟁법, 아웃소싱, 법적 위험 같은 개별 사안을 감독하기 위해 각각 별도의 부서를 구성한다고 그는 덧붙였습니다. “여러 부서로 나뉘게 되면 결국 하나의 데이터 프로젝트를 진행하려 해도 여러 사람과 이야기를 해야 합니다. 그러면 운영 복잡성을 야기할 수 있습니다.”
그리고 AI가 기술과 데이터가 적절하게 쓰이는지에 관한 더 큰 의문을 전면에 제기함에 따라, 활용케이스 평가를 위한 공식적이면서도 간소화된 개발이 리더십의 전략적 우선순위가 될 수 있습니다. l
• 부적절한투자 수익을 가져다 준다 • 잘못된 정보를 생산할 수 있다.
• 비윤리적으로 사용될 수 있다.
• 편향되고, 잠재적으로 불법적인 결정을 지지할 수 있다.
• 인간이 설명할 수 없는 결과를 산출할 수 있다.
• 적절하게 관리하기에는 예측이 불가능하다. 26%
57%
24%
38%
13%
33%
22% 27%
35%
25% 29%
19%
신뢰, 리스크 및 문화
이번 글로벌 설문조사에는 전 지역의 응답자가 참여하였으며, 지역별 응답 패턴의 차이는 거의 없었습니다. 한 가지 예외는 AI에 대한 신뢰와 리스크에 관한 질문이었습니다. 유럽 응답자들은 사생활에서 사용하는 AI에 대한 신뢰 수준이 현저히 낮았습니다. 그리고 북미 응답자들은 AI가
AI 는 어떻게 신뢰와 리스크에 관여하는가
어
려운 문제를 해결할 수 있는 AI의 잠재력은 AI가 18세기 산업혁명에 버금가는 새로운 시대를 열어가는 모습을 지켜보는 사람들을 열광케 합니다. 동시에 인간이 무생물인 기술에 일종의 대리권과 자율성을 부여하는 상황, 심지어 지능형 개인 비서처럼 이름도 있고 우리에게 말도 하며 어느 정도의 인격도 가지고 있는 상황은 많은 사람을 불안하게 합니다. 물론 그러한 걱정의 일부는 공상 과학의 영역에 속하지만, AI의 활용에는 조직이 관리해야 할 잠재적 위험이 실제로 존재합니다.AI는 기계가 자율적인 의사결정과 행동을 취할 수 있게 하기에 신뢰성에 대한 질문이 다른 기술보다 더 시급하게 제기됩니다. AI에 대한 신뢰의 기준점을 설정하기 위해, 우리는 설문조사 그룹에게 AI 기반 시스템이 도출해낸 결과와 권장사항이 다음의 두 가지 다른 상황에서 얼마나 신뢰할 수 있는지 평가해달라고 요청했습니다. 소비자로서의 사생활과 직장에서 조직의 AI 기반 시스템과 상호작용하는 상황. 1에서 10까지의 척도에서 10이 가장 신뢰할 수 있는 수준이라고 했을 때, 응답자들은 개인적으로 AI를 사용하는 것에 대해서는 종합 평가 7점을 주었으나 조직에서 사용하는 AI에 대해서는 6점을 줬습니다.
이러한 평가가 긍정적으로 보이기는 해도, 응답자들은 AI를 신뢰하는 것에 대해서는 아직 신중한 입장을 취하고 있음을 알 수 있습니다. 이런 신중한 접근 태도는 우리가 일반적으로 논의하는 8가지 AI 리스크에 대한 사람들의 우려 정도를 측정한 결과에서 확인되었는데, 10점 만점의 척도(10이 가장 큰 우려를 나타낸다)에서 7점이라는 꽤 높은 점수가 나왔기 때문입니다. 사람들이 높은 우려를 표한 AI의 6가지 위험은 다음과 같습니다.
그나마 걱정이 덜 되는 두 가지 위험은 ‘AI가 워크플로우 또는 생산성을 저해할 수 있다’(3점)와 ‘AI는 고객에게 좋지 않은 경험을 제공할 수 있다’(4점)는 것이었습니다.
새로운 위험은 새로운 위험 관리 구조를 요한다
AI에 대한 신뢰 구축에서 중요한 요소는 위험을 관리하는 것입니다. 특히 모델이 어떻게 기능하고, 어떻게 편향을 완화하며,
모든 응답자 AI를 폭넓게
구현하는 중 일부 프로세스에서
AI 구현 AI 정책/리스크 관리 담당
그룹이 있음
AI 프로젝트
시범 운영 중 AI 채택 계획 중 AI 정책 리스크 그룹
구성 예정
AI 채택 조사 중
AI가 폭넓게 구현되면서, AI 사용에 관한 정책 개발과 관련 리스크를 관리해줄 그룹 형성이 촉진되는 것으로 보입니다.
어떻게 의도치 않은 결과를 예측하는지 이해하고 검증하려 노력하는 감독을 통해 관리해야 합니다. 응답자들은 이를 어떻게 하고 있을까요?
응답자의 절반 가량은 AI 리스크를 관리하는 조직 구조를 만들고 있습니다. 26%는 정책을 설정하고 AI 리스크를 관리하는 그룹을 가지고 있고, 24%는 그럴 계획입니다. AI를 구현한 조직은 이미 정책 설정과 AI 리스크 관리 업무를 담당하는 그룹을 가지고 있을 가능성이 훨씬 더 높습니다. 기업 내에 AI를 폭넓게 구현한 조직의 57%와 부분적으로 구현한 조직의 38%가 이러한 그룹을 갖고 있습니다.(그림 10, “AI 리스크
그림 10: AI 리스크 관리 구조의 등장
5%
6%
10%
26%
“ 우리는 규제 기관 담당자 앞에서 우리의 모델과 우리가 내린 결정을
방어할 수 있어야 합니다.
그런 일은 실제로 자주 일어나거든요. 그래서 이렇게까지 하지 않을 수가 없습니다.”
ERIC MONTEIRO, SUN LIFE
관리 구조의 등장”). 또한 5,000명 이상의 직원을 둔 대기업은 AI 리스크에 대처할 가능성이 더 큽니다. 34%의 대기업이 이러한 리스크에 대처할 그룹을 두었습니다.
설문조사에 따르면, AI 리스크 관리의 책임은 CIO, CTO 또는 CEO가 지게 되거나 그들이 분담할 가능성이 큽니다. 기존의 리스크 관리 체계에 따라 법무나 재무 부서 임원들에게 책임을 부여하는 조직은 극히 소수로 나타났습니다. AI를 구현한 조직은 관련 책임을 여러 부서에서 분담한다고 응답할 가능성이 더 높습니다. 그것은 아마도 그들의 경험이 이 기술과 더 상호 기능적으로 작용한다는 것을 나타낼 수도 있습니다. 극히 소수만이 AI 애플리케이션으로 인한 피해를 수습하기 위한 계획을 가지고 있습니다(그림 11, “AI 애플리케이션으로 인한 피해 수습 계획을 가지고 있는 조직은?” 참조).
AI를 구현하는 회사들 사이에서 한 가지 중요한 개발은 관리-검토 메커니즘의 확립이라고, Accenture의 북미 수석 데이터 과학자인 Peter Guerra는 말합니다.
“제가 지켜보고 있는 한 가지 동향은 많은 고객이, 특히 심한 규제를 받고 있는 고객들이 그들이 추진하고 싶은 것을 AI 관점에서 검토하기 위해 위원회를 구성하고 있다는 것입니다.”라고 Guerra는 전합니다. 그 위원회에는 보통 데이터 과학자, 비즈니스 리더, 법무 담당자 및 그 외 관련 전문가들이 속해 있습니다.
Sun Life의 선임 부사장 겸 선임 고객 경험 책임자인 Eric Monteiro는 그가 몸담은 글로벌 금융 서비스 및 보험 회사가 AI 사용을 관리하고 애플리케이션에서의 편향 리스크를 완화하기 위해 삼중 접근 방식을 확립했다고 말합니다. 우선, Sun Life는 편향을 테스트하기 위한 지침과 표준을 포함하는 교육을 모델 개발자들에게 제공합니다. 두 번째, 추가 데이터를 포함시키는 것이 편향을 초래하는지의 여부를 결정하기 위해 전문가로 구성된 팀이 모든 모델을 평가하여 테스트 단계 이후의 동작을 검토합니다. 세 번째, Sun Life는 추가적인 정밀 조사를 제공하기 위해 Monteiro가 회사의 재무 성과 등에 영향을 미치는 “더 중요한 모델”이라 부르는 것을 위해 특별히 AI 모델 평가 팀을 구성했습니다.
Monteiro에 따르면 Sun Life는 규제를 받는 금융 기관이기 때문에 모델 검증을 진지하게 받아들입니다. 그는 “우리는 규제 기관 담당자 앞에서 우리의 모델과 우리가 내린 결정을 방어할 수 있어야 합니다. 그런 일은 실제로 자주 일어나거든요. 그래서 이렇게까지 하지 않을 수가 없습니다.” 라고 이야기합니다.
데이터 분석 및 시스템 설계 컨설팅 회사 Auroral LLC의 설립자 겸 수석 컨설턴트인 Linda Zeger는 모델의 범위, 한계, 적절하거나 부적절한 사용 및 정확성, 그리고 모델과 사용자 간 상호작용에 관한 참고 사항 등이 포함된 AI 프로젝트에 관한 문서 유지는 리스크를 완화하는 중요한 방법이라고 말합니다. 회사는 내부에서뿐 아니라, 파트너, 고객, 그리고 최종 사용자에게도 이러한 문서를 제공함으로써 사람들이 알고리듬으로 수행할 수 있는 작업과 할 수 없는 작업은 무엇인지, 그리고 그 사용법은 어떠한지 이해하도록 도울 수 있습니다.
“제가 생각하는 가장 큰 리스크는 적용할 수도 없고 애초에 의도하지도 않았던 곳에 알고리듬이 사용되는 겁니다.
AI 프로젝트 시범 운영 중 일부 프로세스에서 AI 구현 조직 전반에 폭넓게 AI 구현하는 중 모든 응답자
그림 11: AI 애플리케이션으로 인한 피해가 발생했을 때 누가 이를 수습할 계획을 가지고 있는가?
우리는 AI 애플리케이션으로 인한 피해를 수습할 계획을 갖고 있습니다.
AI 애플리케이션은 오작동하거나 잘못된 결정을 권하게 되면 피해를 유발할 수 있지만, 고급 실무자 4명 중 1명 만이 그러한 피해를 수습할 계획을 가지고 있습니다.
15%
20%
42%
55%
그래서 의사 소통이 중요한 거죠.” Zeger는 말합니다.
그녀는 일부 조건(예: 일반적인 날씨 조건)에서는 테스트되었지만, 그 외 조건(예: 비정상적으로 짙은 연기)에서는 테스트하지 않은 자율주행차의 예를 인용합니다. “시스템 설계자는 테스트의 한계와 범위, 정확성을 문서화하고, 최종 사용자는, 예를 들어, ‘이 시스템은 일반적인 조건에 맞게 설계되었습니다’라고 적은 문서를 받아보는 것이 왜 중요한지 제가 강조하는 이유가 바로 이 때문입니다. 최종 사용자에게 이것은 명백한 블랙박스 경고와 거의 비슷합니다.”라고 그녀는 말합니다.
설명 가능성의 탐구
기술 리스크 관리를 고려하는 많은 이들이 직면하는 새로운 문제는 적절한 설명 가능성의 여부입니다. 이는 모델이 결과를 산출할 때 사용한 주요 요인을 식별하는 능력으로 의사 결정 지원 시스템의 권장사항이 될 수도 있고, 자동화 프로세스의 동작이 될 수도 있습니다.
그림 12: AI가 도출한 결과를 설명하는 능력이 선두 기업을 만든다
우리는 AI에 기반한 결정을 고객 등 외부 당사자에게 설명할 수 있다
우리는 AI에 기반한 결정을 내부 이해 관계자에게 설명할 수 있다
모든 응답자 AI를 폭넓게 구현하는 중
AI 기반 시스템이 결과를 도출한 방식 뒤에 놓인 논리를 이해하고 소통하는 것이 AI에 대한 신뢰를 형성하고, 결정이 편향되지 않도록 보장하는 핵심입니다.
이번 설문조사에 따르면, 이미 폭넓게 AI를 구현한 조직이 AI가 도출한 결과의 설명 가능성에 가장 많은 조치를 취하고 있습니다. 이들 중 55%는 내부 이해 당사자에게, 42%는 고객 등 외부 당사자에게 설명을 제공합니다(그림 12, “AI가 도출한 결과를 설명하는 능력이 선두 기업을 만든다” 참조).
설명 가능성은 불법적인 편견 없이 결정을 내려야 하는 고용이나 신용보증 같은 활용케이스에서 규제 준수를 위해 중요합니다. 또한 이는 유럽연합의 일반정보보호규정(GDPR)에도 명시되어 있는 내용으로, GDRP는 개인이 어떻게 자신의 데이터가 결정에 도달하는 데 사용되었는지 알 수 있도록 권한을 부여하고 있습니다. 다른 관할권에서도 이러한 정책이 새로운 데이터 규정에 반영되고 있습니다.
Intel의 아메리카 수석 데이터 과학자 Melvin Greer는 GDPR뿐 아니라, 캐나다의 연방 개인정보보호법에도 그 내용이 들어 있고, 미국 내 26개 주도 GDPR과 같은 법률을 개발하려 한다고 지적합니다. “우리 사회가 데이터 프라이버시와 보호에 더 중점을 둔 규제 및 법적 환경으로 이동해가고 있다고 안전하게 말할 수 있을 것 같습니다.”라고 Greer는 덧붙입니다.
금융 서비스 및 의료와 같이 규제를 많이 받는 산업들은 설명 가능성을 이해하고 관리하는 측면에서 훨씬 앞서 있습니다.
Monteiro에 따르면 Sun Life는 모델을 검사하고 검증하는 프로세스에 투자하고 있고, 알고리듬 작용을 설명하는 능력을 키우기 위해 새로운 도구를 실험하고 있습니다.
“누군가 보험을 신청했는데 승인을 받지 못했다면, 우리는 그 이유를 규제 기관에 설명할 수 있어야 합니다.”그는 말합니다. “규제 기관은 그것이 체계적인 편향이나 사회적 문제를 일으키지 않도록 확실히 하기를 바랍니다.”
Monteiro는 새로운 소프트웨어 도구들의 알고리듬 내에서 발생하는 상관관계를 설명하는 능력이 차츰 좋아지고 있다고 말합니다. “예를 들어, 우리는 그 도구를 가지고 ‘이 결정에 중요한 핵심 변수는 X, Y, Z였습니다. 그리고 이 모델은 이러한 것들을 고려했고, 이러한 결과들에 도달했습니다.’라고 말할 수 있는 거죠.”그는 덧붙입니다.
