1
김동현 수석 (AI · 미래전략센터, [email protected])
• 미백악관 예산관리실의
Russel T
.Vought
실장은 연방정부기관장들에게「
AI
어플리케이션 규정에 관한 가이드」를 각서(Memorandum
)를 통해 전달• 본 가이드의 골자는 미국 연방정부기관이
AI
어플리케이션에 대한 규정 또는 정책을 고려할 때AI
에 의한 혁신과 성장을 우선하고AI
기술의 개발과 활용을 저해하는 규제장벽을 낮추며, 글로벌 리더십, 인권 등 미국의 핵심가치를 보호하는 방향으로 접근해야 한다는 것임미백악관의 AI 어플리케이션 규정에 관한 가이드 개요
1 규정가이드의 배경과 골자
트럼프 행정부의 「행정명령
13859
」(“AI
분야에서 미국의 리더십 유지를 위한 명령”)1)에 따라서 예산관리실2) 실장은 과학기술정책국장, 국정위원회국장, 경제위원회국장과 협의 하여 「AI
어플리케이션 규정에 관한 가이드」를 작성하고 각서(Memorandum
)1)를 통해 모든 연방정부기관의 장에게 전달미백악관, AI 어플리케이션 규정 가이드 공개
- AI 미국 리더십 유지를 위한 행정명령 후속조치 -
1) 미백악관 AI정책 홈페이지: Artificial Intelligence for the American People (https://www.whitehouse.gov/ai/executive-order-ai/) https://www.whitehouse.gov/wp-content/uploads/2020/01/Draft-OMB-Memo-on-Regulation-of-AI-1-7-19.pdf
2) 미국 예산관리실(Office of Management and Budget, OMB)은 미국 대통령실의 소속기관이며 예산관리실장은 미국 내각의 일원임. 주 업무는 미국 대통령을 필두로 하는 미국 연방 행정부의 예산관리와 정부업무관리로 미국 정부기관의 프로그램과 예산정책의 집행을 관리 감독하고 예산 정책을 제대로 지키고 있는지 감시하는 기관임
- 규정가이드의 골자는 연방정부기관이 AI 어플리케이션과 관련된 규정 또는 정책을 고려할 때, 기술 발전과 혁신 성장을 우선하고 AI 기술의 개발 및 활용을 저해하는 장벽을 줄이는 방향 으로 접근할 것을 강조
- 동시에 미국의 기술력, 경제 및 국가 안보, 개인정보보호, 시민의 자유 및 인권, 법치주의와 지적 재산권 등 미국이 전통적으로 존중해온 가치를 보호할 것도 요구
- 결론적으로 규정가이드는 지금까지 미국의 건강한 혁신 생태계를 이끌어 온 자유시장경제체제, 연방주의 및 우수규제사례(GoodRegulatoryPractices)3)의 미국식 접근방식을 따를 것을 강조
2 규정가이드가 적용되는 AI 어플리케이션의 범위
규정가이드가 적용되는
AI
어플리케이션의 범위는 연방정부 밖에서 개발되고 배포되어 활용되어지는AI
어플리케이션- 연방정부기관이 현재 주어진 임무를 수행하기 위해 여러 가지 방식으로 사용되고 있는 AI 어플리케이션은 이 범위에 포함되지 않음
또한 최근 법령으로 구체화된
AI
의 정의 중, 주로 “좁은” 또는 “약한”AI
, 즉 데이터세트 또는 원천데이터로부터 의미있는 정보를 추출하고 학습하여 도메인에 특화된 작업을 배우고 수행하는, 기존의 고급 컴퓨팅을 뛰어 넘는 수준의AI
어플리케이션은 이 범위에 포함됨 - "강한" 또는 "범용" AI, 즉 다양한 영역에 적용할 수 있으며, 인간보다 더 나은 수준에서 수행할수 있으며, 인간의 능력과 유사하거나 그 이상의 일반적인 인지 능력을 스스로 향상시킬 수 있는 능력을 가진 AI 어플리케이션은 이 범위에 포함되지 않음
3 규정가이드의 기본방향 : AI로 혁신과 성장
트럼프 행정부는 「행정명령
13859
」에서 “미국정부의AI
정책목표는 국제사회에서 과학적, 기술적, 경제적 리더십의 포지션을 유지할 뿐 아니라 더욱 강화하는 것”임을 천명- 트럼프 행정부는 미국의 경제와 국가안보를 튼튼하게 유지하기 위해 AI 개발에서부터 글로벌 리더의 지위를 유지하는 것이 필수적인 것으로 인식하고 있으며 아울러 미국의 안전, 공정성, 복지, 투명성, 그리고 기타 사회적 가치를 AI 구현을 통해 이룰 수 있을 것으로 확신
3) 우수규제사례(GRP)는 국내 규정의 품질과 효율성을 개선하는 데 사용할 수 있는 국제적으로 인정된 프로세스 및 절차 또는 그 결과물을 말함. 지난 2012년 국제금융위기를 맞이하면서 건전한 규제 프레임워크의 중요성이 강조되었으며, 무역에 대한 불필요한 장벽이 경제 성장과 고용을 방해하는 것을 막기 위해 국제 표준을 포함한 규제 접근 방식으로 활용되었음
3
- 따라서 정책목표 달성을 위해 미국의 AI 개발 및 구현은 미국의 가치를 보호하고 혁신과 성장 및 신뢰를 촉진하는 방향으로 규제되어야 함. 이러한 방향으로 규제/비규제 접근 방식4)이 개발되어야 하고 AI 개발 및 구현에 불필요한 장벽은 낮추도록 하여야 함
연방정부기관은
AI
혁신과 성장을 불필요하게 방해하는 규제/비규제 조치를 금하고,AI
어플리케이션에 영향을 줄 수 있는 분야(예를 들어 자율주행차 등)에서 규제를 마련할 때, 기관은 이러한 잠재적 규제가AI
혁신과 성장에 어떠한 영향을 미치게 될지 평가해야 함 - 연방정부기관은 AI 시스템을 지나치게 높은 수준(정확도, 설명가능성 등)으로 유지하려는 사전규제 접근방식을 피하는 것이 바람직한데, 이는 AI 시스템이 줄 수 있는 편익이 줄어들 수 있기 때문임
- AI 시스템이 위험을 수반하는 경우에도, 연방정부기관은 AI 시스템이 보완 또는 교체하려는 기존 시스템 대비 AI 시스템을 사용하는 경우 잠재적 편익과 비용(BC)을 파악해야 함
또한, 연방정부기관은 연방정부의
AI
관련 규제가 주정부와 지방정부가 취하고 있는 조치 또는 잠재적 조치에 어떤 영향을 줄 지에 대하여 고려해야 함- 어떤 경우 연방정부기관은 시장의 출현을 막고, 법간 일관성이 없으며, 부담을 가중시키고, 중복되는 주정부 법과 규제가 일으키는 문제를 주어진 권한을 사용하여 해결해야 함
- AI 관련 통일된 국가 표준이 필수적이지 않은 경우, 연방정부기관은 이러한 표준과 규제조치 없이 가는 것을 고려해야 함
4) 규제/비규제 접근 방식은 정부 기관이 법과 규칙, 운영 허가, 승인 또는 실행 규약 내 이용 약관 등 규제 도구와 사회적 합의, 보상, 가이드, 우수사례, 프레임워크 등 비규제 도구를 사용하여 이해당사자의 활동을 제한하거나 지시하는 것을 의미함
참고 미백악관 행정명령 13859
트럼프 대통령이 2019년 2월 11일에 발표한 행정명령 제13859호는 「AI분야에서 미국의 리더십 유지를 위한 명령」으로, 트럼프 행정부의 AI 정책인 “미국 AI 이니셔티브”를 공개하고 관련 행정기관이 해야 할 여러 가지 후속조치를 담고 있음
- 본 이니셔티브의 총괄 기관은 2018년 국가과학기술위원회(National Science and Technology Council) 에 설치된 AI특별위원회(Select Committee on Artificial Intelligence)이며, 이니셔티브의 수행기관은 AI 관련 R&D와 투자 사업에 관련이 있는 모든 연방정부기관임
총 10개 조로 구성된 이 행정명령의 내용은 크게 1) 협력, 2) 공개성, 3) 미국우선주의, 4) 예산, 5) 규정 및 표준 등 다섯 가지로 요약해 볼 수 있음:
- R&D 투자에 있어 비(非) 연방정부 기관과의 협업을 강조하고 있고 아울러 클라우드 컴퓨팅 리소스의 이용의 개선을 위한 정부기관 간 협업도 강조
- 안전·보안·개인정보·기밀의 보호를 전제로, 연방정부기관은 데이터와 모형 중 공개가능 대상을 정하여 일반 커뮤니티와 정보, 기술을 공유하고 AI에 대한 접근성을 높일 것을 명령
- 미국우선주의와 관련하여, 미국인을 우대할 수 있는 정부 장학사업, 미국인을 우선 대상으로 하는 AI 교육과 인력 개발을 위한 권고안 마련, 국제사회에서 AI에 대한 미국의 우위를 지킬 수 있는 이행계획의 수립 등을 명령
- 예산 관련, 회계연도 2020년 이후 예산 계획을 수립할 때 해당 기관에서 진행하는 AI 사업에 우선순위를 두어야 하며, 이미 끝난 회계연도 2019년에 대해서도 AI에 대한 관심을 높일 수 있는 행정조치를 강구할 것을 명령
- 규정과 표준 관련, 예산관리실은 AI 정책목표 달성을 위한 기관별 규제/비규제적 접근 방식을 정할 것을 알리고 AI 이용을 막는 장벽의 완화 방안 등의 내용을 포함하는 각서를 작성할 것을 명령. 또한 규제권한이 있는 정부기관은 AI 적용과 관련이 있는 소관 규정을 검토하여 각서와 규정 간에 일관성 유지를 위한 규정의 조정 계획을 각서의 작성일부터 180일 이내에 예산관리실로 제출할 것을 명령. 아울러 AI 기술을 이용한 시스템의 기술표준 수립은 상무부 산하 미국표준기술연구소(NIST)에서 담당할 것을 명령
출처: 법제처, “미국 인공지능 법제”, p9~p13, (2019.06)
5
AI 정책목표 달성을 위한 AI 애플리케이션 관리 원칙
연방정부기관은 일반용이던지 특수업무용이던지 막론하고
AI
어플리케이션의 설계, 개발, 배포 및 운영에 대한 규제/비규제 접근 방식을 고안할 때 다음 원칙을 고려해야 함- 이들 원칙은「행정명령 13859」의 정책목표, 정책방향과 부합하는 것으로 연방정부기관은 이러한 원칙을 반영한 여러 가지 접근 방식을 고안하되 순 편익을 최적화하는 방식과 그것을 위한 핵심 요소가 무엇인지 고려해야 함
다음 원칙에는
AI
의 혁신적인 사용을 촉진하는 기존의 연방 규제원칙과 관행들이 대부분 반영되어 있으며 연방정부기관은 새로운 이슈에 대한 연방 규정이 필요하다는 결정에 도달 한 후에만 새로운 규정을 고안할 필요가 있음- AI의 혁신과 성장을 촉진하는 것이 미국 정부의 최우선 과제로, 새로운 규제를 만들고 따른다는 것은 혁신과 성장을 촉진하기 위한 것이어야 함
1 AI에 대한 국민의 신뢰 확보
AI
는 고용, 교통, 교육, 금융, 의료, 보안, 제조 등 사회와 경제생활의 모든 영역에 긍정적인 영향을 끼침과 동시에 프라이버시, 인권, 자율권 및 시민의 자유를 위협하는 부정적인 영향도 끼칠 수 있음- AI의 혁신과 성장을 촉진하기 위해서는 AI에 대한 국민의 신뢰를 확보하는 것이 무엇보다 중요한데, 이는 AI의 위험성을 인정하고, 프라이버시와 보안에 대한 국민의 우려를 해소하는 조치를 취함으로써 국민의 신뢰 확보가 가능함
그러므로
AI
에 대한 정부의 규제/비규제 접근 방식은 믿음이 가는 결과를 만들고(reliable
), 견고하며(robust
), 신뢰가능한 (trustworthy
)AI
어플리케이션을 촉진시킴으로써AI
에 대한 대중의 신뢰를 얻는데 기여하여야 함- 아울러 개인정보보호 및 기타 위험에 대한 규제/비규제 대응은 반드시 나타난 위험의 다양한 성격과 위험의 완화 수준에 따라 적절히 달라져야 함
2 국민의 참여 기회 제공
AI
가 개인정보를 사용하는 프로젝트 또는 프로그램에 국민 참여는 기관의 책임성5)과 규제에 따른 성과를 향상시킬 뿐 아니라 국민의AI
에 대한 신뢰와 확신을 제고하는 효과가 있음 - 연방정부기관은 가능한 한 법적 요구 사항에 부합하는 범위 내에서 국민에게 자신의 정보를제공할 수 있는 기회와 규칙 제정 과정의 모든 단계에 참여할 수 있는 기회를 제공해야 함 - 연방정부기관은 또한 가능한 범위 내에서 국민에게 정보를 제공하고 표준에 대한 인식과
가용성에 대한 확산과 기타 유익한 정보를 담은 문서를 작성할 것을 권고함
3 과학적 무결성
6)과 정보 품질
AI
애플리케이션에 대한 정부의 규제/비규제 접근 방식은AI
프로세스와 데이터 및 정보가 최대한 과학적이며, 무결성 상태로 촉진시키는데 기여해야 함- 연방정부기관은 중요한 공공정책이나 민간부문의 의사결정에 명확하고 실질적인 영향을 주는 정보를 높은 수준의 품질로, 투명하게, 그리고 내부관리규정에 맞게 유지해야 함
- 과학적 무결성 원칙에 따라 연방정부기관은 정책 결정과정과 결과를 국민에게 투명하게 알리는 등 국민의 신뢰를 증진시키는 방향으로 AI에 대한 규제 접근 방식을 개발해야 함
과학적 무결성과 우수한 정보품질을 지향하는 규제의 모범은
AI
어플리케이션의 강점, 약점, 최적화, 효과, 편향 완화 및AI
결정 활용의 적절성을 투명하고 분명하게 밝히는 것에 기반함 - 또한 연방정부기관은 AI 어플리케이션이 예측 가능하고 신뢰할 수 있으며 최적화된 결과를생성하기 위해 AI 시스템 훈련데이터의 품질이 의도한 수준에 맞도록 관리해야 함
4 위험 평가 및 위험 관리
AI
에 대한 규제/비규제 접근 방식은AI
의 혁신과 성장을 촉진하는 것을 목표로 함과 동시에 신기술에 대한 위험평가 및 위험관리를 일관되게 적용하는 것을 기반으로 함5) 책임성은 “공공기관과 공무원이 조직 내, 외부로부터의 다양한 기대와 요구되는 성과에 대한 응답과 관리”(Romzek & Ingraham, 2000;
Romzek & Dubnick, 1987), 또는 “행위자가 중요한 상대방에 대해 자신의 행위를 설명하고 정당성을 제시해야 하는 의무 를 가지는 사회적 관계”(Romzek & Dubnick, 1998)로 정의
6) 과학적 무결성은 어떤 과학 활동을 수행하고, 결과를 보고하고 적용할 때 전문적인 가치와 규정(절차)을 준수함으로써 결점이 발생하지 않는 상태를 의미함. 즉 그 과학 활동의 결과가 객관적이고, 명확하며 재현성을 보장하고 편견, 위조, 표절, 부적절한 영향, 정치적 간섭, 검열 및 부적절한 절차적 정보보안 문제가 발생하지 않는 상태를 의미함 (출처: 미국농림부)
7
모든 규제조치에는 트레이드오프 효과가 발생한다는 것이 규제 정책의 기본 원칙임(규제를 통해 어떤 위험을 완화하려 할 때 다른 위험이 커질 수 있다는 의미임)
- 위험 기반 접근법을 통해, 어떤 위험이 수용 가능하고 어떤 위험이 수용할 수 없는 피해를 줄 수 있는 위험인지 또는 예상되는 편익보다 예상되는 비용이 큰 피해를 줄 수 있는 위험인지 결정하는 것이 필요함
연방정부기관은 위험 평가에 대해 투명해야 하며, 적절한 간격으로 위험 평가의 전제와 결론을 재평가하는 등 책임성을 향상해야 함. 각 위험의 최종피해의 규모와 성격은 위험을 완화하기에 적합한 규제의 수준과 유형을 결정하는 데 도움이 될 수 있음
- 특히, 연방정부기관은 「행정명령 12866」(“규제 기획 및 검토”)7)의 지침을 따라 다양한 조치로 인한 위험을 파악하고 혁신을 금지하는 규제를 불필요하게 선제적으로 만들려는 접근을 피할 것임
5 편익과 비용
기존 산업에
AI
와 같은 새로운 기술의 도입과 활용을 촉진하려는 규제/비규제 접근방식은AI
도입과 전환을 통해 기존 산업에 상당한 경제적 잠재효과를 얻을 수 있다는 확신에 기반 함 - 행정명령 12866은 연방정부기관들에게 “순편익 (경제적, 환경적, 공중보건 및 안전, 분배의영향 및 형평성 포함)을 극대화하는 접근 방식”을 선택하도록 요구
연방정부기관은 법에 따라
AI
어플리케이션의 개발 및 활용 관련 규정을 고려하기 전에 전체 사회에 미치는 비용과 편익, 그리고 배포에 따른 파급 효과를 신중하게 고려해야 함- AI 활용 촉진을 통한 편익과 비용은 기존의 업무수행을 보완하거나 대체하도록 설계된 시스템과 비교를 통해 결정될 수 있으며, AI 시스템이 오류 유형8)을 변경하고 있는지, 다른 기존의 위험과 비교해 견딜만한 것인지 여부에 따라 결정될 수 있음
7) 레이건 정부는 1981년 2월17일, 기존 규제 및 향후의 규제가 유발하는 비용 부담을 축소하고 행정기관의 규제관리 책임을 강화하기 위한 목적으로 규제의 편익 비용 분석을 실시하도록 하는 행정명령 12291호를 발표하였고, 클린턴 정부는 1993년 9월 30일 행정명령 12291 호를 폐기하고 규제검토 절차를 설립하면서 중요(significant)규제는 OMB 내 규제업무관리국(OIRA)의 검토를 거치도록 개편하는 행정명령 12866호를 발표하였음. 이 행정명령을 계기로 미국의 영향분석 대상 규제의 범위와 OIRA의 검토대상은 1억 달러 이상 비용 부담의 중요 규제로 한정되기 시작하였음
8) 첫 번째 종류의 오류는 테스트 절차의 결과로 참인 귀무가설을 기각하는 것으로 법정의 예에서, 제1종 오류는 무고한 피고에게 유죄 판결을 내리는 것에 해당함. 두 번째 종류의 오류는 테스트 절차의 결과로 거짓인 귀무가설을 기각하지 못하는 것으로 법정의 예에서 볼 때 제2종 오류는 범죄자에게 무죄를 판결하는 것에 해당함
- 아울러 연방정부기관은 AI 편익과 비용을 평가할 때 데이터 품질과 같은 기술적 요소와 AI 활용으로 사람의 일하는 방식의 변화로 인한 위험 및 편익의 성격과 규모도 고려하여야 함
6 유연성과 민첩성
연방정부기관은
AI
의 혁신적 활용을 위한 규제/비규제 접근 방식을 개발할 때AI
어플리 케이션의 빠른 변경 및 업데이트에 적응할 수 있도록 사후 결과 기반(performance
-based
)의 유연한 접근 방식을 찾아야 함- AI 어플리케이션의 기술 사양을 사전 설계 기반(design-based)으로 엄격하게 규정하는 것은 AI의 발전 속도와 새로운 요구사항에 대응해야 할 필요성을 감안할 때 대부분 비현실적이고 비효율적임
의료, 안전, 개인정보보호 등 특정 가치 보호를 목표로 하는 기관은 필수적으로 유연한 사후 결과 기반 접근 방식으로
AI
어플리케이션 적합성평가(conformity assessment
)9)를 활용할 것을 권고함- AI 분야 미국의 혁신을 촉진하고 리더십을 유지하며 미국 AI 어플리케이션이 국제적으로 널리 사용될 수 있도록하기 위해 연방정부기관은 적어도 미국 AI 기업이 미국의 규제로 불리하지 않도록 해서 미국 AI가 국제적으로 널리 사용될 수 있도록 규제 접근 필요
7 공정성과 비차별성
연방정부기관은
AI
어플리케이션이 인종차별에 긍정적 또는 부정적 영향을 미칠 수 있다는 것을 확실히 인식하여야 함- AI 어플리케이션은 인간의 주관성에서 비롯된 차별을 줄일 수도 있지만 동시에 실세계의 편견을 학습해 차별적 결과를 증폭시키며 부조리한 의사결정을 생성할 수도 있음. 이는 결국 AI에 대한 대중의 신뢰를 약화시키는 결과로 나타날 수 있음
9) 적합성평가란 ‘기술규정 또는 표준의 관련 요건이 충족되었는지를 결정하기 위하여 직접적 또는 간접적으로 사용되는 모든 체계적 검토를 의미하며 적합성 평가에는 표본추출, 시험 및 검사, 검증 및 적합 보증, 등록, 인증과 승인 및 이들의 결합된 형태를 포함하고 있는 매우 포괄적 개념임. 적합성평가와 관련된 환경 변화는 무역장벽 압박이 제거되면서 적합성평가가 세계적으로 단일화되는 경향이 강해지고 있고, 자국의 강점을 갖는 표준이나 적합성평가 분야를 국제기준으로 확정하여 자국의 기업들에게 유리한 경쟁 환경을 제공하는 한편 관련된 표준 및 평가 자체를 산업화하려는 적극적인 시도가 있으며 최근에는 신뢰에 기반을 둔 사후규제로 규제체계를 재편하는 많은 시도가 이루어지고 있음
9
따라서
AI
어플리케이션과 관련된 규제/비규제적 접근을 고려할 때, 연방정부기관은 이슈가 되는AI
어플리케이션에 의해 생성된 결과와 의사결정에 나타난 공정성과 비차별성의 이슈를 고려해야 함- 이 뿐 아니라 문제가 되는 AI 어플리케이션이 기존 프로세스와 비교하여 불법적이거나 불공정 하거나 의도하지 않은 차별 수준을 줄일 수 있는지 여부에 대하여도 고려해야 함
8 정보공개 및 투명성
프로세스를 개선하는 것 외에도 투명성 제고와 적극적 정보공개는
AI
어플리케이션에 대한 대중의 신뢰와 확신을 높일 수 있음- 특히 AI 어플리케이션이 최종사용자에게 어떻게 영향을 미치는지에 대한 질문에 답하기 위해 AI가 언제 사용되는지, 그 시기를 공개할 것임
또한 연방정부기관은 공개 및 투명성에 대한 추가 조치를 고려하기 전에 이미 존재하는 법률, 정책 및 규제 환경으로도 충분한가를 신중하게 고려해야 함
- 공개와 투명성을 어느 선까지 확보하는 것이 적절한가 하는 문제의 답은 잠재적 피해, 그 피해의 크기, 최신 기술 수준 및 AI 응용의 잠재적 이점에 따라 다를 수 있음
9 안전(safety)
10)과 보안(Security)
11)연방정부기관은 의도한대로 작동하여야 하며 위험과 위협으로부터 안전한
AI
시스템의 개발을 촉진하여야 하며AI
설계, 개발, 배포 및 운영 프로세스 전체에서 안전 및 보안 문제를 고려해야 함- 연방정부기관은 AI 시스템에 의해 처리, 저장 및 전송되는 정보의 기밀성, 무결성 및 가용성을 보장하기 위해 적절하게 통제할 수 있어야 함
연방정부기관은 시스템의 빠른 복구를 보장하고, 악의적인 행위자가
AI
시스템 취약점을 악용하지 못하도록 하는 방법을 추가로 고려해야 함10) 안전은 해를 입힐 수 있는 환경이나 물건으로부터 보호되는 상태 또는 의도치 않게 해를 입힐 수 있는 위험을 콘트롤하여 자신을 보호할 수 있는 상태를 의미함
11) 보안은 개인, 조직 및 자산을 외부 위협 및 범죄 행위에 대해 보호하여 그러한 개체를 비활동적으로 만드는 것을 의미함. 보안은 개인, 조직 또는 자산에 해를 끼치는 의도적인 조치에 중점을 두는 것이 중요함
- 연방정부기관은 AI 정책을 평가하거나 도입할 때 잠재적인 안전 및 보안 위험 뿐 아니라 AI 어플리케이션을 악의적으로 배포하고 사용하려는 위험도 염두에 두어야 함
10 기관 간 조정
연방정부기관은 서로 협력하여 경험을 공유하고
AI
의 미국 혁신 및 성장을 향상시키는AI
관련 정책의 일관성 및 예측 가능성을 보장하면서 개인 정보, 시민의 자유 및 미국 가치를 적절하게 보호하고 부문 별 및 애플리케이션 별 접근 방식을 모색해야 함- OMB 내 규제사무국(OIRA, OfficeofInformationandRegulatoryAffairs)는 행정명령 12866에 따라 AI 관련 규제 조치 초안을 "중요"로 지정하고 기관 간 검토를 해야 하며 OIRA는 특정 조치에 영향을 받거나 관심이 있는 모든 기관에게 협력할 기회를 제공해야 함
11
참고 비규제 접근 방식
연방정부기관은 특정 AI 어플리케이션을 고려한 후 기존 규정이 충분하거나 새로운 규정을 수립해서 발생하는 편익이 비용보다 적다고 판단되는 경우, 기관은 어떤 규제적 조치를 취하지 않는 것이 바람직할 수 있음
- 또한 특정 AI 어플리케이션에 의해 야기된 위험을 해결하기 위해 적절한 비규제적 접근 방식을 찾아보는 것이 바람직할 수 있으며 이러한 비규제적 접근방식의 예는 다음과 같음
❶ 부문별 정책 가이드(Guidance) 또는 프레임워크 제시
연방정부기관은 해당 부문의 AI 혁신을 장려하기 위해 기존의 법적 권한을 사용하여 정책의 선언(윤리 강령 등), 지침 및 프레임워크의 적용확산 등 비규제적 조치를 고려할 필요가 있음
- 연방정부기관은 비규제 접근방식을 규제가 명확하지 않아 혁신이 방해를 받는 영역에 적용하는 것이 바람직 함. 여기에는 플레이북 개발 및 인센티브 프레임워크와 같은 산업계와 협력하여 만든 작업물도 포함될 수 있음
❷ 파일럿 프로그램 및 실증·실험
연방정부기관은 기존 법률에 주어진 권한에 따라 규정 면책/면제를 허용하거나 특정 AI 어플리케이션 개발에 안전한 기반을 제공하는 파일럿 프로그램을 허용할 권한을 고려해야 함. 이러한 프로그램에는 해커톤, 테크스프린트, 챌린지 및 기타 유형의 이벤트가 있음
- 이러한 프로그램 운영을 통해 연방정부기관은 AI 어플리케이션의 설계, 개발, 배포, 운영 또는 결과에 대한 데이터를 수집하여 편익과 위험에 대한 이해를 향상시킬 수 있으며, 향후 규칙 제정 및 비규제적 접근 방식에 유용한 데이터를 생성할 수 있음
❸ 민간 합의 표준(Voluntary Consensus Standards)
민간부문의 이해관계자가 개발하는 AI 애플리케이션 관련 자발적 합의 표준을 활용하는 비규제적 접근 방식은 빠르게 진화하는 기술의 요구사항을 규정하는 규제방식보다 AI 애플리케이션과 관련된 위험을 관리하기에 보다 적합한 방식이 될 수 있음
- 연방정부기관은 민간 합의 표준을 선호하는 것이 바람직하지만 관련 규정의 필요성을 평가하거나 개발할 때 독립표준기구의 구체적인 표준을 이용하는 것을 고려할 수도 있음. 또한 연방정부기관은 규정 또는 규정 준수 프로그램을 제안하기 전에 민간 적합성 평가 프로그램 및 활동을 활용하는 것을 고려해야 함
AI 배포 및 사용에 장벽 해소
「행정명령
13859
」는OMB
가 “연방정부기관이 민간 자유, 개인 정보 보호, 미국 가치 및 미국 경제, 국가 안보를 보호하면서 혁신적인 어플리케이션 활용 촉진을 위해AI
기술사용을 저해하는 장벽을 낮추는 방법을 고려하라”는 내용을 담은 각서를 만들도록 요구함- 이에 AI 기술사용을 저해하는 장벽을 낮추고 AI를 적극 수용할 수 있는 환경을 만들기 위해 규칙제정 방법이 아닌, 기관이 취할 수 있는, 대표적인 4가지 행동조치를 제시함
1 AI R&D를 위한 연방 데이터 및 모델에 용이한 접근
「행정명령
13859
」는 정부 기관에 정부 데이터 및 모델에 대한 대중의 접근성을 높이도록 요청 - 데이터(및 메타 데이터)에 쉽게 액세스하면 특정 AI 어플리케이션의 혁신적인 디자인, 개발,배포 및 운영도 용이해짐을 인식
- 정부데이터에 대한 접근을 증가시키기 위해 ‘공개, 공공, 전자의 정부 데이터 법12)’의 OMB CircularNo. A-130 “전략적 자원으로서 정보관리13)” 및 OMB 각서 M-13-13, “공개 데이터 정책: 자산으로서의 정보관리14)”에 부합하는 방식으로 수행되어야 함
- 이런 조항들이 요청하는 내용은 연방정부기관이 정보를 수집하고 생성할 때 투명성을 제고하고 다운스트림, 2차 가공 정보의 보급 및 제3자의 의한 가공처리가 가능하도록 지원함으로써 정부데이터가 손쉽게 찾아지고 접근할 수 있고 활용될 수 있도록 해야 함
또한 연방정부기관은 비연방용 연방데이터 및 모델을 쉽게 발견하고 활용할 수 있도록 하기 위해 「행정명령
13859
」의5
조에 따라 기관에 대한 향후OMB
지침을 따라야 함- 연방정부기관은 기존의 데이터공개 방식과 절차 등을 검토하여 향후 더 많은 데이터를 공개하고 통계데이터가 아닌 보다 세분화된 데이터를 제공하는 것의 적절성을 고려해야 함 - 아울러 데이터 액세스가 증가함에 따라 연방정부기관은 개인정보보호, 보안 및 국가경제 관련
중요 정보의 보호 및 공공이익 보호와 법적 제도적 요구 사항을 놓치지 않아야 함
12) he Open, Public, Electronic, and Necessary (OPEN) Government Data Act, Pub. L. No. 115-435, 132 Stat. 5534 (2019) (Title II of the Foundations for Evidence-Based Policymaking Act of 2018).
13) Office of Mgm’t & Budget, Exec. Office of the President, OMB Circular No. A-130, Managing Information as a Strategic Resource (2013), available at [https://www.whitehouse.gov/sites/whitehouse.gov/files/omb/circulars/A130/a130revised.pdf]
14) Office of Mgm’t & Budget, Exec. Office of the President, OMB M-13-13, Open Data Policy: Managing Information as an Asset (2013), available at [https://www.whitehouse.gov/sites/whitehouse.gov/files/omb/memoranda/2013/m-13-13.pdf]
13
2 대중과의 커뮤니케이션
연방정부기관이
AI
어플리케이션에 대한 규제/비규제 접근 방식을 개발하고 구현하는 프로세스는AI
에 대한 대중의 인식에 중대한 영향을 미침- 연방정부기관은 이 각서에 AI 원칙을 잘 설명하고 AI의 편익과 위험에 대해 대중과 소통함으로써 AI에 대한 대중의 적절한 신뢰와 이해를 제고하여야 함
연방정부기관은 특히 연방등록부에 게시된
AI
와 관련된 정보요청(RFI
)이 있을 때 대중과 커뮤니케이션하기 좋은 기회로 삼아 적극 대응하는 것이 필요함- RFI와 유사 알림서비스를 통해 적절한 과학적 증거를 기반으로 하는 위험평가의 정보를 제공함으로써 AI에 대하여 대중이 맥락을 알 수 있고 쉽게 인식할 수 있어야 함
- 기관은 예상결과에 대한 기본 가정과 불확실성을 긍정적 측면과 부정적 측면 모두 설명함으로써 이 정보를 투명하게 전달해야 하며 보다 구체적인 지침을 위해 기관은 AI에 대한 규제/비규제적 접근 방식을 고려할 때 과학적 무결성에 관한 OSTP의 2010 각서에 문의해야 함
3 민간 합의 표준 및 적합성 평가 활동의 개발 참여
「행정명령
13859
」는 믿음이 가는 결과를 만들고(reliable
), 견고하며(robust
), 신뢰 가능한 (trustworthy
) 시스템 개발을 지원하기 위한 기술 표준 및 관련 도구 개발에 연방 정부의 참여를 요구- AI 어플리케이션의 혁신, 사용 및 채택을 촉진하기 위해 AI 성능, 안전, 보안, 개인 정보 보호, 상호 운용성, 견고성, 신뢰성 및 거버넌스와 같은 많은 기술적 측면의 표준을 개발해야 함 - 또한 민간 합의 표준 개발에 연방정부기관의 참여는 기관이 AI에 대한 전문 지식을 개발하고
규제에 사용할 실제 표준을 식별하는 데 도움이 될 수 있음
- 「행정명령 13859」의 지시에 따라 NIST (NationalInstituteofStandardsandTechnology) 는 AI 표준에 대한 연방의 참여 계획을 개발했으며 연방정부기관은 이 계획에 따라 해당기관과 관련된 AI 표준 개발에 참여하여야 함
15) Office of Mgm’t & Budget, Exec. Office of the President, OMB Circular A-119, Federal Participation in the Development and Use of Voluntary Consensus Standards and in Conformity Assessment Activities(January 27, 2016) available at [https://www.whitehouse.gov/
sites/whitehouse.gov/files/omb/circulars/A119/revised_circular_a119_as_of_1_22.pdf.]
16) Lisa Carnahan & Amy Phelps, Nat’l Inst. of Standards and Tech., U.S. Dep’t of Commerce, ABC’s of Conformity Assessment, NIST Special Pub. 2000-01 (Sept. 2018), available at [https://doi.org/10.6028/NIST.SP.2000-01.]
민간 부문 표준 설정 조직에 참여할 때 기관은
OMB Circular A
-119
, “민간 합의 표준 개발과 사용, 적합성 평가 활동에 대한 연방 참여15)”를 준수해야 함- 국가 기술 이전 및 발전법 (NationalTechnologyTransferandAdvancementAct) 12(d) (1)항에 따르면, 모든 연방정부기관은 법과 일치하지 않거나 실용적이지 않은 경우를 제외하고 정부의 고유 표준 대신 조달 및 규제 활동에 민간합의 표준을 사용해야 함
또한 기관은
AI
어플리케이션의 적합성 평가의 효과적인 접근 방식을 고려해야 함- 적합성 평가 절차는 제품, 서비스, 시스템, 사람 또는 조직이 구체적으로 요구되는 특성(사양) 을 가지고 있다는 확신을 갖게 하는 수단을 제공하는 것으로 이러한 특성(사양)이 제품마다, 서비스마다, 시스템마다 동일하며 적합하다는 신뢰를 향상시키는 수단을 제공
- 연방정부기관은 NIST의 지침16)에 따라 적합성 평가 개념을 이해하고 기관 요구 사항을 충족 하는 효과적이고 효율적인 방식으로 적합성 평가를 사용할 것을 권고함
4 국제 규제 협력 활동
「행정명령
13609
」의 “국제 규제 협력 촉진” 조항은 「행정명령12866
」에 의해 수립된 규제 실무 그룹에 대해 특히 새로운 기술 분야에서 국제 규제 협력을 통해 규제 접근 방법 개발에 참여하기 위한 적절한 전략을 고려할 것을 요구- 따라서 연방정부기관은 개인정보보호, 시민권, 시민의 자유 및 미국 가치를 보호하면서 미국 AI 혁신을 촉진하는 일관된 규제 접근 방식을 장려하기 위해 국제협력에 참여해야 함
- 일반 대중과의 협력을 포함하여 이러한 국제 협력은 모범 사례, 데이터 및 교훈을 공유하고 미국이 AI 개발의 최전선에 서도록 보장할 수 있는 소중한 기회를 제공할 수 있음
15
정책적 시사점
우리나라 정부도 최근 「
AI
국가전략(2019
.12
)」을 발표하고 성공을 위해 핵심과제로AI
관련 규제 패러다임을 전면 전환할 것을 선언- 골자는 AI 기반 혁신 서비스의 원활한 출시를 위해 ‘先허용-後규제’의 기본방향 하에 AI 분야
‘포괄적 네거티브 규제 로드맵’ 수립
- 국내 AI 분야 규제패러다임 전면 전환을 위해 트럼프행정부로부터 규제 관련 참고할 만한 정책적 시사점은 다음과 같음
1 미국 AI 규제정책을 백악관이 직접 주도
AI
에 대한 미국 행정부의 입법활동은 주로 규칙과 고시의 형태로 산발적으로 이루어져오다가, 트럼프 행정부의 출범 이후 대통령의 행정명령을 통해 백악관의 주도 하에 본격적으로 규정 마련 작업에 착수2 연방정부기관(규제기관)에게 AI 규제 지침을 제공
지난
2020
년1
월13
일 「행정명령13859
」에 따라 미행정부 예산관리실(OMB
)은 연방정부 기관장에게 보내는 각서를 통해 연방정부기관이AI
규제에 어떻게 접근해야하는지에 대한 지침을 제공향후 연방정부기관은 지침에 따라
AI
어플리케이션에 대한 기존 규제를 검토하고, 규제 장벽에 대한 이해 관계자의 의견을 보고하며, "높은 우선 순위"의AI
어플리케이션을 식별하는 계획을 지침 발행 후180
일 이내에OMB
에 제출해야 함3 시장 통제보다는 시장 활성화 방향의 접근
이 지침에 나타난
AI
규제에 대한 미국 정부의 접근 방식을 살펴보면, 우선 시장을 통제하고 규율하기 보다는 미국의 건강한 혁신 생태계를 이끌어 온 자유시장경제체제를 유지하려고 노력연방정부기관이
AI
기술과 관련된 규정이나 정책을 고려할 때 기술과 혁신의 발전을 촉진 하는 것이 우선해야 함을 강조하고 규제가AI
사용의 확장을 어떻게 방해할 수 있는지 평가해야 함을 강조4 시장 활성화 규제 마련 시 고려해야 할 10원칙 제시
백악관 예산관리실(
OMB
)는 이 지침을 통해AI
가 기술의 혁신과 개발을 방해하는 범위까지AI
를 과도하게 규제하는 것에 대한 우려를 표명그러나 연방정부기관이
AI
응용 프로그램과 관련된 규칙과 규정이 필요하여 마련해야하는 경우, 고려해야 할10
가지 원칙도 함께 제시하여 활용할 수 있도록 지원※ AI에 대한 10가지 원칙: (1) AI에 대한 대중의 신뢰, (2) 국민 참여, (3) 과학적 무결성 및 정보품질, (4) 위험 평가 및 관리, (5) 편익과 비용, (6) 적응성/유연성, (7) 공정성과 비차별성, (8) 공개 및 투명성, (9) 안전과 보안, (10) 기관 간 조정
5 혁신성장 촉진을 위한 민간 중심 비규제 방법 제시
이 지침에 나타난 미국 정부의 또 다른 접근 방식은
AI
활용을 최대화하고 혁신성장을 촉진하기 위한 규제를 정비하고 민간 중심의 비규제 방식에 대하여 고려할 것을 강조※ 지침에서 제안하고 있는 비규제 방식의 예: (1) 파일럿 프로그램 및 실험 허용, (2) 부문별 정책지침 또는 프레임워크 장려, (3) 민간 합의 표준 및 독립적인 표준 설정 조직
아울러 이 지침에는 연방정부기관이 민간의
AI
개발을 위한 비옥한 환경을 조성하기 위해 연방정부기관이 규제를 제정하지 않고AI
사용을 방해는 장애를 제거할 수 있는4
가지 방법도 소개※ 지침에서 제안하고 있는 장애 제거 4가지 방법의 예: (1) AI R&D를 위한 연방 데이터 및 모델에 용이한 접근, (2) 대중과 커뮤니케이션, (3) 민간 합의 표준 및 적합성 평가 활동의 개발 참여, (4) 국제 규제 협력
6 명령지시적/사전적 규제보다는 위험기반/사후 규제로 접근
인공지능 기술과 같이 빠르게 변화하는 불확실성이 높은 산업환경 하에서는 투입이나 성과의 목표치 설정을 통한 명령지시적 규제는 비효율적임
미 행정부는 위험 기반 접근법, 즉 어떤 위험이 수용 가능하고 어떤 위험이 수용할 수 없는 피해를 줄 수 있는 위험인지 또는 예상되는 편익보다 예상되는 비용이 큰 피해를 줄 수 있는 위험인지 결정하고 비용 초과위험에 대해 적절한 조치를 취하도록 하는 규제방식을 선호 첨단 인공지능 산업의 발전을 촉진하기 위하여 사전허용(예, 시범사업, 임시허가, 인허가
요건·절차 최소화, 규제특례 등)을 실시하고, 사후적 규제(예, 적합성평가, 인허가 취소, 징벌적 손해배상)를 선호
17
7 국제 협력, 민간 합의 표준 및 적합성 평가 활동의 참여
민간 합의 표준 및 적합성 평가 활동에 적극 참여하고 국제 협력을 통해 모범 사례, 데이터 및 교훈을 공유하고 자국의 기업을 보호하고
AI
개발의 최전선에 서도록 보장할 수 있는 소중한 기회로 활용1 OMB, “MEMORANDUM FOR THE HEADS OF EXECUTIVE DEPARTMENTS AND AGENCIES ”, 2020.1.,
https://www.whitehouse.gov/presidential-actions/executive-order-maintaining-american- leadership-artificial-intelligence
2 Kevin M. Stack, “ GUIDANCE IN THE RULEMAKING PROCESS”, 2014.05.16., ADMINISTRATIVE CONFERENCE OF THE UNITED STATES
3 CKent Shigetomi, “Overview of Good Regulatory Practice”, Office of the U.S.
Trade Representative
4 Maeve P. Carey, “The Federal Rulemaking Process: An Overview”, 2013.06.17., CRS Report for Congress
5 The Open, Public, Electronic, and Necessary (OPEN) Government Data Act, Pub. L.
No. 115-435, 132 Stat. 5534 (2019) (Title II of the Foundations for Evidence-Based Policymaking Act of 2018).
6 Office of Mgm’t & Budget, Exec. Office of the President, OMB Circular No. A-130, Managing Information as a Strategic Resource (2013), available at
https://www.whitehouse.gov/sites/whitehouse.gov/files/omb/circulars/A130/a130revised.pdf
7 Office of Mgm’t & Budget, Exec. Office of the President, OMB M-13-13, Open Data Policy: Managing Information as an Asset (2013), available at https://www.
whitehouse.gov/sites/whitehouse.gov/files/omb/memoranda/2013/m-13-13.pdf 참고자료
8 Office of Mgm’t & Budget, Exec. Office of the President, OMB Circular A-119, Federal Participation in the Development and Use of Voluntary Consensus Standards and in Conformity Assessment Activities(January 27, 2016) available at https://www.whitehouse.gov/sites/whitehouse.gov/files/omb/circulars/A119/
revised_circular_a119_as_of_1_22.pdf.
9 Lisa Carnahan & Amy Phelps, Nat’l Inst. of Standards and Tech., U.S. Dep’t of Commerce, ABC’s of Conformity Assessment, NIST Special Pub. 2000-01 (Sept.
2018), available at https://doi.org/10.6028/NIST.SP.2000-01.
10 미백악관 AI정책 홈페이지: Artificial Intelligence for the American People https://www.whitehouse.gov/ai/executive-order-ai/
11 법제처, “미국 인공지능 법제”, p9~p13, 2019.06.30.
http://world.moleg.go.kr/cms/commonDown.do?DLD_CFM_NO=JPJXHW3ULUEOLG3CLJE2
&FL_SEQ=54538
12 김태윤, “적합성평가제도의 본질과 지향: 정부혁신과 규제개혁의 차원에서”, 적합성평가제도 활성화를 위한 전문가 포럼
13 엄석진, “정부의 책임성 : 행정이론간 비교”, 서울행정학회 춘계학술대회 발표논문집
1. 「SPECIAL REPORT」는 글로벌 미래전략과 디지털 혁신 동향을 시의성있게 분석한 보고서 입니다.
2. 본 보고서는 방송통신발전기금으로 수행한 정보통신·방송 연구개발 사업의 결과물입니다.
3. 본 보고서 내용의 무단 전재를 금하며, 가공·인용할 때는 반드시 출처를 「한국정보화진흥원(NIA)」이라고 밝혀 주시기 바랍니다.
4. 본 보고서의 내용은 한국정보화진흥원의 공식 견해와 다를 수 있습니다.
