85
2019 VOL.2

2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

  • Upload
    others

  • View
    3

  • Download
    1

Embed Size (px)

Citation preview

Page 1: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

2019 VOL.2

Page 2: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

01 5G 상용화와 함께 새로이 조명되는 엣지 컴퓨팅(윤대균 / 아주대 교수)

02 2018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표)

03 인공지능의 윤리적 이슈 및 정책 시사점(이응용 / ICT&Security 애널리스트)

04 인공지능 음성인식 시장의 현황과 전망(송진식 / 경향신문 기자)

05 넷플릭스 <킹덤>과 온라인 동영상 서비스 환경의 격변기(최홍규 / EBS 연구위원)

06 사업 실현성에 좀 더 가까워진 ‘블록체인’ 전망(유성민 / IT 칼럼니스트)

07 중국 사회보장제도시스템 동향 및 기업 대응(박성림 / 국립타이베이간호건강대학 강사)

08 스마트시티의 보안 이슈 및 시사점(서정택 / 순천향대 교수)

09 사이버보안 전문인력 양성 관련 국외 사례 분석 및 시사점(김형종 / 서울여대 교수)

10 공개 서비스를 통한 개인정보 위협 사례 분석 및 시사점(조정원 / 보안프로젝트 대표)

주제 제안 및 정기 메일 신청 | [email protected]

인터넷 정보보호 관련 이슈, 현안 등 궁금한 내용을 보내주시면 선별 후 보고서 주제로 선정될 수 있으며,

KISA Report 정기 온라인 서비스 제공을 원하실 경우 신청해주시기 바랍니다.

Page 3: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

1

5G 상용화와 함께 새로이 조명되는 엣지 컴퓨팅

윤대균 아주대학교 교수([email protected])

• (現) 아주대학교 소프트웨어학과 교수

• (現) 더블에이치 고문

• (前) 삼성전자 무선사업부 전무

• (前) 엔에치엔테크놀로지서비스 대표

국내 이동통신 3사와 주요 글로벌 통신업체들의 5G 주도권을 잡기 위한 본격적인 상용화 행보가 시작

되었다. 국내 이동통신사는 당초 2019년 3월 상용화를 선언한 바 있으나, 미국 최대 이동통신사인 버라

이즌이 2018년 10월 5G 상용화를 발표하면서 국내 이동통신사들도 서둘러 2018년 12월 첫 5G 전파를

송출하는 등 5G에서의 “세계 최초” 타이틀을 선점하려는 움직임이 본격적으로 가시화되었다. 그러나 미국

버라이즌 및 국내 이동통신사의 사실상 5G 상용화 원년은 2019년이라는 것이 일반적인 판단이다. 특히,

2019년 2월말에 개최되는 모바일월드콩그레스(MWC)를 통해 5G관련 많은 기업/기관들이 본격적으로

출사표를 던지면서, 이제 일반인들도 5G가 다양한 영역에서 가까이 다가왔음을 실감할 수 있게 될 것이다.

5G가 지향하는 세 가지 핵심 목표

모바일 네트워크가 3G, 4G(LTE)로 발전해 오면서 사용자들이 체감할 수 있는 가장 중요한 편화는 “속도”

였다. 한 때 “LTE급 스피드”라는 말이 유행하였듯이 “빠른” 체감을 대변한다고 볼 수 있다. 5G에서도 기존

LTE보다 수십 배가 넘는 10Gbps를 목표로 하고 있으니, 다시 한 번 속도로 인한 변화를 체감할 수 있게

될 것이다. 그러나 5G에서는 전송속도 뿐 만 아니라, 전송안정성, 연결규모에서도 뚜렷한 목표를 제시하고

있고 사용목적별로 구분한 세 가지 카테고리는 다음과 같다.

Page 4: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

2

각각의 카테고리는 상호 보완적이면서도 성격이 다른 애플리케이션에 적합하도록 각기 다른 기준으로

목표가 설정되어 있다. eMBB의 경우 최대 10Gbps의 초고속 데이터 전송을 목표로 하고 있는 반면,

mMTC는 100kbps 미만의 전송 속도에서 동시에 100만대 기기까지 연결시킬 수 있는 초연결성을 목표로

하고 있다. 또한 uRLLC의 경우 사용자단의 최대 지연시간은 0.5ms, 가용성은 99.999%로 매우 높은 안정성을

목표로 두고 있다. 따라서 각 카테고리별로 특화된 유즈케이스(use case)를 적용하는 것이 타당하다는 일반

적인 견해이다.

다양한 스펙트럼의 5G 유즈케이스

[출처: Ericsson]

5G와 엣지 컴퓨팅

5G에서는 이전 3G, 4G의 경우와는 달리 특히 강조하는 mMTC와 uRLLC를 좀 더 눈여겨 볼 필요가

있다. IoT의 근간을 이루는 핵심 카테고리로서, 수많은 센서와 액츄에이터(actuator)들로 구성된 네트워크

구성을 위해 필수적인 요소가 mMTC와 uRLLC이기 때문이다. 특히 자율주행 자동차나 스마트 공장 같은

소위 미션크리티컬(mission critical)한 애플리케이션에의 전송 안정성 담보는 매우 중요하고 uRLLC에

・eMBB(Enhanced Mobile Broadband, 초광대역): 화상회의, 원격진료, VR스트리밍 등과 같은 데이터 전송량이

많은 어플리케이션을 위한 광대역폭 통신을 목적으로 함

・mMTC(Massive Machine Type Communications, 초연결): 스마트시티, 스마트빌딩, 센서 네트워크, 각종 태그

트래킹 등과 같이 매우 많은 기기 간 원활한 통신을 목적으로 함

・uRLLC(Ultra-Reliable and Low-Latency Communication, 초저지연): 자율주행 자동차, 원격수술, 공장자동화 등,

전송지연을 최소로 함과 동시에 신뢰도가 높은 통신을 목적으로 함

Page 5: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

3

적합한 유즈케이스들이라 할 수 있다.

최근 즐겨 사용되는 애플리케이션들은 클라우드에 많은 의존을 하고 있다. 데이터의 저장 및 분석, 시뮬

레이션 등 주요 기능들이 클라우드에서 이루어지고 있다. 이런 요구사항에 따라 클라우드도 점차 진화하며

더 다양한 스펙트럼의 애플리케이션들을 커버할 수 있게 되었다. 아마존, 마이크로소프트, 구글과 같은

주요 클라우드 서비스 기업이 앞을 다투어 새로운 기능과 편리성으로 무장하며 시장을 이끌고 있는 가운데,

5G 확산과 함께 통신사업자들이 클라우드 다크호스로 등장할 가능성이 점쳐지고 있다. 5G의 주요 지향

점인 전송의 안정성 및 초연결성 요구사항을 충족시키기 위해서는 네트워크의 마지막 단, 즉 엣지에서의

역할이 중요해지기 때문이다. 바로 이 마지막 구간을 소유하고 있는 통신사업자들에게 엣지 컴퓨팅, 특히

엣지 클라우드 서비스를 통한 새로운 기회가 존재한다는 얘기다.

통신사업자의 클라우드 뷰

[출처: 인텔]

엣지 컴퓨팅의 중요성에 대해서는 기존 퍼블릭 클라우드 서비스 사업자들도 이미 인식하고 있다. 예를

들어, 아마존의 경우 AWS Greengrass1), 마이크로소프트는 애저 IoT 엣지2)를 통해 기 구축되어 있는

퍼블릭 클라우드 사용자를 기반으로 엣지 컴퓨팅 영역에서도 선점을 해 나가겠다는 것이다. 그러나 5G

의 본격적인 도입과 함께, 통신사업자들도 엣지 컴퓨팅 분야에서만은 주도권을 잃지 않기 위한 노력을

더 강화 할 것으로 보인다.

주요 사업자들의 엣지 컴퓨팅 움직임

북미의 대표적인 통신사업자인 버라이즌(Verizon)과 AT&T도 엣지 컴퓨팅에 대한 구체적인 실행 사례

및 전략들을 제시하고 있다. 버라이즌은 지난 1월말 실제 운용중인 5G 네트워크에서 성공적으로 엣지

1) https://aws.amazon.com/ko/greengrass/2) https://azure.microsoft.com/ko-kr/services/iot-edge/

Page 6: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

4

컴퓨팅 테스트를 완료하였고, 그 결과 망 전송지연을 반으로 줄이는 성과를 거두었다고 발표했다.3) MEC

(Multi-access Edge Computing) 장비와 이를 구동하는 플랫폼 소프트웨어를 통해 네트워크 “엣지” 단에서

의미 있는 애플리케이션을 만족스러운 성능으로 실행할 수 있었다는 것이 요지이다. 이 테스트에서는

얼굴인식 애플리케이션을 사용하여, 하나는 네트워크의 MEC 장비에서 실행을 시키고, 또 다른 하나는

컴퓨팅자원이 집약되어 있는 데이터센터에서 실행을 시킴으로써 5G에서의 엣지 컴퓨팅의 효용을 측정

하였다. 그 결과 실제 애플리케이션 실행 성능, 즉, 사용자단에서 체감하는 반응 속도는 MEC장비에서

수행한 것이 두 배 빨랐다는 것이다. 더 많은 컴퓨팅 능력이 최종 사용자에 가까운 네트워크 엣지에서

제공될수록, 5G의 핵심 목표인 저지연(low latency) 및 고가용성(high availability)을 활용한 애플리케이

션이 더욱 더 가시화 될 것이다. 자율주행 자동차에서 매우 중요한 V2X(vehicle-to-everything, 차량통신기술)

표준이 이 범주에 포함된다.4)

AT&T는 5G 시대의 비즈니스 전략을 언급하며 모바일 5G, 무선 브로드밴드(Fixed Wireless)와 함께

엣지 컴퓨팅을 중요한 한 축으로 제시하고 있다.5) 모바일 5G와 무선 브로드밴드는 인프라 관점에서의 비즈

니스 경험에 대한 것이라면, 실제 사용자들이 더욱 가깝게 체감할 수 있는 혁신적인 애플리케이션 경험은

엣지 컴퓨팅을 통해 이루어질 수 있음을 시사한다. 애플리케이션이 가장 적절한 곳에서 실행될 수 있도록

하는 것이 - 그 곳이 사용자 손에 들린 스마트폰이든, 데이터센터이든, 혹은 네트워크 엣지이든 – 엣지

컴퓨팅의 본질이라는 것이다. AT&T에서도 이러한 목적으로 MEC 솔루션을 제공하고 있다. AT&T MEC는

저지연, 고대역폭 전송속도를 필요로 하는 애플리케이션에 적합하며, 그 예로, 헬스케어 서비스, 자율주행

자동차, AR/VR과 같은 몰입형 사용자 경험, 그리고 드론 등을 들고 있다.

AT&T MEC(Multi-Access Edge Computing) 서비스 개요

[출처: AT&T]

3) Verizon Digital Media Services, “Verizon successfully tests edge computing on a live 5G network, cutting latency in half”, Jan. 31, 2019.

4) ZDNet, “What is V2X communication? Creating connectivity for the autonomous car era”, Mar. 12, 2018.5) Business Wire, “AT&T Lays Out Its Strategy for 5G in Business”, Jan. 21, 2019.

Page 7: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

5

국내 사업자들도 5G 상용화에 속도를 내는 것과 동시에 엣지 컴퓨팅에도 발빠르게 대응하고 있다. 국내

최대 통신사업자인 KT의 경우 인텔과 손을 잡고 엣지 플랫폼 구축을 시도하고 있다.6) 인텔 엣지 플랫

폼을 2018년 말까지 개발 완료하고 당초 5G 상용화 시점이었던 2019년 3월에 상용 출시한다는 계획으로

주 타겟은 스마트 공장이지만, 추후 VR, 클라우드 게임까지 영역을 확장한다는 로드맵도 함께 발표했다.

국내 최다 이동통신 가입자를 보유하고 있는 SK텔레콤은 도이치텔레콤과의 공동투자를 통해 엣지

컴퓨팅을 추진하고 있다7). 함께 투자한 실리콘밸리의 모바일엣지X(MobileedgeX)라는 회사의 기술과 경험을

공유함으로써 엣지 컴퓨팅 시장에 대응한다는 전략이다. 글로벌 통신장비 업체인 삼성전자의 경우, 엣지X

파운드리(EdgeX Foundry)에 합류하여 표준 플랫폼 개발에 참여하고 있는데,8) 엣지X는 리눅스재단에서 주

관하는 오픈소스 기반 엣지 플랫폼 개발 프로젝트이다.

향후 전망과 과제

엣지 컴퓨팅이 기술적으로는 분산시스템으로부터 발전해 왔다고 볼 수 있다. 비즈니스 측면에서는 네트

워크에 연결되는 기기의 규모와 다양성 확대를 활용하기 위한 솔루션으로 본격적인 관심을 끌기 시작했다.

특히 기존 클라우드의 컴퓨팅 능력에 의존하던 애플리케이션들이 점차 고성능 디바이스의 컴퓨팅 능력을

활용하게 되면서, 클라우드와 대비되는 개념으로의 엣지 컴퓨팅이 두각을 나타내기도 하였다. 조금 더

확대 해석하여, 디바이스와 직접 연결된 네트워크 마지막 단에서 제공되는 클라우드 서비스를 “엣지 클라

우드”로 부르며, 이 또한 엣지 컴퓨팅의 범주에 포함시키기도 한다.

이동성과, 안정성, 여기에 초고속 전송까지 필요로 하는 최신 트렌드 애플리케이션을 수용하기 위한

기반 인프라로서 5G가 있다면, 이를 최대한 효율적으로 활용하며 애플리케이션 요구사항들을 충족시키기

위한 핵심 기술이 엣지 컴퓨팅이다. 커버하는 영역도 광범위하고 다양한 관점에서의 정의가 가능하기에,

단순 기술이라기보다는 새로운 “컴퓨팅 패러다임(paradigm)”으로 보는 것이 오히려 더 적합할지도 모른다.

이미 기존 글로벌 클라우드 기업들이 자사 서비스 포트폴리오에 엣지 컴퓨팅을 포함시켜 시장 선점을

꾀하고 있으나, 5G 상용화 확산과 함께 통신사업자 및 장비사업자의 공격적인 시장 진출이 본격화 될

것으로 전망된다. 특히 통신사업자의 경우 새로운 수익모델로서의 엣지 컴퓨팅에 대한 기대가 높을 것

이고 향후 수년간 네트워크 “엣지”에서의 기존 클라우드 사업자와 통신사업자간의 일전도 조심스럽게

예측해 볼 수 있다.

엣지 컴퓨팅이란 용어 자체가 별로 특별하지 않게 받아들여지는 보편화된 기술로 자리 잡기까지는 통신

사업자만의 노력으로는 불가능해보인다. 장비업체, 서비스업체, 플랫폼업체 등이 함께 상생할 수 있는

6) 뉴스1 “KT·인텔, 5G 스마트공장 상용화 위해 '엣지 컴퓨팅' 맞손”, 2018년 8월 29일7) RCR Wireless News, “Deutsche Telekom and SK Telecom will invest in areas including edge computing and

quantum cryptography”, Oct. 23, 2018.8) The Linux Foundation, “Samsung Joins EdgeX Foundry to Accelerate Open Source Development of Industrial

IoT Edge Platform”, Sep. 11, 2017.

Page 8: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

6

“에코시스템” 구축이 당면 과제이다. 각기 다른 관점에서 어떻게 엣지 컴퓨팅을 자신의 비즈니스에 접목

시킬 수 있을까 검토하는 단계를 넘어 상호 호환되는 기술을 통해 시장을 키우기 위한 노력이 수반되어야

한다는 것이다. 통신 사업자의 입장에서도 5G 구축에 필요한 투자를 최소화하며 비즈니스에 실제 사용

될 수 있는 차별화된 솔루션에 집중해야 새로운 먹거리들을 창출해 낼 수 있을 것이다. 솔루션 확보 차원

에서 해외 기업들과의 협력은 조금씩 가시화 되고 있으나, 국내 통신사업자들 사이의 엣지 컴퓨팅 관련

협력은 아직 찾아보기 힘들다.

미국 버라이즌이나 AT&T에서도 MEC(Multi-Access Edge Computing) 솔루션 사업화 시동을 걸고 있고,

ETSI(European Telecommunication Standards Institute, 유럽전기통신표준협회)에서는 5G 상용화로 인해 MEC

표준화 논의를 가속화 할 것으로 보인다. 2014년에 결성된 ETSI MEC 그룹에서는 최근 “Decode(Deployment

and Ecosystem working group)”라는 워킹그룹을 개설하고, 본격적으로 표준 API를 사용한 MEC 기반의 시스템

구현 및 서비스 실시를 할 예정이라고 한다.

국내 관련 주요 기업들도 새로운 기술과 환경에서 각자 먹거리를 찾는 노력만 기울일 것이 아니라, 에코

시스템 구축을 위한 상호협력, 국제 표준기구에서의 활동 등 숨이 가쁜 행보가 절실하다는 인식을 함께

해야 할 것이다.

Page 9: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

7

2018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미

한상기 테크프론티어 대표([email protected])

• (現) 테크프론티어 설립자 겸 대표

• (前) 세종대학교 ES 센터 교수

• (前) KAIST 문화기술대학원 교수

• (前) 다음커뮤니케이션 전략 대표

AI 인덱스 보고서란?

2017년 12월에 필자가 작성한 바 있는 KISA 리포트의 주제는 ‘2017년 AI 인덱스의 의미’였다. 당시

이 인덱스 보고서에 대한 설명을 다음과 같이 했다.

스탠포드의 인공지능 100년 연구의 한 프로젝트로 시작한 ‘AI 인덱스’ 프로젝트는 개방된 방식의

비영리 과제로 인공지능 관련 활동과 진보를 추적하기 위한 과제이다.

또한 이 과제를 위해 수집한 모든 데이터는 'aiindex.org' 사이트에 공개해 다른 사람도 추가 데이터를

제공하거나, 모인 데이터를 분석하고, 어떤 주제를 추적하기 원하는지 주고받을 수 있는 더 큰 규모의

커뮤니티 구성 프로젝트이다.

2018년 12월에도 보고서가 발간되었다.1) 그러나 2018년 보고서는 AI100 산하의 프로젝트에서 독립해서

스탠포드 대학의 ‘인간 중심 인공지능 연구소(HAI)’가 주관하는 노력으로 변화했으며, AI100와 HAI의

공동 협력으로 수행했다.

이번 보고서를 작성한 전문가들은 하버드, MIT, 스탠포드, 오픈AI, PAI(인공지능 파트너십) 소속 전문가

들이며, 보고서의 미션은 마찬가지로 인공지능과 관련된 데이터를 추적, 수집, 정제하며, 시각화 하는 노력

1) Stanford News, “A Stanford-led survey of trends in artificial intelligence finds advances in working with human languages, global reach,” Dec 12, 2018.

Page 10: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

8

이며, 정책 입안자, 연구자, 임원, 저널리스트등과 대중이 데이터와 분석에 대한 광범위한 자원을 갖고

인공지능이라는 복잡한 영역에 대한 직관을 갖게 하는 것이다.

보고서는 아래와 같이 4개 부분으로 이루어져 있다.

・활동량과 기술적 성과에 대한 데이터

・최근 정부 정책들, 파생 측정 지표와 인간 수준에 도달한 다양한 성과 등 추가 지표

・우리가 무엇을 놓치고 있는가에 대한 토의

・부록

양적 데이터에 해당하는 것은 활동 규모를 측정하는 학계, 기업, 기업가, 일반 대중에 의한 인공지능

활동과 참여 수준을 의미한다. 학부 학생이 인공지능 수업에 얼마나 참여하는지, 인공지능 직업에 도전

하는 여성 지원자의 비중, 인공지능 스타트업에 대한 벤처 캐피털의 투자 규모 성장 등이 대표적인 지표

들이다.

기술성과 지표는 시간에 따른 인공지능 성능의 개선 변화에 초점을 맞췄다. 질의응답 수준, 개체 확인을

위한 학습 속도 등을 측정한 결과이다.

2018년 인덱스는 전년보다 각 나라 수준의 변화와 지표를 측정했다. 로봇 설치 대수나 인공지능 컨퍼런스

참가자 수, 특허, 로봇 운영 체제 다운로드, 대규모 객체 파악 성능 수준을 비교하는 COCO 리더보드 같은

지표도 추가했다.

다음 절부터 주요 측정 데이터와 확인된 변화를 하나씩 살펴보도록 하자.

2018년의 주요 지표들 – 연구 분야

인공지능 관련 논문 발표는 ‘스코퍼스(Scopus)’2)를 통해 확인된 결과 1996년 기준으로 8배 이상 증가

했으며, 이는 컴퓨터 사이언스 논문 증가(약 6배), 모든 논문 증가에 비해 급속한 성장이다. 흥미로운 점은

유럽이 전체 28%로 가장 많은 비중을 차지하고 있고, 중국은 2007년에서 2017년 사이 150%가 증가해

25% 비중을, 미국이 17%를 차지했다. 그러나 인용 지수로 보면 미국 저자들이 글로벌 평균보다 83%

더 많이 인용되고 있다.

영역별로는 머신 러닝과 확률 추론, 뉴럴 네트워크, 컴퓨터 비전, 검색과 최적화, 자연어처리와 지식

표현 등의 순서이다. 2010년 이후 아카이브(arXiv)에 올라온 공개된 논문을 범주별로 보면 컴퓨터 비전과

패턴 인식이 가장 많은 비중을 차지하고 그 다음이 머신 러닝이며 컴퓨테이션과 언어 비중의 증가가 눈에

띈다. 이 얘기는 언어 지능 문제에 도전하는 연구가 많아지고 있다는 추세를 말하고 있다.

2) 스코퍼스는 네델란드 엘스비어 출판사가 2004년에 만든 우수 학술논문 인용지수를 의미한다.

Page 11: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

9

글로벌 연구 활동과 비교하는 상대 활동 인덱스를 미국, 유럽, 중국에 대해 확인한 결과는 재미있는

동향을 보인다. 미국이 인문학과 의료 부분이 강한 것에 비해(유럽도 유사한 동향), 중국은 공학 분야와

농업 과학 쪽의 상대 인덱스가 크게 나온다. 즉, 세계 평균을 1로 놓았을 때, 1보다 큰 수는 다른 나라에

비해 더 많은 연구가 이루어지고 있음을 말한다.

상대적 활동 인덱스

논문 출간자의 소속을 기준으로 하면 중국과 유럽은 정부 관계 기관 소속이 많지만, 미국은 기업이

높은 비중을 차지한다. 2017년 기준으로 미국의 기업에서 나온 인공지능 논문은 중국의 6.6배에 달한다.

2018년 미국 인공지능 학회에 제출한 논문과 채택된 논문의 비중을 보면 제출 논문의 70%, 채택 논문의

67%가 미국과 중국에서 나온 논문들이다. 한국은 60개 제출에 14개가 채택된 나라로 이스라엘과 이태

리보다 약간 많은 수준이다. 작년 보고서에서도 언급된 상황이지만, 2017년에는 2012년에 비해 머신 러닝

개론 과목을 수강하는 학생이 5배 늘었다. 특히 인공지능과 머신 러닝을 포함하면 중국의 칭화대학은

16배로 급증했다. 이를 가르칠 수 있는 교수 요원의 확보는 이제 각 나라 주요 대학의 큰 과제로, 점점

더 많은 교수 요원이 기업으로 옮기거나 창업을 하고 있기 때문이다.

2018년의 주요 지표들 – 산업 분야

샌드 힐 이코노메트릭스 자료에 따르면, 2015년 1월부터 2018년 1월까지 활동하는 미국 내의 인공지능

스타트업은 113% 늘었다. 타 분야가 28% 증가한 것에 비해 매우 큰 차이를 보이는데, 이는 2013년부터

2017년까지 인공지능 분야에 대한 벤처 캐피털 투자가 350% 증가한 것의 결과일 수 있다.

Page 12: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

10

인공지능 스타트업의 증가

인공지능 인력에 대한 수요 증가 역시 눈에 띄게 변했는데, 몬스터닷컴에 올라온 일자리 증가를 보면

수요 자체는 머신 러닝 기술과 딥러닝이 주도했으며, 성장을 보면 딥러닝의 증가는 2015년에 비해 30배

이상 늘어났다. 그러나 데이터를 보면 여전히 71%의 지망자는 남성이라는 통계가 나온다.

인공지능 기술자 영역별 구인 증가 추세

이번 보고서에 새로 등장한 지표는 매킨지가 2천여 명에 대한 서베이 조사로 얻은 자료로, 분야별 각

지역의 역량 수준 비교인데, 아직은 북미, 유럽, 아시아 태평양 지역별로 크게 다른 모습을 보이지는

않는다. 다만, 가장 역량을 갖추었다는 분야가 로봇자동화, 컴퓨터 비전, 머신 러닝, 그리고 물리적 로봇

공학 분야이다. 인공지능 기술 도입에서 산업별, 영역별을 통해서 보면 통신의 서비스 운영, 하이테크의제품/

서비스 개발, 리테일의 마케팅/세일즈 등이 가장 많이 인공지능 기술이 도입되어 있는 분야로 나타난다.

공공 관심 수준을 정량화 한 지표도 발표되었는데, 요약하면 다음과 같다.

・미디어에서 인공지능에 대한 언급은 2016년부터 2018년까지 긍정적인 글이 1.5배 나타나 과거에 비해 바뀐 흐름을 알 수 있다.

・미국, 캐나다, 영국 의회에서 머신 러닝이나 인공지능에 대한 언급이 2016년 이후 급격히 증가했다. 이는 정책이나 법률 담당자들의 관심이 크게 늘어난 것으로 볼 수 있다.

Page 13: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

11

주요 기술 성과들

2018년에 확인한 주요 기술 지표들을 시각, 언어 처리 등의 분야 별로 여러 챌린지나 성능 확인이

가능한 연구 결과를 통해서 정리하면 다음과 같다. 그러나 전체 기술성과를 총 망라하지 못하고 있으며,

분야별 기술에 대한 정리가 아직은 많이 부족한 상황이다.

・객체인식의 표준으로 활용되고 있는 이미지넷의 학습 시간은 2017년 6월과 2018년 11월을 비교하면 16배 빨라졌다.

・구 구조 구문분석(constituency parsing) 성능은 2003년에 비해 10% 증가했다

・기계번역에서 영어를 독일어로 번역한 BLEU 점수3)는 2008년에 비해 3.5배 향상되었다.

・알렌인공지능 연구소에서 발표한 자료에 따르면, 질의 응답을 위한 ARC(AI2 추론 챌린지) 기준으로 쉬운 셋에서는 2018년 4월 63%에서 2018년 11월 69%로 향상되었고, 도전 셋에서는 27%에서 42%로 크게 개선되었다.

・질의응답의 또 다른 벤치마크인 GLUE4)에서는 80% 수준의 정확도 점수를 얻었는데, 현재 비전문가 인간수준을 90% 정도 수준으로 판단하고 있다.

기타 다른 지표와 보고서에 언급된 내용

‘AI 인덱스’가 기본적으로 정량적 지표를 측정해 전 세계 인공지능 연구 수준과 산업 현황, 기술성과를

파악하자는 의미이기 때문에 지속적으로 같은 지표를 통해 발전을 확인하는 것이 가장 핵심이다. 그러나

산업계의 변화 흐름이나 정부 정책의 중요성 역시 확인할 필요가 있으며, 이에 따라 2018년 보고서에서는

주요 국가의 정부 정책 수립 현황이 정리되어 있다. 특히 미국보다 유럽의 다양한 협력과 보고서, 프로

그램 채택 내용과 중국의 움직임을 정리했다는 것이 그동안 미국 중심의 보고서에서 탈피하고자 하는

노력으로 보인다.

유럽에서 발간된 2018년 4월 ‘인공지능을 위한 협력 선언’, 유럽 집행부의 ‘인공지능 커뮤니케이션’,

그리고 ‘호라이즌 2020’ 프로그램에서 향후 10년 동안 200억 유로를 인공지능 연구에 투자한다는 내용을

언급했다. 6월 유럽 집행부가 제안한 ‘디지털 유럽’ 프로그램에 인공지능 기술발전과 활용이 강조되어

있음을 언급한다.

또 다른 흥미를 끄는 국가 정책으로는 미국 국방부 산하 방위고등연구계획국(DARPA)의 ‘AI 넥스트’

프로그램으로 20억 달러 이상을 인공지능 기술 한계를 넘어서기 위해 집행한다는 것과 미국 하원의 정보

3) Bilingual Evaluation Understudy의 약자로 자동 번역 및 동일한 소스 문장에 대해 사람이 만든 하나 이상의 참조 번역 간의 차이를 측정하는 점수(출처: 마이크로소프트 웹사이트)

4) GLUE(General Language Understanding Evaluation) 데이터셋은 다양한 자연어처리 과제를 모아 놓은 것으로 자연어 처리 솔루션들을 객관적으로 비교 평가하기 위한 목적으로 만들어졌다.

Page 14: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

12

기술 소위원회가 발표한 백서 ‘기계의 부상: 인공지능이 미국 정책에 미치는 영향 증가’가 관심을 끈다.

이번 보고서에 새로 등장한 것은 인간 수준에 도달한 인공지능 기술의 다양한 성과를 정리하기 시작했

다는 것이고 2018년에 확인한 것들은 다음과 같다.

・중국어–영어 번역: 마이크로소프트 기계 번역 시스템

・딥 마인드의 퀘이크 III 아레나 ‘깃발 뺏기(Capture the Flag)’

・오픈AI 팀이 ‘도타 2’에서 아마추어 인간 팀을 이긴 사례(일부 제약)

・구글 딥러닝 시스템이 전립선 암 판정 정확도를 70% 수준으로 올려, 인간수준 61%를 넘긴 것

이는 앞으로도 매우 다양한 영역에서 발표되고 검증될 것이며, 인공지능 기술 성장 평가에서 아주 흥미

로운 결과 리스트가 될 것이다.

아직 부족한 부분

‘AI 인덱스’ 보고서가 계속 진화하지만 인공지능 전 분야의 상태를 정확히 파악하기에는 아직 부족

하거나 더 추가해야 하는 요소들이 많이 남아 있다. 인공지능 전문가들이 말하는 추가해야 하는 부분은

다음과 같다.

・상식추론과 자연어 이해 – 대화를 유지하기 위한 깊이 있는 자연어 이해는 아직 도전 영역이다. 대화 기반 인공지능 시스템의 역량을 측정하고 상식 추론을 위한 지표 개발이 필요하다.

・인간과의 협력 수준 평가

・인공지능 요소를 갖는 로봇

・정부예산 지출과 군사적 목적에 대한 파악

그러나 이런 분야를 모두 확인하고 평가하기 위해서는 보다 객관적인 데이터, 성과에 대한 표준 평가,

상호 검증을 위한 노력이 같이 이루어져야 한다.

국내에서도 우리 수준을 단지 전문가들의 주관적 평가가 아닌 실증 데이터와 객관적 지표를 통한 평가

분석을 위한 노력이 있어야 하며, 이를 위한 공공의 협력과 지원이 필요하다. 다행히도 지난 2018년 12월

10일 정보화진흥원(NIA)에서 나온 보고서 ‘데이터로 측정하는 우리나라 인공지능 분야 수준’은 2017년

‘AI 인덱스’ 보고서에서 제시한 지표를 갖고 현재 우리 수준을 평가한 보고서5)이다. 이러한 노력이 매년

지속적으로 이루어질 수 있어야 의미를 갖는다고 본다.

5) 한국정보화진흥원, “데이터로 측정하는 우리나라 인공지능 분야 수준,” IT & Future Strategy, 제 11호, 2018.12.10.

Page 15: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

13

인공지능의 윤리적 이슈 분석 및 정책 시사점

이응용 ICT&Security 애널리스트([email protected])

• (現) ICT&Cybersecurity 애널리스트

• (現) 통신 및 정보 보안 석사과정(University of Victoria)

• (前) KISA 조사분석팀장

• (前) 데이콤 연구원(네트워크/SW개발방법론)

배경

최근 AI 기술 활용이 국방, 물류, 안전, 보건 등 다양한 산업과 서비스로 확대되면서 각국 및 기업들은

AI 기반의 역량 강화와 경쟁우위를 확보하기 위해 치열하게 경쟁하고 있다. 주요국들은 AI의 밝은 청사진을

제시하며 국가 AI 전략을 연이어 발표하고 있으며, 미래 ICT 환경의 글로벌 산업생태계를 선점하기 위한

준비를 가속화하고 있다. AI 활용에 대한 정부의 역할이 중요해지면서 미국, 중국, 영국, 프랑스, UAE, 캐나다

등 주요국들은 미래 산업 생태계에서 경쟁력 제고를 위한 AI 정책과 전략을 마련하고 추진 중이고, 글로벌

IT 기업들은 생산성 향상을 통한 경쟁 우위를 위해 AI 전략을 마련하고 AI를 기업의 사업과 서비스 제공에

적극 활용하고 있다.

주요국의 AI 정책 및 전략 현황

[출처: Medium.com]

Page 16: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

14

국가와 기업의 적극적 AI 연구개발 투자와 시민들의 활용의 증가는 인류의 편익을 획기적으로 향상시킬

수 있는 계기가 될 것으로 예상되나, AI 활용에 따른 잠재적인 위험을 인식하고 AI 초기 단계인 현시점에서

다양한 윤리적 이슈를 해결할 필요가 있다는 정책입안자들과 시민사회 등의 목소리도 동시에 확산되고

있다.

국방 분야의 윤리적 이슈

인류 역사의 시작과 함께 전쟁은 항상 인간사회에 공존하였으며, 1950년대 이후 핵 전쟁은 인류 전체의

생존을 위협할 수 있다는 인식이 팽배하였다면, 이제는 군사 분야에서 AI 기술의 활용이 증가하면서 AI

기반의 자율무기시스템이 미래의 전쟁을 결정하고, 인류 생존을 위협하는 도구로 악용될 수 있다는 우려가

증폭되고 있다. 전문가들과 고위 군 당국자들은 로봇에 대한 전 세계 지출이 2020년의 1,880억 달러로 증가

할 것이며, 전쟁에서 살생 등의 목적으로 사용될 수 있는 킬러 로봇(Killer robot)의 사용이 수년 내 광범위

하게 확산될 것으로 전망하고 있다.1)

군사 분야에서의 AI 이용에 대한 우려가 자율무기시스템 개발에 초점이 맞추어져 있다. 군사력 확장을

위한 AI 활용에 적극적인 미국과, 중국은 AI를 이용한 무기시스템 개발에 대해 상대국을 의심하는 눈초리로

주시하고 있다.2) 중국은 AI를 국가의 전략적인 발전 목표로 설정하였으며, 차세대 인공지능 개발 계획에서는

2030년에 중국이 AI 분야에서 글로벌 리더로 성장하는 것을 전략적 목표로 제시하고 있다. 미국 국방부는

AI를 군사적 우위를 달성하기 위한 목적에 도입을 추진 중이며, 트럼프 행정부는 국가적 차원에서 AI에

대한 투자를 확대하고 있다.

군사적 목적의 AI 활용에 대한 우려가 제기되면서, 2017년 8월 UN은 치명적 자율무기시스템에 관한

회의를 소집하여 집중적으로 논의했으나 '킬러 로봇' 금지에 대한 국제적 합의에 도달하지 못했다.3) 다수

국가들은 인간의 감시를 받지 않고 자율적으로 행동하는 탱크, 전투기, 군함과 같은 자율무기시스템의

악용을 방지하기 위해 새로운 자율무기시스템 관련 조약을 제정해야 한다고 제안하였다. 이러한 자율무기

시스템 제재 제안에 오스트리아, 벨기에 등이 지지에 새롭게 동참하면서 26개국은 자율 무기시스템의

완전한 금지를 지지하게 되었다. 반면, 미국, 러시아, 이스라엘, 호주 등은 자율무기시스템 개발과 이용에

따른 잠재적 이점이나 이익을 먼저 탐색하는 것이 필요하다고 의견을 제시하며, 자율무기시스템을 완전히

금지하는 새로운 국제조약 제정에 동의하지 않았다. 특히 미국은 시민의 안전을 향상시킬 수 있는 잠재력이

높은 AI 기술을 현재 단계에서 개발을 금지하는 것은 시기상조라는 입장을 표명하였다.

이러한 상황에서 AI의 군사적 활용에 대한 일반 시민들의 반대의 목소리도 커지고 있다. 최근 미국 국방

부는 AI 활용 관련된 국방 계획으로 메이븐(Maven) 프로젝트에서 글로벌 거대 IT 기업인 구글이 참여를

결정한 후, 구글 연구원들이 회사가 국방부의 메이븐 프로젝트 참여를 격렬하게 비판하면서 군사무기

1) The hill, Ethical implications of artificial intelligence and the role of governments, 2018.9.28.2) Wired, THE AI COLD WAR THAT THREATENS US ALL, 2018.10.23.3) Killer Robots, Ban Blocked by US and Russia at UN Meeting, 2018.9.3.

Page 17: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

15

분야의 AI 시스템에 대한 윤리적 이슈를 촉발한 바 있다. 미국 국방부는 메이븐 프로젝트에 구글의 참여를

통해 AI 기반의 대량 감시 영상 분석 기술 개발을 추진하고자 하였다. 그러나 구글 연구원들은 메이븐 프로

젝트가 목표로 하는 시스템이 잠재적으로 사람을 상대로 한 표적 살생으로 악용될 것을 우려하며 프로젝트

참여를 꺼리면서, 구글은 국방부와 추가 계약을 체결하지 않기로 최종적으로 결정하였다. 반면, 메이븐 프로

젝트의 결과가 살생 무기로의 악용 위험은 존재하지만 동시에 감시 영상 분석 기술은 테러리스트와 일반

인의 트럭을 구별하여 시민에 대한 테러 공격 위험을 사전에 탐지함으로써 시민의 안전을 도모할 수 있다는

긍정적 의견도 있다.

사법 및 경찰 분야의 윤리적 이슈

사법 및 경찰 분야에서 AI 활용은 DNA 샘플 분석 등 범죄자의 범죄 행위에 대한 증거를 수집하는 데

소요하는 시간을 기존의 수개월에서 수일로 단축을 가능하게 하는 등 다양한 기회를 제공할 수 있다. 반면

방법, 치안, 기소, 재판 등을 위한 AI의 예측분석과 자율판단시스템은 데이터에 의존하기 때문에 AI 시스템에

입력된 데이터가 부정확하거나 편향적이면 AI 시스템의 자율적 판단과 결정이 편향적일 수 있고 개인의

사생활 침해나 조직적 편견 등의 윤리적 문제를 유발할 수 있다.

프로퍼블리카(ProPublica)는 범죄 재범 가능성을 예측할 목적으로 이용되는 미국의 AI 위험 평가시스템이

아프리카계 미국인 위반자에 대해 편파적이라는 연구보고서를 발표하였다.4) 연구보고서는 AI 위험 평가

알고리즘이 인종 간 격차 이외에도 폭력범죄 예측 능력에서 신뢰가 부족하다고 지적하며, AI 기술 이용에

대한 심각한 우려를 제기하였다. 프로퍼블리카의 연구결과, AI 위험 평가에서 아프리카계 미국인들은 백인에

비해 고위험군으로 분류될 가능성이 2배 이상 높게 표시된다고 설명하였다.

흑인과 미국의 위험 평가 점수 비교5)

2번 음주 운전 체포 2가지 약물 복용 체포

[출처: Propublica.org]

4) Propublica, Machine Bias: There’s software used across the country to predict future criminals. And it’s biased against blacks, 2016.5.26.

5) Accenture, Realizing the full value of AI in banking, 2018.4.4.

Page 18: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

16

금융 분야의 윤리적 이슈

기존부터 많은 고객 데이터를 활용하고 있는 금융 기관들은 AI 기술의 진보에 따라 AI 투자에 적극적으로

참여하고 있다. 금융 분야에서는 은행 등 금융 서비스 부문은 기술 투자에 뒤쳐지는 경향이 있었으나, AI에

대한 투자는 다른 산업보다 적극적으로 투자하면서 2020년까지 투자 규모가 100억 달러에 이를 전망

이다.6) 특히 금융기관의 CEO 등 고위임원의 76%는 자사의 AI 도입이 금융기업의 경쟁력 제고를 위한 핵

심적 요인으로 인식하고 있는 것으로 조사되었다.

Accenture의 은행 임원 대상 AI 활용 인식 조사7)

설명 %

• 은행의 CXO(CEO, CIO, CFO 등) 중 AI 도입이 기업의 차별성을 높이는 핵심요인이라고 인식 76

• 은행의 임직원 중 인간-기계 협업이 기업의 전략적 우선순위를 달성하는데 중요하다고 인식 51

• 은행의 CXO 중 기업의 직원들이 지능적인 기술을 통해 업무 수행을 할 수 있다고 인식 26

금융기관 및 IT 기업의 AI 기반의 금융서비스 분야 시장 진출이 활발하게 진행되고 있다.8) IBM, 오라클,

마이크로소프트 등 IT 거대기업들은 UiPath 및 Automation Anywhere와의 파트너 관계를 통해 RPA(Robotic

Process Automation) 시장을 탐색하기 시작하였으며, 캐피털원(Capital One), 월지파고(Wells Fargo),

BOA(Bank of America) 등 금융기관들은 웹, 문자메시지, 모바일앱을 통해 채팅 봇을 구현하고 있다. 바이두

(Baidu)와 인텔은 금융서비스, 배송, 비디오 콘텐츠 탐지에 이르는 응용 프로그램을 선보이며 AI 분야 상호

협력하고 있으며, 바이두 클라우드(Baidu Cloud)는 중국의 은행을 위한 금융서비스를 위해 인텔의 딥 러닝

네트워크(인텔 ® MKL-DNN) 등을 활용하고 있다.9)

그러나, 금융서비스 분야에서 AI 활용이 빠르게 확산되면서 AI 잠재력을 통한 서비스 개선에 대한 기대가

증폭되는 동시에 AI 활용에 따른 우려도 다각적으로 제기되고 있다. 특히, 신기술 도입에 대한 불확실성,

불평등 증가 우려 등의 우려가 고조되고 있는 상황이다.

또한, 보안 및 윤리적 문제가 대두되고 있다. 금융 AI 기반 서비스에 대한 적절한 감독이 없다면 금융

AI 시스템은 새로운 시스템적 위험을 초래할 수 있다. 금융 AI 시스템은 예상치 못한 새로운 위험이 출현

하고, 금융 AI 시스템 간의 집단적인 충돌 가능성, 사이버공격에 따른 금융사고의 발생들의 위험이 존재

한다. 또한 금융 AI 시스템은 편향된 고객 정보, 신용 정보, 금융 거래 정보 등이 고의적으로 입력되면, 금융

AI 시스템은 고객의 신용 등을 편향적으로 판단하고, 편향된 고객 서비스를 제공할 수 있다.

6) KPMP, Banks are spending billions of dollars on AI to give their customers an Amazon-like experience, 2017.12.14.7) Accenture, Realizing the full value of AI in banking, 2018.4.4. 8) Lendacademy, Use Cases and Trends in Artificial Intelligence for Financial Services, 2018.8.15. 9) streetinsider, Baidu(BIDU), Intel(INTC) Enter AI Collaboration for Financial Services, Shipping and Video Processing, 2018.9.4.

Page 19: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

17

의료 및 보건 분야의 윤리적 이슈

일반 국민들의 건강에 대한 관심이 증가하고, 선진국에서 고령화가 진행되면서 의료, 및 보건 분야에서

AI 기술의 활용이 뜨거운 쟁점으로 대두되고 있다.10) 인간보다 신속하게 CT를 스캔할 수 있는 딥러닝 알고

리즘, 비정형 의료기록 데이터를 판독하는 자연언어처리(NLP) 등 의료분야에서의 AI 활용 범위가 확장되면서,

의료업무의 급진적인 변화를 초래할 전망된다.

다른 분야와 마찬가지로 의료분야에서 AI의 사회경제적 혜택을 기대하는 낙관론자와 새로운 위험을 우려

하는 회의론자의 시각이 팽팽히 상존하고 있다. AI를 통한 환자 건강 상태에 대한 통찰력 향상, 의사와

환자의 의료정보 교환방식의 간소화 등 잠재적인 편의성 향상에도 불구하고 AI는 개인정보보호 및 윤리

문제, 의료사고 등 다양한 위험을 동시에 내지하고 있어, 일반인들의 기대와 우려를 동시에 받고 있다.

AI 기반 다빈치 수술 시스템(da Vinci Surgical System)11)

미국 인튜이티브 서지컬(Intuitive Surgical)사가 개발한

대표적인 의료시스템인 다빈치 수술 시스템(da Vinci

Surgical System)은 2000년에 미국 FDA의 승인을 획득,

대형 절개 대신에 배꼽 주변의 2.5cm 미만의 구명을

통해 로봇 기구를 삽입하여 수술을 진행하고 전 세계

3,600여대 이상 설치되어 있음

의료 분야의 AI 활용은 다양한 윤리적 이슈를 초래할 수 있다. 의료 AI 시스템이 의사를 완전히 대체하지

않더라도 전통적인 의사와 환자의 관계형성을 저해할 수 있다. 의료 AI 도입 시 환자(소비자)가 의사(공급

자)와 상호작용, 병원과 환자의 데이터 교환 방식 등 다양한 의료 주체의 관계형성에서 변화가 예상된다.

현재 의사, 임상의, 간호사 등은 환자와의 관계형성을 대부분의 다른 활동(의료 데이터 분석 등) 보다 중요

하게 간주하므로 의료 AI 시스템 활용은 환자의 인간적인 교류를 감소시켜 의사와 환자와의 직적적인 관계

형성을 저해하는 장애요소로 작용할 수 있다. 이에 따라 일부 의료종사자, 의료기관들은 AI 도입에 따른

관계형성 측면의 부정적 의견을 피력하며, 의료 AI 도입에 반대하는 입장을 견지하고 있다. 의료종사자들은

AI 시스템 도입에 따른 자율적인 진료 및 전자적 의료기록 생성 등은 환자와 의료서비스 공급자들과의 관

계형성을 가로막을 것이며, 의사들이 환자와 직접적으로 대면하고, 의사소통하는 대신에 전자기록 판독, 의

료 데이터 입력 등 비언어에 활동에 매몰될 수 있다고 우려한다.

또한 의료 AI 시스템 확산에 따른 개인정보보호 문제가 확산되고 있다. 의료 데이터가 격리되어 있고,

10) Healthitanalytics, Arguing the Pros and Cons of Artificial Intelligence in Healthcare Computerwork, 2018.9.17.11) Wikipedia, da Vinci Surgical System, 2019.2.25.

Page 20: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

18

고품질 의료 데이터를 활용하기 위한 시스템이 발전되지 않는 의료생태계에서 의료 AI 도입을 활성화하기

위해 보안과 개인정보보호 보장은 선결적인 과제로 작용할 수 있다. 의료 부문에서 AI 도입 관련 개인정보

보호에 대한 우려는 이전보다 점차적으로 감소하고 있는 추세를 나타내고 있으나, 여전히 의료 AI 관련 개인

정보보호에 대한 우려가 높은 상황이다. 2013년의 한 조사에서는 데이터과학자의 대다수인 88%가 다양한

형태의 의료 데이터 분석 관련해서 잠재적 개인정보침해를 우려하였다.12) 이후 5년 후 2018년 4월 SAS의

조사에 따르며, 환자의 35%는 AI 시스템이 자신의 개인정보를 안전하게 저장할 것이라고 인식하였다.13)

의료 AI 시스템에 대한 신뢰를 향상시키기 위해 개인정보보호와 고품질의 데이터 확보가 중요하지만 의료

기관들은 시스템 준비가 미흡한 실정이다. 시스템개발자와 데이터과학자는 의료 AI 시스템을 학습시키고,

고품질의 유용한 의료 데이터를 생성하기 위해 정확하며, 다양한 고품질 데이터가 필요하나, 현재 의료기관

들은 AI 도입을 위한 준비가 미흡한 상황이다.14) 최근 들어 일부 의료기관들은 의료 데이터에 대한 인식이

개선되면서 데이터 관리, 공유, 보안, 재사용에 대한 새로운 정책과 접근법을 채택하고, 의료기관 경영진들은

데이터에 대한 투자를 확대하고 있다. 조사 결과에 따르면, 의료기관의 최고정보책임자(CIO) 중 40% 이상이

AI와 머신러닝 투자를 확대할 계획이라고 표시하였다.15)

아울러, 의료 AI 도입 관련 난해한 문제로서 의료 사고 등에 따른 책임의 문제가 있다. 의료 AI 도입 관련

치명적인 의료 사고, 실수에 대한 궁극적 책임자 규정과 의료사고 발생에 따른 법률적, 재정적인 문제가

발생할 수 있다. AI 알고리즘은 내재적으로 복잡한 코드로 구성되어, 해석이 복잡하며, AI 알고리즘이 진보

할수록 일반인의 AI 도구의 의사결정 프로세스에 대한 해석이 더욱 어려워진다. AI가 인간의 뇌에 내재된

사회적 또는 경험의 편견으로부터 완전히 자유로울 것으로 쉽게 가정하지만, 실제로는 다양한 개발자의

편견이 포함된 데이터로 학습한 의료 AI 시스템의 경우에 의료 AI 시스템이 인간보다 다양한 편견을 갖게

되고, 잘못된 판단을 내릴 수 있다. 현재로는 AI의 편견을 결정하는 신뢰할 수 있는 메커니즘이 부재한

상황이다. 자신의 의사결정에 대한 합리적 근거를 제시하지 않는 블랙박스형 의료 AI 시스템은 의료 사고

발생 시 책임성 문제와 직결된다. 다양한 의료 기관들은 의료 분야의 AI 도입 관련 주요 윤리적 및 법적

난제에 대해 인식하기 시작하였다. 액센츄어의 2017 조사에 따르면 의료기관 경영진의 66%는 AI 혁신이

법적 규제 관련 문제에 직면했다고 인식하였으며, 42%는 자율규제 컨소시움에 가입하는 등 자율규제를 위한

조치를 이미 수행하고 있다고 응답하였다.16) 미국의 식약품청(FDA), 임상결정지원(CDS) 연합, 하버드대학

등은 AI 관련 최악의 시나리오를 피하면서 안전하고 윤리적이며 지속가능한 방식으로 환자 치료를 제공

되도록 지원하기 위한 지침을 제공하고 있다. FDA는 안전한 임상결정지원도구, 의학기기 프로그램, 디지털

의료 제품 관련 개발자와 벤더를 위한 3개 지침을 발표했으며, 하버드대학의 정밀의학, 인공지능, 그리고

법률에 관한 프로젝트를 추진하고 있다.

12) Revolutions, Results of survey of statisticians at JSM 2013 conference, 2013.9.13.13) Prenewwire, Consumers are more comfortable with AI in healthcare than other industries, per a SAS survey, 2018.4.9.14) Infosys, Leadership in the Age of AI- Adapting, Investing and Reskilling to Work Alongside AI, 2018.15) Healthitanalytics, CIOs Plan to Invest More in AI, Predictive Analytics, Big Data Tools, 2018.2.23.16) Accenture, Digital health Technology Visio 2017, 2017.

Page 21: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

19

AI 윤리 체계 마련을 위한 주요국 및 기업의 활동

AI의 잠재적 영향력과 위험성에 대한 인식이 향상되면서 주요국들의 AI 윤리에 대한 논의와 함께 윤리

기준을 발표하고 있다. 특히 2018년은 전 세계적으로 AI로 인한 사회변혁에 대한 광범위한 인식이 확산되

면서 AI 개발과 이용의 윤리가치를 모범사례 수준으로 향상시키기 위해 주요국의 정부와 AI 업계의 이해

관계자들의 정책, 지침, 행동규범 등이 지속적으로 발표하였다.

IEEE는 AI 및 자율시스템의 윤리적 설계를 개선하기 위한 프로젝트를 장기간 진행하고 있다. IEEE는

2016년에 기술윤리 프로그램의 일환으로 AI 및 자율시스템에 대한 윤리적 고려사항에 대한 프로젝트를 착수

하였으며, 이 계획의 기본 원칙으로는 AI 및 자율시스템의 개발과 이용자와 사회의 가치와 일치시킴으로써

AI 알고리즘 시대의 발전을 위한 측정 기준으로 인간 복리의 향상을 우선하는데 있다. IEEE 글로벌 이니셔

티브의 주요 목표는 모든 기술자가 자율적이고 지능적인 시스템의 설계 및 개발에서 윤리적 고려 사항의

우선순위를 결정하기 위해 교육받고, 권한이 부여받도록 보장하는 데 있다.17) 현재 IEEE는 지속적인 연구를

통해 윤리적인 설계 v2(Ethiciall Aligned Design vesion 2)를 공개적인 논의를 위해 발표하고 다양한 의견을

수렴하고 있다. 최근 MIT 미디어랩은 확장 위원회(Council on Extended Intelligence)의 구성을 발표하며,

인간과 기계의 관계에 대한 이해를 기반으로 한 설계를 연구하고 있다.

영국 디지털문화미디어스포츠부(DDCMS)은 데이터의 적절한 사용을 위한 데이터 윤리 프레임워크18)

(‘18.8월), 의료 관련해서 데이터 기반 보건 기술을 위한 행동강령19)(‘18.9월) 등을 발표하였다.

영국 DDCMS의 데이터 윤리 프레임워크

원칙 설명

원칙1명확한 이용자 필요 및 공공 혜택

으로 시작

Ÿ 이용자(시민과 공무원) 모두에게 무엇을 성취하려고 하는지

항상 명확히 함

원칙2 관련된 법규 및 관행 숙지 Ÿ 데이터 사용과 관련된 법과 관행을 이해해야 함

원칙3 이용자 필요에 적합한 데이터 이용Ÿ 데이터 이용은 사용자 요구에 비례해야 함(원하는 결과를

얻는 데 필요한 최소 데이터 사용)

원칙4 데이터 제한에 대한 이해Ÿ 정부에서 정책 및 서비스 설계를 알리는 데 사용되는

데이터를 잘 이해해야 함(데이터의 한계 고려)

원칙5강력한 프래틱스(practice)를 사용

하고, 기술(skill) 범위 내 작동

Ÿ 특정 접근 방식이나 도구를 높은 수준으로 사용하기 위해,

자신의 기술이나 경험이 부족한 분야를 인식하면서 자신의

기술 범위 내에서 작업해야 함

원칙6 작업의 투명성과 책임성을 확보Ÿ 가능한 공개 환경에서 작업하면서 수행 시 사용한 도구,

데이터, 알고리즘에 대해 투명해야 함

원칙7 책임성 있는 방식으로 데이터 이용 Ÿ 개발팀과 구현팀은 견고한 평가 계획을 통해 결과 및

데이터 모델을 사용하고 모니터링 방식을 이해야 함

[출처: service.gov.uk]

17) IEEE Spectrum, IEEE Global Initiative Aims to Advance Ethical Design of AI and Autonomous Systems, 2017.5.29.18) Gov.uk, Data Ethics Framework, 2018.8.19) Gov.uk, Initial code of conduct for data-driven health and care technology, 2018.9.

Page 22: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

20

글로벌 IT 기업들의 AI 윤리 관련 AI 시스템 개발에 대한 기본적인 원칙을 개발하고 있다. 2018년에 마이

크로소프트(MS)와 구글은 모두 AI 개발에 대한 지침을 제공하는 원칙들을 발표하였다. 마이크로소프트와 구

글은 AI 시스템 개발 관련 용어는 일부 상이하지만 공정성, 안전성, 신뢰성, 개인정보보호, 보안, 책임성 등

유사한 원칙을 추구하고 있다. 바티칸 교황청은 마이크로소프트와 함께 AI 윤리적 이용 방안에 대한 논의

했다. 2019년 2월 브래드 스미스 MS 사장은 프란시스 교황을 만나 AI 윤리적 이용방안에 대해 논의하고,

바티칸과 MS는 AI의 공익적 이용을 위해 공동으로 학술 활동을 지원하기로 하였으며, 바티칸은 올해

’인류의 삶을 위한 AI’란 주제로 MS와 공동으로 박사학위 논문 대회를 개최할 것이라고 발표하였다.20)

국내에서는 2018년 카카오가 국내 최초로 AI 윤리헌장을 개발하여 프랑스 파리 유네스코(UNESCO) 본부

에서 열리는 인공지능(AI) 정책 포럼에서 AI 기업 윤리에 AI 윤리헌장을 발표하고 시행하고 있다.

마이크로소프트와 구글의 AI 원칙21)

구분 마이크로소프트 구글

1공정성: AI 시스템은 모든 사람들을 공정하게 대우해야 함

AI는 불공정한 편향성을 만들거나 강화하지 말아야 한다.

2신뢰성과 안전성: AI 시스템은 신뢰할 수 있고 안전하게 작동해야 함

AI는 안전하게 구축되어야 하며 안전 시험이 수행되어야 함

3개인정보보호 및 보안: AI 시스템은 안전하고 개인정보보호를 하여야 함

AI에 대해 개인정보보호 설계 내재화(Privacy by design)를 실시해야 함

4격차해소(Inclusiveness): AI 시스템은 모든 사람의 역량을 강화하고 모든 사람이 참여하도록 해야 함

AI는 사회적으로 혜택을 제공해야 함

5 투명성: AI 시스템은 이해가능해야 함 AI는 높은 수준의 과학적 탁월성을 유지해야 함

6책임성: AI 시스템을 설계하고 보급하는 사람들은 책임성을 갖아야 함

AI는 사람들에게 책임성을 갖도록 해야 함

7 - AI는 상기한 원칙에 부합한 이용을 위해 제공해야 함

[출처: Propublica.org]

20) 전자신문, 바티칸-MS, 인공지능(AI) 윤리적 사용 방안 논의, 2019.2.14. 21) Kempitlaw, Legal Aspects Of Artificial Intelligence (v2.0), 2018.10.25.

Page 23: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

21

AI 윤리 관련 정책적 시사점

주요국들과 글로벌 IT 기업들은 AI의 잠재력을 인식하고, 글로벌 경쟁력 확보 등을 위한 국방, 치안, 금융,

의료 등 산업 전 부문에 걸쳐 AI 도입을 확대하면서, AI 시스템의 제공할 다양한 혜택에 대한 기대와 동시에

다양한 사회적 부작용과 오남용 우려에 따른 AI 윤리적 체계 마련도 시급한 상황이다.

정부 및 규제당국은 산업 전반의 AI의 영향에 대한 면밀한 분석과 미래사회에 대한 예측을 통해 AI

도입에 따른 불확실성을 줄이고, 인간과 공존할 수 있는 윤리적인 AI 시스템 개발을 위한 정책적 노력이

절실히 요청된다. 일부 국가와 IT 기업 중심으로 AI 시스템의 윤리적 기준 마련을 위한 노력이 진행되고

있으나, 전 세계적으로 윤리적 AI 시스템을 구축하기 위해 국가 간 이해와 협력이 절실한 상황이다. 현재

까지 자율무기시스템에 대한 윤리 기준 등 AI 윤리에 대한 전 세계적으로 합의에 이르지 못하고 있는 상황

이므로, 국내에서 윤리적 AI 시스템 모델 마련을 위해 노력을 적극 추진한다면, 국제적인 AI 윤리 논의

과정에서 주도적인 역할을 수행할 수 있을 것이다. AI가 본격적으로 도입되기 이전에서 AI 시스템 설계

단계부터 정부, 산업계, 대학, 시민사회 등의 함께 참여하여 새로운 AI 시대에 적합한 투명성, 책임성, 보안성

등을 갖춘 윤리적 AI 모델 정립과 AI 시스템에 대한 법제적 체계를 정비를 강화할 필요가 있다.

Page 24: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

22

인공지능 음성인식 시장의 현황과 전망: 기업별 서비스를 중심으로

송진식 경향신문 기자([email protected])

• (現) 경향신문 정책사회부

• (前) 주간경향 경제산업팀장

• (前) 경향신문 산업부 전자IT팀장

• (前) 경향신문 사회부

음성인식 서비스 시장 개요

제한된 성능과 기능으로 별다른 주목을 받지 못하던 음성인식 기술은 2010년 이후 머신러닝을 기반

으로 한 인공지능(AI)이 결합되면서 비약적인 발전을 하기 시작했다. 양방향 커뮤니케이션을 가능하게

한 4G 이동통신망의 진화, 클라우드 서비스의 보편화, 고성능 GPU 등과 같은 하드웨어의 발전까지 이뤄

지면서 현재 가장 주목받는 AI 기술로 평가받고 있다.

음성인식은 AI가 성공적으로 실생활 기술과 결합한 첫 번째 사례로 받아들여졌고, 이는 곧 비즈니스

기회의 창출을 의미한다. 가트너(Gartner)는 2018년 AI로 파생된 글로벌 비즈니스 가치를 1조2,000억 달러

(1,350조원)로 평가했고, 이중 음성인식을 활용한 ‘가상 비서’가 차지하는 비중이 절반에 가까운 46%에

달할 것으로 전망했다. 가트너는 2019년 소비자와 스마트폰 간 상호작용 중 20% 가량이 음성인식에 기반을

둘 것으로 전망했다.

이에 따라 음성인식 서비스 시장은 글로벌 IT 기업들의 각축장으로 확대되어, 현재 음성인식 기술은

지능형 비서, 인공지능 비서, AI 스피커 등 다양한 이름과 브랜드를 가지고 있다. 그러나, 바탕은 음성

인식을 기반으로 하고 있고, 큰 범주 안에서는 컴퓨터와 인간의 자유로운 대화라는 최종 목적지를 향해

가는 동일한 서비스로 볼 수 있다.

Page 25: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

23

음성인식(Speech recognition) 관련 연구의 시발점은 1954년 IBM과 조지타운대학1)이 공동으로 참여한

기계번역(Machine-translation) 기술 개발 프로젝트까지 거슬러 올라가기도 하지만 본격적인 상용화 시기

로는 2011년 애플의 지능형 비서 서비스인 ‘시리(Siri)’ 출시를 기점으로 본다.

언어기술의 발전 과정

[출처: 음성인식 AI 비서 시장의 현황과 시사점]

이후 구글 나우(Google now, 2012), 마이크로소프트 코타나(Cortana, 2014), 페이스북 엠(M, 2015)이

연이어 상용화되고, 2014년 거치형 스피커 형태의 아마존 에코(Echo)가 출시된 이후 구글홈(Google

Home, 2016), 애플 홈팟(Homepod, 2017)이 공개되며 경쟁이 본격화되었다. 전 세계적으로 200개 이상의

기업이 지능형 개인비서 시장에 뛰어들고 있으며 개인용(B2C)뿐 아니라 기업용(B2B)으로도 다방면으로

침투가 예상된다.2)

국내 기업도 삼성전자, LG전자, SK텔레콤, 네이버, 카카오, 현대자동차 등 업종을 안 가리고 음성인식에

기반한 다양한 서비스를 개발하거나 출시 중이며, 향후 음성인식은 가전기기, 헬스케어, 금융 등 4차 산업

혁명 분야 산업계에서 업무 혁신 및 생산성 향상을 위한 도구로 폭넓게 활용 될 전망이다.

정부는 2018년 5월 AI 원천·응용 기술력을 세계 4위권으로 높인다는 목표 아래 2022년까지 2조2,000

억원을 투자하기로 결정했다. 또한, 음성인식 기술의 밑바탕이 되는 AI 전용 빅데이터를 2022년까지 1억

6,000만 건을 구축하고, 음성인식 성능을 좌우하는 가장 중요한, 원천 데이터가 되는 한국어 말뭉치 152

억 건을 구축·개방키로 결정했다.

1) <더 이코노미스트>, 2015.7.1.2) <음성인식 AI 비서 시장의 현황과 시사점>, 정보통신정책연구원 최지혜, 이선희

Page 26: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

24

음성인식 기능의 분류

음성인식이 다양하게 적용되면서 기술도 서비스별로 점차 분화되는 추세다. 지능형 비서 서비스의 경우

음성인식의 허브 역할을 하면서 여러 개의 기능을 제공하고 있어 서비스별로 형태를 나누는 게 무의미해

보일 수 있지만 각 산업 부분별로 연관성에 따라 특정 기능이 더욱 강화될 가능성이 존재하므로 주요

기능별로 구분해볼 필요가 있다.

기기 및 IoT 제어

음성인식 기능의 가장 기본적인 형태로 음성명령 등을 통해 특정 기기에 액세스하고 대화형으로 상호

작용한다. 음성인식이 내장된 스마트폰을 허브로 다른 기기들과의 IoT를 구성하거나 최근 유행하는 AI

스피커처럼 직접 특정 기기용 제어 시스템으로 개발했다. 예시로 “엄마에게 늦는다고 전해줘”, “소리 좀

줄여줄래” 등과 같이 음성으로 명령할 수 있다.

Pixabay

정보검색

음성인식과 연계된 포털이나 웹을 통해 사용자가 원하는 정보검색 후 음성을 통해 전달할 수 있다.

예시로 “오늘 날씨가 어때”, “유에스(US) 달러 환율이 얼마지” 등이 검색 가능하다.

음성 대화 인터페이스(채팅)

기기에 내장된 음성인식 인공지능과 자유롭게 대화 할 수 있다. 채팅의 오류를 줄이고 다양성을 높이

려면 방대한 말뭉치 자료 확보가 필요한데, 과거의 음성 인식 기술은 아나운서가 책을 읽듯이 발성하는

Page 27: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

25

음성을 대상으로 하는 낭독체 음성인식 기술이 주로 연구대상이었으나, 현재 딥러닝 및 잡음 처리 기술의

발전으로 인해 현재는 사람 간의 자연스러운 대화 음성을 대상으로 기술 고도화가 이루어졌다.3)

음성인식 통·번역 기존의 통번역기가 텍스트를 바탕으로 한 것이라면 음성인식을 통한 통번역은 실시간

통번역이 가능해 활용 가치가 무궁무진한 것으로 평가받고 있다. 구글은 2019년 CES에서 ‘구글 어시스턴

트’를 통한 통번역 기능을 공개했는데, 이는 기존 2개 국어에서 4개 국어까지 통번역 기능을 확장한 것이

특징이다. 국내에서는 네이버가 ‘파파고’, 소프트파워가 ‘만통’ 등의 통번역 애플리케이션을 선보인 바 있다.

기업별 서비스 현황

구글

전 세계 80%에 달하는 웹 검색 시장을 장악하고 있는 구글은 20년간 축적돼온 사용자들의 방대한 검색

데이터, 알고리즘을 활용해 2010년 이후 공격적인 AI 분야 투자를 집행해왔다. 2014년에 ‘알파고’로

유명세를 떨친 ‘DeepMind'를 인수하는 등 2010년 이후에만 15개가 넘는 관련 기술기업을 인수하며,

음성인식 서비스 시장 역시 AI와 머신러닝의 강점을 바탕으로 스마트폰 인공지능 비서, 채팅 및 통번역,

홈 IoT에 이르기까지 음성인식 서비스 풀 라인업을 추구해오고 있다.

구글의 스마트폰 비서 ’구글 어시스턴트‘ 실행 예시

구글은 2012년 스마트폰 비서 서비스인 ‘나우’를 출시하며 시장 진입했다. 2016년에 나우의 업그레이드

버전인 ‘구글 어시스턴트’를 선보이며 서비스 확장에 들어갔다. 안드로이드 생태계 조성 전략과 마찬가지로

2016년 12월엔 자체 AI 플랫폼인 ‘액션 온 구글’을 개발자들에게 개방해 음성인식 서비스 생태계 조성에

나섰다. 2017년엔 어시스턴트 개발지원 도구까지 추가 지원하며 매년 개발자들과 소통하면서 생태계 확산

중에 있다.

3) <음성언어 처리 기술 어디까지 왔나>, 이경님

Page 28: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

26

현재 구글 어시스턴트는 구글이 제공 중이며, 향후 선보일 다양한 음성인식 서비스의 허브 역할을 하고

있다. 2016년 9월 출시한 구글의 텍스트 기반 챗봇 메신저인 ‘알로’는 어시스턴트를 기반으로 이와 연동

된 여러 기능을 제공하고 있다. 알로의 경우 2019년 3월까지만 서비스를 제공하고 종료할 예정인데, 해외

언론 등은 구글이 알로를 대체할 ‘챗(chat)’이라는 서비스를 준비 중이라고 전하고 있다.

구글의 AI 스피커 ‘구글홈’

2016년 11월 미국에서 처음 출시한 AI 스피커인 ‘구글홈’은 어시스턴트가 내장된 스피커로, 구글홈은

빼어난 미러링 기술을 보였던 ‘크롬캐스트’의 플랫폼을 띄고 있으며, 호환이 되는 다른 가정 내 가전기기

들을 구글홈을 통해 음성인식을 제어할 수 있게 제작되었다. 2017년 11월엔 구글홈의 축소판인 ‘구글홈

미니’도 출시해 시장 확대에 나서고 있다.

국내 시장에서는 2017년에 구글 어시스턴트의 한국어 지원 시작되었고, 당시 “한국 출시 계획이 없다”

던 구글홈과 구글홈 미니는 2018년 9월 한국 시장에 출시했다. 구글홈은 구글의 대표적인 국내 파트너

사인 LG전자의 일부 가전과 호환돼 음성으로 기능 제어가 가능하다.

아마존

AI 연구에선 후발주자였던 아마존은 2014년 11월 자체 인공지능 플랫폼인 ‘알렉사(Alexa)’를 탑재한 AI

스피커인 ‘아마존 에코’를 출시하며 단숨에 음성인식 서비스 분야의 세계적인 강자로 떠올랐다. 온라인

쇼핑이 주요 비즈니스 모델이었던 아마존은 2011년 11월 음성인식 서비스 회사인 얍(Yap) 인수를 시작

으로 2012년 자연어 처리기술 업체인 에비(Evi), 2013년 문자와 음성 자동변환 소프트웨어 기업인 이노바

(Inova)를 잇달아 인수하면서 기술을 확보한 이후 사내 에코를 연구하는 전담조직을 두고 상품 기획 및 출시했다.

Page 29: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

27

아마존 에코(좌)와 아마존 에코 쇼(우)

아마존 에코는 출시 후 2년여 만인 2017년에 누적 판매량 1,000만 대를 돌파하며 ‘음성인식 스피커

시장’이라는 새로운 영역을 개척했다. 포브스 등은 에코의 연간 판매량이 최근 2,000만 대를 넘어섰고,

미국 내 AI 스피커 시장의 70%가량을 점유하고 있는 것으로 추정했으며, 아마존은 공식 발표를 통해

“알렉사 탑재 기기의 판매량이 누적 1억 대를 넘었다”고 밝혔다. 아마존은 에코 이전 이북 전용 기기인

킨들(Kindle)과 태블릿PC인 파이어(Fire)가 큰 성공은 거두질 못했고, 에코가 나오기 넉 달 전인 2014년

7월에 야심차게 출시한 스마트폰인 ‘파이어 폰(Fire Phone)’이 크게 실패한 바 있었기 때문에 에코의

성공은 미국에서도 큰 화제가 되었다.

구글과 애플이 음성인식 비서 서비스를 중심으로 신중하게 시장과 기회를 엿봤다면, 아마존은 이 과

정을 뛰어넘어 실생활에서 유용하게 쓰일 상품에 직접 음성인식 서비스를 상용화하는 방법으로 시장을

공략했다. 에코의 성공으로 알렉사를 중심으로 한 아마존만의 생태계를 확대했고. 2015년엔 알렉사와 연

동해 각종 애플리케이션 등을 만들 수 있도록 개발자를 위한 도구인 ‘알렉사 스킬 키트(Alexa Skills Kit)’를

공개했다. 이로서 에코를 홈 IoT의 허브로 활용해나간다는 계획을 밝힌 셈이다.

에코가 성공한 이후 상품과 서비스의 다양화도 지속 추진 중이다. 2016년 3월에 충전식 스피커인 ‘아마존 탭’,

에코의 축소 버전인 ‘아마존 닷’을 선보였고, 2017년엔 이미지 인식 및 분석 AI인 ‘아마존 리코그니션’을

탑재한 ‘아마존 에코 룩(look)’과 알렉사가 탑재된 7인치(현재 10인치) 가정용 통신멀티미디어 기기인

‘아마존 에코 쇼(show)’를 공개하며 시장 확대에 나서고 있다.

애플

2011년 첫 음성인식 비서 서비스인 ‘시리(Siri)’를 출시해 시장 개척을 선도했다. 구글의 어시스턴트가

방대한 양의 음성인식 데이터 등의 문제로 인터넷 연결을 통한 클라우드 방식으로 서비스를 제공하는

데 반해 시리는 자체적으로 음성인식 연산이 가능한 구조라서 인터넷 연결 없이도 사용 가능하다는 게

장점이다.

Page 30: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

28

이후 애플은 꾸준한 업데이트를 통해 시리의 정확도와 범용성을 개선하고, 홈 IoT 제어도구로 시리 활용

가능성을 모색했다. 하지만 아마존의 ‘아마존 에코’는 불붙은 AI 스피커 시장에서는 다소 대응이 늦었다는

평가를 받았다. 이어 2017 애플 WWDC(개발자회의)에서 스마트 스피커인 ‘애플 홈팟(HomePod)’을 선보

인 뒤, 2018년에 시리가 탑재된 홈팟 판매가 시작했다.

애플의 AI 스피커인 ‘홈팟’

홈팟의 경우 아마존의 에코나 구글의 ‘구글홈’에 비해 확장성이 떨어진다는 지적을 받으며 판매 부진을

겪으며4), 2018년 글로벌 판매량은 700만대 수준에 그친 것으로 추정된다. 이는, 당초 애플이 AI 스피커

보다는 고유의 고급화 전략에 따라 고급형 스마트 스피커를 지향한 탓이라는 분석 결과가 나왔다. 애플

스스로도 홈팟을 음질에 초점을 맞춘 오디오 기기로 소개되며, 가격도 초기에는 35만~40만원선(원화 기준)

에코나 구글홈의 2배에 달했다.

IT업계에서는 애플의 홈팟이 iOS라는 제한된 생태계에서 구동되다보니 범용성에서도 한계가 있고,

이것을 판매부진의 가장 큰 이유로 지목했다. 애플 역시 홈팟의 부진에 고민이 깊은 것으로 보이며, 지난해

4월 구글의 AI 책임자였던 존 지아난드레아를 영입했고 올 1월에는 중국 시장에 홈팟을 출시하는 등 시장

확대를 위해 안간힘을 썼다. 하지만 늘 ‘좁다’고 평가받는 애플 생태계에서도 혁신으로 성장을 이끌어 온

저력이 있는 만큼 애플이 언제 AI 스피커 시장에서 치고 나올지가 최대 관건이다.

마이크로소프트

모바일 OS 경쟁에서 참패를 맛본 마이크로소프트는 2014년 음성인식 비서 서비스인 ‘코타나(Cortana)’를

선보이며, 윈도우10에 첫 적용했다. 2015년엔 iOS와 안드로이드에도 코타나 이용이 가능하도록 연동했

지만 독자적인 모바일 OS가 아닌 탓에 기능 구현에 한계를 보이며 큰 반향을 일으키진 못했다.

4) 스마트PC 사랑, “애플 홈팟 생산량 줄여”, 2018.4.12.

Page 31: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

29

마이크로소포트의 음성인식 비서 ‘코타나’

[출처: 마이크로소프트]

이 때문에 마이크로소프트는 애플이나 구글보다는 아마존 모델을 따라 생태계 조성에 나서는 중이며,

타 기업들과의 제휴가 중점을 두고 있다. 2017년엔 하만카돈과 제휴해 AI 스피커인 ‘인보크(Invoke)’를

출시했고, 하만카돈의 경우 삼성전자의 계열사라는 점에서 마이크로소프트와 삼성과의 협업 관계에서도

많은 주목을 받고 있다.

HP와도 협업을 통해 프린터 제품에 코타나 인식이 가능하도록 제품이 출시했다. HP는 2018년 미국

시장에서 음성인식을 통해 출력이 가능한 프린터인 ‘탱고(Tango)’ 출시했다. 그러나 탱고의 경우 아마존의

알렉사나 구글의 어시스턴트 역시 지원하는 것으로 알려져 코타나에 큰 힘을 실어줬다고 보긴 어렵다.

2017년 5월엔 개발자 도구인 ‘코타나 스킬 키트(Cortana Skill Kit)’를 공개했고, 홈 IoT 기능 등이 추가

된 확장 버전도 공개했다. 마이크로소프트 집계에 따르면 전 세계 윈도우10 사용자는 5억 명이며, 이 중

1억2,000만 명 가량이 매일 코타나를 쓰는 것으로 파악했다. 하지만 텍스트 입력 기반인 PC 응용체제에서

코타나가 얼마나 큰 성과를 올릴지는 미지수다. 예컨대 문서를 텍스트로 입력하지 않고 음성으로 PC에

완벽하게 입력할 수 있는 수준이 된다면 달라지겠지만, 이것이 실현된다 해도 상당한 시간이 걸릴 것으로

전망된다.

국내 기업

삼성전자는 2012년 스마트폰 음성인식 지원 서비스인 ‘S보이스’를 ‘갤럭시S3’에 첫 탑재했다. 시기상

으로는 애플의 시리보다 빠르지만 지능형 비서 서비스를 추구하는 시리와는 달리 초기 S보이스는 단순

한 음성인식 명령을 수행하는데 그쳤다. 뿐 만 아니라, 인식 오류도 높아 큰 평가를 받지 못했다. 때문에

삼성의 첫 비서 서비스는 2017년 ‘갤럭시S8’부터 선보인 ‘빅스비’로 보는 시각이 많은 편이다. 빅스비

Page 32: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

30

출시 후 S보이스는 갤럭시A 시리즈 등 중저가 스마트폰 위주로 탑재되며, 프리미엄 제품에 대한 차별화

요소로 활용 되고 있는 중이다.

삼성전자의 음성인식 비서 ‘빅스비’

[출처: 삼성전자]

빅스비 자체로는 아직 큰 효과를 못 보고 있지만, 글로벌 스마트폰과 가전 시장에서 1위를 고수 중인

삼성의 하드웨어 역량을 감안한다면, 빅스비 생태계 역시 확대될 가능성을 배제할 수 없다. 삼성전자는

지난해 11월 “2020년까지 모든 삼성 디바이스에 빅스비를 탑재하겠다”고 밝힌 상태이다.

SKT는 오늘날의 음성인식 비서 서비스와 유사한 지능형 비서 기능을 2005년에 ‘1mm’라는 이름으로

이미 선보인 바 있다. 당시 피처폰 위주의 하드웨어 환경 등 여러 제약 탓에 실패한 프로젝트로 끝났지만

내부 AI 개발 역량은 유지를 해왔으며, 최근 몇 년간 자체적으로 선보인 AI 제어와 지능형 로봇 등의 분야

에서 상당한 성과를 내온 바 있다. 이를 바탕으로 2016년엔 AI 스피커인 ‘누구(NUGU)’를 선보였고, 파트너

사들과의 제휴 확대를 통해 생태계 확장에 나서고 있다.

또한 LG전자는 2019년 1월 영국 하이앤드 오디오 브랜드인 메리디안 오디오의 기술을 적용하고 구글의

음성이식 서비스인 어시스턴트를 탑재한 ‘엑스붐 AI 쌩큐’를 국내에 출시하였다. 구글 어시스턴트의 한국어

서비스 지원으로 음성으로 LG 씽큐 가전(세탁기, 냉장고, 에어컨 등 8종)의 상태 확인 및 동작을 제어할

수 있다.

네이버는 글로벌 모바일 메신저인 ‘라인’과 함께 개발한 지능형 비서 애플리케이션인 ‘클로바’를 2017

년에 공개했다. 생태계 확장을 위해 ‘클로바 확장 키트(Clova Extension Kit)’를 공개했으며, 지난해 클로

바가 탑재된 지능형 스피커인 ‘웨이브’를 대만 업체와 협력해 출시했다. 카카오는 2017년 자체 텍스트-

음성 변환 기술인 ‘뉴톤’을 활용한 지능형 스피커인 ‘카카오 미니’를 출시하며, 카카오내비 등에서도 음성

인식을 통한 검색이 가능하게 하는 등 점차 음성인식 서비스 제공 범위를 넓혀가고 있다.

Page 33: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

31

시장 전망

음성인식 서비스 시장은 이미 AI 스피커 경쟁 등으로 성장세에 들어섰지만, 각 업체별로 기술과 플랫

폼이 각기 다르며 난립하고 있는 초창기 시장 형태를 보이고 있다. 음성인식 인터페이스의 경우 이미

2000년대 중반부터 ‘표준화’ 논의가 있었지만 다양한 이해관계가 맞물리면서 사실상 표준화가 어려운 것

으로 판명되었다. 결국 누가 시장의 주도권을 잡느냐에 따라 희비가 크게 엇갈릴 전망이다. 글로벌 IT

시장의 그간 흐름을 볼 때 결국 메인 흐름을 주도할 3~4개 업체의 기술이 글로벌 시장을 장악할 가능

성이 높은 것으로 보인다.

다만 언어별 특성이 다르고, 중국어 등과 같은 지역별 특색이 강한 특정 언어는 자국 기업이 아닌 이상

말뭉치 수집 등에 큰 어려움이 예상되는 바, 글로벌 선두 업체가 나타나더라도 특정 국가나 시장 내에

서는 제한적이나마 시장 지배력을 행사하는 음성인식 서비스가 나타날 가능성이 높다.

음성인식 스피커 다음으로 떠오르는 시장은 자동차 관련 시장이다. 이는 자동차의 경우 ‘레벨 4’ 단계의

완전 자율주행차까지 진화하려면 상당기간 시간이 필요한 만큼 운전을 하는 동시에 필요한 정보를 얻거나

명령을 수행하기에는 음성인식만한 기술이 없기 때문이다. 현대자동차, 벤츠 등 글로벌 제조사들은 이미

자체적으로 연구팀을 꾸리거나 기술을 확보한 업체들과의 합종연횡을 통해 음성인식을 통한 차량 제어

영역을 차츰 넓혀가고 있다.

음성인식 서비스가 활성화되면서 개인정보보호 이슈 또한 크게 부각될 전망이다. 음성인식 서비스가

고도화되려면 방대한 양의 말뭉치 자료 수집이 필수적인데, 이 과정에서 글로벌 기업들이 무분별하게

사용자들의 음성정보를 수집한다는 의혹이 제기되고 있다. 아직 관련 규정이 미흡한 곳이 대부분이고,

이는 스마트폰 대중화 이후 불거졌던 위치정보 무단 수집 논란을 연상케 한다. 음성정보의 경우 그

자체로 중요한 개인정보인데다, 신원확인 및 식별용으로 활용도 가능해 해킹범죄에 악용될 우려도 충분한

만큼 음성정보 무단 수집 문제에 대한 사회적 논란과 이 문제에 대한 사회적 합의가 필요해 보인다.

Page 34: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

32

넷플릭스 <킹덤>과 온라인 동영상 서비스 환경의 격변기

최홍규 EBS 연구위원([email protected])

• (現) EBS 미래교육연구소 연구위원

• (前) 한국인터넷진흥원 선임연구원

• 언론학 박사

• 저서 : 소셜 빅데이터 마이닝을 활용한 미디어 분석 방법(2017),

콘텐츠 큐레이션(2015), 방송의 진화(공저)(2018) 등

넷플릭스에서 제작한 우리나라 드라마 <킹덤>이 2019년 1월 그 첫 번째 시즌을 공개했다. 관객수 7백

만명 이상(7,120,508명)1)을 동원한 영화 <터널>의 김성훈 감독과 <시그널>(tvN, 2016), <싸인>(SBS,

2011)등의 드라마로 높은 시청률을 기록했던 김은희 작가가 참여했다는 것만으로 화제가 되었고 주연 배우

들의 출연이 주목을 끌기에 충분하다. 한편으론 전 세계 동영상 영역에서 넷플릭스 오리지널 콘텐츠가

‘고품질 동영상 콘텐츠’로 치환되고 있는 오늘날, <킹덤>이 던지는 메시지는 화제가 되고 주목을 끄는

정도로(?) 그리 단순하지만은 않다. 넷플릭스는 이미 전 세계에서 가입자 1억4천8백만명(2018년도 4분기

기준) 이상2)을 확보해 OTT(Over The Top) 서비스의 유료구독 모델을 정착시켰으며 국내서도<옥자>(2017),

<미스터선샤인>(2018) 등에 투자하면서 시장진입에 박차를 가하고 있는 동영상 서비스 사업자이기 때문

이다. 이번 글에서는 금번 공개된 넷플릭스의 오리지널 콘텐츠 <킹덤>이 국내 동영상 서비스 시장에 주는

의미와 이를 통한 온라인 동영상 서비스 환경의 변화 양상을 짚어보고자 한다.

온라인 동영상 스트리밍과 넷플릭스의 성장

<킹덤>은 동영상 이용자들에게 ‘넷플릭스’라는 수식어를 통해 강하게 각인된다. 우리나라 유수의 감독

이나 작가, 배우들이 참여한다고 체감되는 화제 성과는 다소 차원이 다르다. 인터넷 등장 이후에 IP 네트

워크 기반의 동영상 플랫폼 서비스가 속속 등장했지만, 넷플릭스는 2009년 온라인 동영상 스트리밍

서비스로 동영상 시장의 판세를 바꿔놓은 사업자이기 때문이다. 과연 월정액 가입자 기반의 온라인 동영상

스트리밍 제공 사업이 성공할까에 대한 의구심은 넷플릭스라는 강력한 사업자로 해소된 것이다. 그래서

Page 35: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

33

<킹덤>은 ‘넷플릭스 오리지널 콘텐츠’라는 수식어가 붙으며 더욱 강력한 콘텐츠로 인식되는 것이다.

넷플릭스의 영향력은 전세계 트래픽 분포에서도 드러난다. 미국의 네트워킹 장비회사 샌드바인

(Sandvine)의 2018년 보고서를 살펴보면 동영상 스트리밍으로 발생하는 데이터 다운로드(다운스트림:

downstream) 비율이 58%에 육박하여(57.69%) 서비스 중 가장 높은 점유율을 보인다. 게임, 소셜, 파일

공유, 메시징 등의 서비스들에 비해 그 점유율이 월등히 높다. 지역별로도 높은 점유율을 보이는 서비스

상위 5개에는 동영상 서비스들이 수위를 차지하고 있다. 넷플릭스가 모든 지역의 상위 5개 서비스에

이름을 올렸다. 즉, 현재 전 세계 온라인 네트워크에서 트래픽을 가장 많이 발생시키는 서비스 영역이

동영상 서비스 영역이고 이를 이끌고 있는 서비스가 넷플릭스이다.

전세계의 다운/업로드 트래픽 점유율(좌측) 및 지역별 서비스 다운로드 데이터 트래픽 순위(우측)

[출처: Sandvine (2018.10.)]3]

이처럼 넷플릭스가 웹을 통해 다운로드 데이터 트래픽을 점유하고 있는 비율은 약 15%정도로 가장

높고 HTTP media stream(13.1%)이나 유튜브(11.4%), 아마존 프라임 비디오(3.7%)보다 높은 것으로 나타

난다. 넷플릭스의 가입자 수준이 2011년 3분기 2천만명 수준(2,293만 여명)에서 2018년 1억 5천만에 육

박하며 7년만에 약 6.5배 증가한 추세로 볼 때 이러한 트래픽 점유율은 더 높아질 것으로 보인다. 최근

분기별 추세에서도 2018년 3분기에 비해 4분기에는 가입자가 1천 만 명 이상이 증가했다. 넷플릭스 트래픽

점유율 증가세가 당분간 지속될 것으로 판단되는 대목이다.

Page 36: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

34

웹을 통한 전 세계 다운로드 데이터 트래픽 비율 분포

[출처: Sandvine / Statista (2018.10.)]4)

오리지널 콘텐츠 <킹덤>에 대한 기대감과 그 의미

전 세계 미디어 이용자들에게 온라인 동영상 스트리밍에 대한 거부감이 점차 사라지고 넷플릭스가 그

중심에서 시장을 선도해나가면서, 넷플릭스가 제공하는 오리지널 콘텐츠에 대중의 관심이 쏠린다. 넷플

릭스는 그간 빅데이터 기반의 ‘추천 시스템(recommender system)’, ‘몰아보기(binge watching)’ 등의 용어

들을 통해 서비스 정체성을 확보해 나갔는데, 이러한 용어들 중에서도 가장 확실히 소비자의 이목을 끄는

용어는 단연 ‘넷플릭스 오리지널스(Netflix originals)’라고 불리는 넷플릭스가 제작한 ‘오리지널 콘텐츠’이다.

지난 1월 25일 공개된 총 6부작의 <킹덤> 시즌 1은 넷플릭스가 국내에서 선보인 최초의 오리지널

드라마이다. 회당 제작비 20억원이 투입된 것으로 알려져5)6) 규모 측면에서 넷플릭스 오리지널 콘텐츠라고

불리기에 충분했다. 좀비물이 서양의 영화나 드라마의 소재로 익숙한데 이를 한국의 ‘조선’이라는 역사적

배경과 ‘왕’이라는 인물을 접목시켜 제작 당시부터 많은 화제를 뿌렸다. 그야말로 제작진과 출연진, 제작비,

소재, 전개방식 등에서 넷플릭스 오리지널 콘텐츠가 지니는 일종의 ‘명품 콘텐츠’ 이미지를 표방했다.

<킹덤>은 이처럼 콘텐츠 측면에서만 봐도 매력적이다. 넷플릭스라는 대형 미디어사가 아낌없이 지원

했다는 인식과 함께 현란한 화면, 사실감 넘치는 그래픽적 요소, 배우들의 수준 높은 연기는 그야말로

넷플릭스에서 만든 콘텐츠는 다르다는 인상을 심어줬기 때문이다. 콘텐츠로만 보면 그렇다. <킹덤>은

누가 봐도 공을 들여 잘 만든 콘텐츠이기 때문이다.

그런데 <킹덤>에 대한 기대감은 콘텐츠에 대한 기대감에 한정되지 않는다. 앞서 이미 밝혔듯이 전 세계

트래픽 점유율에서 큰 영향력을 확보한 넷플릭스 플랫폼을 통해 유통된다는 데 대한 기대감이 존재한다.

<킹덤>은 190여 개국에 동시 방영되고 27개 언어 자막 및 12개 음성 지원 서비스를 제공하고 있으며, 1억

명이 넘는 넷플릭스 가입자에게 공개되는 첫 번째 한국 드라마인 것이다.

Page 37: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

35

사실 <킹덤>에 최초의 넷플릭스 오리지널 ‘한국’ 드라마라는 수식어가 붙지만, 엄밀히 말하면 넷플릭

스가 한국의 역사를 소재로 하여 한국의 제작사(제작사명: A Story), 제작진, 배우들과 함께 작업했다는

것이 정확하다. 넷플릭스가 투자해 제작했으니 이 드라마는 넷플릭스의 오리지널 콘텐츠가 맞다. 넷플릭

스가 우리나라의 제작 능력과 노하우, 인프라를 바탕으로 영화, 예능에 이어 드라마 투자에 본격적으로

나섰다는 의미다. 실제로 넷플릭스 오리지널 드라마로 <좋아하면 울리는>, <첫사랑은 처음이라서> 등도

2019년에 공개 될 예정에 있다.

넷플릭스의 본격적인 국내 진출은 미디어 시장의 현 상황과도 맞물려 있다. 지상파 방송의 시장 성과

하향세, 통신사업자의 유료방송 시장 진출, 인터넷 및 모바일 위주의 플랫폼 서비스 재편, 월정액의 구독

경제(subscription economy) 활동 활성화 등이 그것이다. <킹덤>으로 넷플릭스 자본이 국내 미디어

시장에 본격적으로 진입하면서 국내 미디어 영역의 위기와 기회로 여겨질 만한 상황들이 더욱 명확히

부각되고 있는 것이다. 그래서 <킹덤>은 하나의 드라마가 아니다. 넷플릭스가 국내 시장에 온라인 동영상

스트리밍 서비스를 제대로 정착시킬지 판단하는 테스트베드이며, 국내 유료 가입자와 본격적으로 만나게

하는 매개물이자, 기존 방송 중심의 동영상 서비스 체제를 개편하는 신호탄과도 같다.

<킹덤>의 전 세계 글로벌 환경 지원 소개 화면

[출처: youtube.com(Netflix Korea)]8)

동영상 스트리밍 서비스의 ‘완전한’ 정착과 국내 시장의 격변기

결과적으로는 블록버스터급의 자본이 투입된 <킹덤>이 우리나라 드라마 역사에 남을 정도로 큰 인기를

끈다고 해서, 넷플릭스의 목표가 모두 달성되는 것이 아니라고 본다. <킹덤>이 국내에서 성공을 거둘

경우 얻게 되는 이익은 전 세계에서 콘텐츠의 가치를 인정받고 있는 국내 시장에 넷플릭스의 자본력이

더욱 활발히 매개될 기회를 잡게 된다거나, 기존 방송 환경에서 벗어나 IP기반의 인터넷/모바일 네트

Page 38: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

36

워크를 통해 콘텐츠 제공을 더욱 활발히 하는 계기를 마련한다는 점 등이 있을 수 있다. 그리고 이를

통해 당연히 유료 가입자를 늘릴 수 있다.

그러나 무엇보다 넷플릭스가 얻게 되는 가장 큰 이점은 한국이라는 한 국가에 온라인 기반의 동영상 스트

리밍 이용패턴이 정착된다는 점일 것이다. 넷플릭스 서비스로 동영상 스트리밍 서비스가 전 세계적으로 활발히

제공되었고 이는 다양한 채널들과 경쟁하는 기존의 유료방송/미디어 시장에도 큰 부담이 되었다. 이제 문제는

이용자들의 이용패턴이 어느 쪽으로 기우는가이다. 미디어 이용패턴의 정착과 그 고착화된 이용패턴으로

향후 동영상 서비스 제공 사업의 승자와 패자가 나뉘기 때문이다.

미국 인터넷광고협회 IAB(Interactive Advertising Bureau)가 지난해 발간한 보고서를 살펴보면 전 세계

이용자들이 동영상 스트리밍 서비스를 하루 한번 이상 시청하는 비율은 70%이다. 그만큼 동영상 스트리밍

서비스에 익숙해진 이용자가 늘어나고 있다는 것이며 PC, 스마트폰, 태블릿PC의 보급과 더불어 이러한 비율은

향후 더욱 증가할 것으로 보인다. 즉, 넷플릭스가 전 세계 15%의 트래픽을 점유하며 보급하는 온라인 동영상

스트리밍 서비스가 비로소 미디어 이용자들의 주된 미디어 이용 패턴으로 정착되고 있다고 봐도 과언이

아니다. 넷플릭스 이외에도 애플, 구글, 아마존 등과 같은 거대 사업자들도 이러한 동영상 스트리밍 서비스 제공에

적극적으로 임하고 있으니 향후 동영상 스트리밍 이용 패턴이 더욱 고착화될 것은 분명해 보인다.

전 세계 동영상 스트리밍 시청 빈도 분포

[출처: IAB(Interactive Advertising Bureau) (2018.6.)]9)

스마트폰, 태블릿PC 등 스마트 기기로 미디어 이용기기가 전환되고 있는 현 추세로 보아도 동영상 스트리밍

서비스 발전이 더 활발해 질 것을 예상할 수 있다. 미국의 정보통신회사 시스코(Cisco)가 지난 2월에 발간한

백서를 살펴보면, 전 세계 월별 모바일 동영상 트래픽 규모가 2022년까지 약 6만9백 페타바이트(약 6천2백만

테라바이트)로 증가할 것으로 전망된다. 2017년의 약 9배가 성장하는 것이다. 모바일을 통한 동영상 이용이

더욱 증가하며 이에 대한 데이터 트래픽도 폭증하게 될 것이라는 예측이다.

Page 39: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

37

전 세계 월별 모바일 동영상 트래픽 규모 전망 (단위: petabytes)

[출처: Cisco10) / Statista11)(2019)]

이처럼 넷플릭스의 동영상 스트리밍 서비스 이용은 이제 전 세계적으로도 주된 콘텐츠 이용패턴으로

자리 잡히기 쉬운 환경이다. 마찬가지로 넷플릭스가 우리나라에 공개한 <킹덤>은 국내 이용자들에게

동영상 스트리밍 서비스 이용패턴을 완전히 정착시키는데 일조할 것이라 본다. 전 세계에 넷플릭스를 중심

으로 동영상 스트리밍 서비스가 안정적으로 정착되는 추세로 봐도, 우리나라에서 큰 인기를 얻을 동영상

스트리밍 콘텐츠의 등장이 동영상 스트리밍 이용패턴을 더욱 고착화할 것이라는 점을 쉽게 예상할 수

있는 것이다. 이제 동영상 스트리밍 서비스를 ‘온라인’ 동영상 스트리밍 서비스라고 부르는 것이 좀 촌스럽게

느껴진다. 동영상 서비스는 당연히 ‘온라인’으로 즐기는 서비스로 여겨지기 때문이다. 조만간 ‘스트리밍’이

라는 용어도 구닥다리처럼 느껴질 수 있다. IP 기반의 네트워크 안에서는 모든 콘텐츠가 실시간 스트

리밍 방식으로 이용되는 것이 당연시 될 것이기 때문이다.

‘방송’보다는 ‘동영상’이, 그냥 ‘동영상 서비스’보다는 ‘동영상 스트리밍 서비스’가 더 익숙해지는 시대,

2019년이 그 분기점이 될 것으로 예상하며 넷플릭스의 오리지널 콘텐츠 <킹덤>이 그 시작을 알리고 있다.

[출처]

[1] 영화진흥위원회, 2016년 한국영화산업결산, 2017.2.13.

[2] https://www.statista.com/statistics/250934/quarterly-number-of-netflix-streaming-subscribers-worldwide

[3] Sandvine The Global Internet Phenomena Report, 2018.10.

[4] https://www.statista.com/chart/15692/distribution-of-global-downstream-traffic

[5] 매일경제, 넷플릭스 첫 韓드라마 `킹덤` 회당 20억 제작비 `때깔나네`, 2019.1.27.

[6] 중앙일보, '역대급' 회당 제작비…베일 벗은 넷플릭스 드라마 '킹덤', 2018.11.8.

[7] https://www.netflix.com/kr-en/title/80180171

[8] https://www.youtube.com/watch?v=iiki76Fg7Vc

[9] IAB(Interactive Advertising Bureau), Live Video Streaming – A Global Perspective, 2018.6.

[10] Cisco, 2017–2022 White Paper, 2019.2.18.

[11] https://www.statista.com/statistics/252853/global-mobile-video-traffic-forecast

Page 40: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

38

사업 실현성에 좀 더 가까워진 ‘블록체인’ 전망

유성민 IT 칼럼니스트([email protected])

• (現) 동국대학교 국제정보보호대학원 외래교수

• (現) IT 칼럼니스트(사이언스타임즈, 신동아, 더비체인 등 고정필진)

• (前) KT 융합기술원 연구원

매년 10월 발표하는 시장 조사 전문 기관 ‘가트너(Gartner)’의 10대 유망기술 중 하나로 2019년에는

블록체인이 선정되었다. 블록체인은 2017년도부터 가트너가 발표하는 10대 유망기술에 선정되었는데, 드물게

3번이나 선정되었다1). 가트너 뿐만 아니라 여러 기관에서도 블록체인은 유망기술로 인정받고 있으며

국내의 경우, 소프트웨어정책연구소(SPRI), 정보통신기획평가원(IITP) 등에서 블록체인을 10대 유망기술로

선정했다2).

이러한 선정은 블록체인이 그만큼 주목받고 있음을 보여준다. 시장 규모 전망에서 이러한 점을 명확히

확인할 수 있다. 마켓 리포트 센터는 2018년의 블록체인 시장 규모가 7.08억 달러에 이를 것으로 분석

했고, 2024년에는 607억 달러로 성장할 것으로 전망했다. 연 평균 시장 성장률(CAGR)이 무려 88.87%에

이른다.3)

다른 시장 조사 전문 기관에서도 블록체인 성장률을 비슷하게 바라보고 있다. 마켓스 앤드 마켓스

(Markets and Markets)는 2018년부터 2023년까지의 CAGR이 80.2%에 이를 것으로 전망했다4). 글로벌 마켓

인사이트(Global Market Insights)는 2018년부터 2024년까지의 CAGR이 75%에 이를 것으로 전망했다.5)

블록체인의 높은 CAGR은 다른 4차 산업혁명 유망기술과 비교하면 상당히 높다. 인공지능(AI)의 CAGR을

살펴보면 마켓스 앤드 마켓스는 2018년부터 2025년까지의 AI의 CAGR이 36.62%일 것으로 분석했다6).

1) 더비체인, “[유성민의 블록비즈] 신뢰플랫폼의 비즈니스 방향을 설정하라”, 2019.1.24.2) 한국인터넷진흥원, “2019 인터넷 10대 이슈 전망”, 2019년 2월3) Market Reports Center, “Blockchain Market Size is anticipated to reach USD 60.7 billion by 2024”, February 14, 2018.4) Markets and Markets, “Blockchain Market worth $23.3 billion by 2023”, December, 2018.5) Finance Review, “Blockchain Market to grow at 75% CAGR from 2018 to 2024”, September 25, 2018.

Page 41: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

39

클라우드의 경우, 2018년부터 2023년까지 17%의 CAGR 추세를 보일 전망했고7) 사물인터넷(IoT)의 시장은

2017년부터 2021년까지 연 평균 50%의 성장률을 보일 전망이다.8) 아래 그림은 4차 산업혁명 유망 기술의

CAGR을 비교한 것이다.

4차 산업혁명 유망 기술의 CAGR 비교

사업 실증 단계에 들어서기 시작한 블록체인

시장 전망에서 알 수 있듯이, 블록체인이 미칠 영향력은 대단하다. 그런데 블록체인의 성공 사례는 찾아

보기가 아직은 힘들어 보인다9) 이러한 이유로, 블록체인에 관한 부정적인 시각이 있으나 이는 블록체인이

허무맹랑한 기술이어서가 아닌 아직 시장에 적용될 만큼 충분히 성숙하지 않기 때문이다.

블록체인의 본격적인 시장 진입은 올해 2019년부터 이뤄질 전망이다. 가트너가 매년 3분기 쯤에 발표

하는 하이프 사이클(Hype Cycle)을 보면 이해가 쉽다. 먼저 하이프 사이클은 기술 성숙도에 따라 5단계로

구분한다. 기술 촉발(Technology Trigger)은 기술이 주목받기 시작하는 첫 단계로 이후 기술 주목의 정점을

이루는 ‘과장된 기대의 정점(Peak of Inflated Expectations)’을 지나고, 환멸의 저점(Through of Disillusionment)에

들어서면서 이러한 기대가 사그라진다. 해당 단계의 특징은 많은 시도와 함께 많은 실패가 나온다는 점이다.

네 번째 단계 ‘기술 재조명(Slope of Enlightenment)’에 들어서면서 시장에서의 기술 가치가 정립된다.

6) Markets and Markets, “Artificial Intelligence Market worth 190.61 Billion USD by 2025”, Feburary, 2018.7) Markets and Markets, “Hybrid Cloud Market worth $97.64 billion by 2023”, August, 2018.8) Forbes, “IoT Market Predicted To Double By 2021, Reaching $520B”, August 16, 2018.9) Matt Higginson, and etc., “Blockchain’s Occam Problem”, Mckinsey, January, 2019.

Page 42: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

40

그리고 최종 단계인 ‘생산성 안정(Plateau of Productivity)’에서 시장에서의 기술의 위치가 명확해진다.

4차 산업혁명 유망 기술의 CAGR 비교

[출처: 위키백과]

블록체인은 2016년도의 하이프 사이클에 처음으로 등장하게 된다. 당시 위치는 과장된 기대의 정점

시작 부분에 있었다. 이후 2017년도와 2018년도에도 동일 단계에 있었으나, 2016년도와 다른 부분은 환멸의

저점과 맞닿은 곳에 있었다는 것이다. 이는 블록체인이 단순히 기대받는 기술을 넘어서 시장 진입하는

단계에 도달한 상황임을 알 수 있다.

그러므로 2019년도에는 블록체인이 환멸의 저점 단계에 있을 가능성이 매우 크다. 다시 말해, 올해는

블록체인의 시장 진입을 위한 여러 시도가 있을 것으로 전망된다. 그렇다면 2019년도에는 블록체인의

어떤 변화가 있을지 구체적으로 살펴보도록 하겠다.

2019년 전망 1. 정부의 늘어난 블록체인 지원

2019년도에 블록체인 산업의 변화 중 가장 눈에 띄는 것은 늘어난 정부의 지원일 것이다. 블록체인이

주목받고 있는 상황에서, 정부의 적극적인 지원은 당연하고 특히 이러한 지원은 과학기술정보통신부(과기부)

중심으로 이뤄지고 있다.

2018년도와 비교하면 지원 규모가 많이 늘어났다. 작년의 경우 블록체인 지원 규모는 87억 원이었다.10)

그러나 2019년에는 이러한 규모가 대폭 늘어났으며,11) 우선 2016년부터 시행한 공공선도 시범사업의

경우, 2019년에는 12개의 실증사업을 지원한다. 이는 전년대비 과제 수가 2배 늘어났는데, 지원 규모는

10) 과학기술정보통신부, “2019년도 과기정통부 예산안 발표”, 2018년 8월11) 과학기술정보통신부, “2019년 블록체인 사업 통합설명회 개최”, 2018년 12월

Page 43: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

41

85억 원으로 전년도 40억 원 대비 2배 이상 늘었다. 이외 민간주도 국민 프로젝트가 추가되어, 3개의

과제 지원과 규모는 48억 원이다.

블록체인의 기술 경쟁력 확보를 위한 연구개발도 지원한다. 12개 과제를 대상으로 총 72억 원을 지원

할 계획으로 아울러 블록체인 사업화와 전문 기업 육성도 지원할 예정인데, 총 62억 원을 투자한다.

이처럼 과기부에서는 블록체인을 육성하고자 하는 움직임이 크게 일고 있다. 과기부외 산업통상자원부

(산자부)에서도 블록체인 관련으로 정부 과제를 만들어 지원하려는 움직임을 보이고 있다. 지난 2월,

산자부는 지식서비스 산업핵심기술개발사업 일환으로 “블록체인 기반 소비자 지향 상품인증 서비스

개발”을 공모한 바 있다.

또한 제주특별시는 블록체인 도시로 도약하고자 ‘블록체인 특구 조성’을 위한 추진 계획안을 2018년

10월에 발표한 바 있다.12) 국회 본회의 및 정부 국무회의를 통과한 상태이다. 아울러 올해에는 제주도

내에 “블록체인 기반 종이 없는 부동산 문서시스템 도입” 시범 사업이 11개 금융기관 대상으로 진행될

계획이다. 이외 서울시는 블록체인 중장기 5개년 계획(2018~2022)을 세웠으며, 1,233억 원을 투입할 계획

이다. 지난 1월에는 ‘서울 블록체인 거버넌스단’을 발족했다.

2019년 전망 2. 블록체인 3.0 시대의 도래

블록체인 기술 수준도 한층 더 강화될 전망으로, 블록체인 3.0 시대가 도래 한 것이다. 블록체인 3.0의

정의가 애매했는데, 이는 기존 블록체인과의 구분이 명확하지 않았기 때문이다. 블록체인 1.0과 블록체인

2.0의 차이는 명확했고 이는 ‘스마트 컨트랙트(Smart Contract)’ 적용 유무로 구분 할 수 있었다.

멜라니 스완(Melanie Swan)이 블록체인 3.0을 최초로 언급했다. 멜라니는 2015년도에 ‘블록체인: 신경

제를 위한 청사진(Blockchain: Blueprint for a New Economy)’을 통해 블록체인 3.0이 도입될 것임을 전망

했다.13) 그런데 이러한 전망은 약간 모호했고,14) 그럴 만도 한 것이 블록체인 2.0에 해당하는 이더리움

등장 연도에 블록체인 3.0을 언급했기 때문이다.

또한, 멜라니 스완의 블록체인 3.0 정의에는 세 가지 모순이 있었다.15) 첫째 블록체인 1.0도 금융 분야외

전자 투표, 문서 인증 등에 적용될 수 있다. 둘째 블록체인 3.0 사례로 블록체인 1.0의 사례를 언급했다.

셋째 기존 블록체인 세대와 어떠한 기술적 차이도 언급하지 않았다.

그러나 기술은 계속 발전했고, 블록체인 3.0 시대는 도래했으며 블록체인 3.0은 비즈니스 활용에 적합

하도록 발전된 점이 기존 세대와 다르다. 특히 크게 세 가지 부분에서 발전됐다.

우선 블록체인의 합의 알고리즘이 다양해졌다. 기존 블록체인의 합의 알고리즘은 작업증명(PoW), 지분

증명(PoS)이 전부였다. 그러나 블록체인 3.0에서는 위임 지분 증명(DPoS), 알고랜드(Algorand), 연합된 비잔틴

12) 사이언스타임즈, “도시에 녹아들고 있는 블록체인”, 2019.2.18.13) Melanie Swan, “Blockchain: Blueprint for a New Economy”, 2015.14) 더비체인, “[유성민의 블록비즈] 블록체인의 알파고 쇼크 ‘블록체인 3.0’”, 2019.2.22.15) 멜라니 스완은 ‘블록체인 금융 산업을 넘어 블록체인 3.0이 도래할 것’이라고 전망했다.

Page 44: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

42

합의(FBA), 용량증명(PoSP), XRP 합의 원장(XRP Ledger Consensus Protocol) 등 여러 합의 알고리즘이

있다16). 두 번째로 거래처리속도(TPS)에도 큰 변화가 있다.17) 기존 블록체인 세대의 속도는

4TPS~1000TPS 수준인데 블록체인 3.0에서는 1,000TPS을 초과하는 속도를 낼 수 있다. 참고로 KT, IBM

등은 10만 TPS를 목표로 하고 있다. 마지막으로 블록체인 서비스 개발을 위한 여러 개발 언어를 지원한

다는 점이다. 기존 블록체인의 경우 솔리디티와 같은 알려지지 않은 개발 언어를 지원했다. 반면 블록

체인 3.0은 파이썬, 자바 등 여러 언어를 지원한다.

세대별 블록체인 비교

구분 블록체인 1.0 블록체인 2.0 블록체인 3.0

대표 플랫폼 비트코인 이더리움 이오스, 아이오타, 넴 등

스마트 컨트랙트

적용유무X O △

합의 알고리즘 PoW, PoS DPoS, PoSP 등

TPS 1TPS ~ 1,000TPS 1,000TPS 초과

개발언어 솔리디티 등 단일 언어만 지원파이썬, 자바 등

다수 언어 지원

2019년 전망 3. 클라우드에 올라간 블록체인

블록체인 서비스 구현의 접근 또한 강화될 전망이다. 블록체인을 클라우드에 올린 형태인 ‘서비스형

블록체인(BaaS)’이 주목받을 전망이기 때문으로 BaaS는 블록체인 개발을 좀 더 원활하게 하기 위한 형태로

이해하면 된다.

클라우드 서비스는 크게 인프라스트럭처형 서비스(IaaS), 플랫폼형 서비스(PaaS), 소프트웨어형 서비스

(SaaS)로 나뉜다. IaaS는 서비스 개발에 필요한 하드웨어 자원을 제공하고, PaaS는 IaaS에 덧붙여 개발에

필요한 플랫폼을 제공한다. SaaS는 개발된 소프트웨어를 API(Application Programming Interface)로 제공

한다.

이에 따라 BaaS는 블록체인 개발에 필요한 지원을 클라우드로부터 제공할 수 있다. 이는 블록체인을

더욱 확산되게 할 전망으로 블록체인 서비스를 아무런 개발 없이 클라우드로 활용하고 싶으면, BaaS를

이용하면 된다. 가령 블록체인의 식품 유통 이력 서비스를 개발 없이 그대로 구현하고 싶으면, IBM에서

제공하는 식품 인증(Food Trust)을 이용하면 된다.

16) Alfonso Panarello and etc., “Blockchain and IoT Integration: A Systematic Survey”, Sensor 2018 (25), August 2018; pp. 23–3717) 박정숙 외, “블록체인 세대별 기술 동향”, 전자통신동향분석, 33권, 6호, 2018년 12월

Page 45: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

43

현재 많은 기업에서 BaaS를 제공하고 있다. 2015년 마이크로소프트가 처음으로 BaaS를 출시했고, 이어

IBM이 2017년도에 이를 선보였다. 2018년에는 아마존, 화웨이, 알리바바 등이 BaaS를 선보였다. 국내의

경우 올해 KT가 최초로 BaaS를 3월에 출시할 계획이다.

IBM에서 제공하는 블록체인 기반 식품 이력 추적 서비스

결론. 2019년에는 블록체인의 여러 시도가 있을 전망

2019년도의 블록체인 산업은 블록체인 비즈니스를 위한 여러 시도가 있을 전망이다. 그리고 앞서 살펴

봤듯이 세 가지 부분을 주목해볼 만한다. 첫 번째는 블록체인 산업 활성화를 위한 정부 과제 지원이 더욱

많아질 것으로 보인다. 두 번째는 비즈니스에 적용될 수 있는 형태의 블록체인이 개발될 것이다. 마지막

으로 블록체인 서비스 활성화를 위한 기술 개발 난이도가 클라우드를 통해 낮아질 전망이다. 이처럼 블록

체인 산업은 올해에도 열기를 띄게 될 것으로 전망되며 앞으로 더욱 발전될 블록체인의 모습을 기대해본다.

Page 46: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

44

중국 사회보장제도시스템 동향 분석 및 기업 대응

박성림 국립타이베이간호건강대학 강사([email protected])

• (現) 국립타이베이간호건강대학 교양교육센터 강사

• (現) 국립정치대학(대만) 정치학연구소 박사과정 수료

• (前) 주타이베이 한국대표부 연구원

중국 사회신용제도 현황 및 개념

2018년 12월 중국 국가발전개혁위원회에서 발표한 공식자료에 따르면, 낮은 사회신용점수로 인해

약 1,746만 명이 항공기 탑승이 거부되었고, 또한 547만 명이 고속철도 탑승이 거부되었다. 더불어, “신뢰

할 수 없다”는 평가로 약 351만 명이 프리미엄 보험을 구매할 수 없었고, 심지어 이 같은 사람들의 명단이

공개된 바 있다. 비단 개인 뿐 아니라 약 359만 개 중국 기업이 관영 프로젝트 입찰, 증권시장 참여, 토지

경매 참여가 금지되었는데, 이는 중국의 사회신용제도(Social Credit System, 경제 및 사회 활동 일체를 신용

점수화하는 평가제도)의 평가점수에 따른 결과이다. 물론 채무가 상환되고 점수가 올라가면 더 이상 이름이

대중에 공개되지 않고, 다시 항공기, 고속철도 탑승이 가능하다. 중국 정부는 이러한 사회신용제도가 채무

상환 뿐 아니라 신용사회 구현에 도움이 된다고 주장하지만, 이와 같은 해법이 정부의 권한 남용이자 프라이

버시 침해라는 비판 또한 제기되고 있는 상황이다.

신용은 현대사회에서 효과적인 금융시스템 구현을 위해 필요한 데이터라는 점에서는 이견이 없지만,

대다수 국가에서의 신용평가는 개인의 금융 활동에서 나타난 자료를 중심으로 구현되고 있다. 반면, 중국의

사회신용제도는 국가 주도하에서 금융 데이터와 더불어 사회 활동 일체를 데이터화해서 점수를 산출하고,

이를 기준으로 개인의 경제, 사회활동을 지원 및 제약한다는 점에서 현격한 차이점을 드러내고 있다.

중국은 이와 같은 “사회신용”을 수치화하기 위해서 어떻게 데이터를 수집하고 분석하며, 또한 이러한

정책의 목적은 무엇인지라는 의문을 감출 수가 없다. 중국의 사회신용제도의 제정 연혁과 공공 및 민간

Page 47: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

45

의 시행현황을 중심으로 살펴보는 것은 오늘날 중국 경제, 사회가 어떤 방향으로 나가고 있는지를 보

여줄 뿐 아니라, 정부 주도 하에서 민간 기업의 기술 및 금융 솔루션이 어느 정도 진화했는지를 이해하

는데 큰 의의가 있을 것이다.

사회신용제도는 중국 정부가 기존 보유하고 있는 정부 정보와 민간 IT 금융사가 수집한 소비자 행태를

결합해서 점수를 계산해서 경제, 사회활동의 척도로 활용하는 제도이다. 본 제도는 1999년 초보적인 연구

에서 시작해서 쑤저우(蘇州), 항저우(杭州), 샤먼(廈門) 등 중국 내 20개 도시에서 2020년까지 시범 시행

될 예정이다. 중국 정부는 2014년 6월에 발표한 《사회신용체계구축계획 요강(2014-2020)》에 관한 통지에

따르면, 정부 주도하에서 정부와 사회 각계의 기구, 기업 등이 참여해서 금융거래 정보 뿐 아니라 정무,

사회, 사법 등 다양한 영역의 정보를 통합·분석 및 운용하는 신용평가 시스템 구축 계획을 살펴볼 수 있다.

사회신용제도 제정 연혁

연도 사항

1999 주룽지 총리가 린 준웨에게 연구 요청

2000.3 『국가적 신용관리체계를 위하여 보고서』 발표

2002 사회신용이라는 용어가 사용되기 시작함

2006 중국인민은행에서 신용평가점수 방식 도입

2012~ 현재 지역 단위 광범위한 신용평가 제도 구축 추진

2014 사회신용체계구축계획 요강(2014-2020)

2015 중국 인민은행, 개인신용조회업무 준비업무에 관한 통지

2018 장수성 쑤저우, 산동성에서 지역단위 사회신용제도 제정 발표

상기 《요강》에는 향후 (1)조속한 신용정보체계구축(비즈니스, 납세, 수출입, 제품품질, 환경보호, 식품의약,

의료, 지재권, 전자상거래 신용정보 파일 구축), (2)지방신용정보 구축(단일 신용정보 공유 플랫폼 구축),

(3)신용조회시스템 구축(개인 대상 신용조회 시스템 구축, 법률에 따른 데이터 수집, 정리, 가공을 통한

신용정보 구축)을 추진할 것이라고 명시하고 있다. 또한, 장수성(江蘇省) 쑤저우시(蘇州市), 산동성(山東省)

에서 각각《쑤저우시 사회신용체계 구축계획(2014-2020)》 및 《산동성 2018년 사회신용체계 구축업무 요점》을

제정하며 지역 단위의 사회신용관리 체계의 제도적 기반을 마련했다.

요약하자면, 사회신용제도는 정부가 정부 및 기업이 보유한 개인의 경제 및 사회활동 데이터를 종합

적으로 분석 및 평가하는 종합적인 신용제도로서, 이를 위해서 (1)데이터 수집(공공 및 민간), (2)데이터

평가(민간, 공공에서 종합)가 필요하다.

Page 48: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

46

공공 데이터 수집 및 분석: AI기반 실시간 확인체계 및 지역별 평가제도

중국은 사회신용시스템을 운영하기 위해서는 무엇보다도 시민들의 개인정보와 더불어 사회 신용 관련

행동 패턴 정보의 수집이 절대적으로 필요하다. 공공분야에서는 공안부에서 운영하는 텐왕 시스템과 개별

지방정부의 평가를 들 수 있다. 텐왕(天網)는 중국 공안부(우리의 경찰청)에서 범죄방지 명목으로 구축한

전국 단위의 사회안전시스템으로, AI 기반 카메라가 반경 15km 내에 포착된 행인들의 인상착의 및 범죄사실

유무를 실시간으로 확인 및 분석한다. 2017년 11월 기준 중국 전역에 1.7억대의 실시간 감시 카메라가

설치되어 있다고 하며, 2020년까지 5.7억대까지 증설할 계획이라고 한다. 텐왕 시스템 이전에는 공공안전을

위한 공민 개인정보 수집 및 관련 기반시설 구축을 추진한 진둔 프로젝트(金盾工程, 2001~2009)가 있으며, 이를

통해 △언어식별, △자동 전화통화 감청, △12.5억명의 중국인 지문DB 구축, △공안부 전용 광섬유 통신네

트워크 구축, △즉각적인 개인 신분 확인이 가능한 스마트 신분증 제작을 완료했다고 한다.

경찰 CCTV로 수집되는 행인들의 행색

이와 같은 실시간 인식 및 분석을 위해서는 안면인식 S/W, 감시시스템, 스마트 시티 등 다양한 기술의

조합이 필수적이다. 현재 안면인식 기술 분야에서는 센스타임(SenseTime), 페이스 플러스플러스(Face++),

이투 테크놀로지(Yitu), 클라우드 워크(Cloudwalk), 아이플라이텍(Iflytek) 등 중국 기업들이 이 분야에서는

독보적인 지위를 누리고 있다. 이투는 주력 분야로는 컴퓨터시각, 자연언어이해, 언어식별, 인공지능 반도체

등이 있다. 이투의 안면인식기술은 인물형상 식별 – 고기능 분포식 컴퓨터를 통한 저장 – 분석으로 구성

되고 있으며, 2017년 샤먼 브릭스 정상회의, 2017년 주하이 에어쇼 보안검색에서 활용된바 있다.

페이스 플러스플러스는 안면정보 수집 후 즉각적인 속성분석을 통해 기본 정보(성별, 연령, 종족)과 더불어

개별 특징(얼굴값, 피부질)과 현재 상태(시선 및 정서)까지 빠르게 분석하는 기술을 보유하고 있다. 센스

Page 49: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

47

타임은 안면인식 및 지형 스캐닝 분야에서 강점을 보이고 있으며, 홍콩경찰은 2014년 홍콩 센트럴 점거

당시 센스타임의 기술을 이용해 시위자 이동을 통제하는데 활용한 바가 있다. 현재 센스 리모트 원격탐지

영상 스마트 솔루션은 국가위성기상센터 및 국가지형정보국 위성실측응용센터에서 활용되고 있으며, 향후

차량내 설치 렌즈로 운전자의 피로를 파악하는 솔루션도 제공할 예정이다.

또한 클라우드 워크는 인공지능 및 패턴인식 전문기업으로 현재 중국은행 및 하이통 증권사에 안면인식

관련 기술을 공급하고 있다. 클라우드 워크는 2018년 짐바브웨 내 대규모 교통허브 모니터링 및 전국

단위의 안면 계정구축사업을 유치했다. 아이플라이텍은 음성 및 안면인식 시스템분야에서 고평가 받고

있으며, 실시간 음성통역기인 Translator 2.0”는 30개 언어를 통역하고 정확도는 98%에 달한다고 한다.

상기 안면인식기술 기업 외에 화웨이는 인공지능 카메라, 모니터링 시스템 등을 종합한 스마트 시티

솔루션을 제공하고 있다. 화웨이의 비디오 모니터링 시스템은 저주파 코덱기술을 채택해서 비디오 퀄러티

손상을 줄이는 한편 5% 패킷 로스 없이 높은 높은 비디오 퀄러티(1080P 60 f/s HD 코덱)로 대상체를 촬

영한다. 더불어, 멀티플 무선접속 모드로 다양한 무선망(Wi-Fi, Wimax, 3G, LTE) 접속을 유지한다 이처럼

모니터링 된 데이터는 통합된 클라우드 감시 및 저장 플랫폼을 가쳐 서버에 저장되고 현재, 홍콩 인근의

선전시 롱강구 행정센터는 화웨이의 솔루션을 통해 종합적인 모니터링 체계를 구축 및 운영하고 있다.

공안부의 텐왕과 별도로 중국 연해지역 지방정부에서 데이터를 수집해 해당 지역주민의 사회신용을

평가한다. 지역별로 점수(350-1,000점) 및 평가항목이 상이하지만, 1)기존 정보보유 호적 및 범죄사실

데이터(민정부, 공안부), 2)공안부 설치 CCTV, 3)지역 평가위원회 수집데이터(사회봉사 및 경제활동), 4)

민간 IT기업의 소비자 평가(알리페이, 위챗페이 등 전자화폐 사용행태)를 분석해서 점수를 산정한다.

일례로 술을 과도하게 사는 경우에는 점수가 하락하는 반면, 냅킨을 사는 것은 책임있는 행위로 평가

되고, 지역 사회에서 제시한 노인을 병원에 모셔가는 것, 쓰레기를 줍는 것은 1~2점으로 계산해서 반영

하지만, 시범상태인바 각 지역별로 점수 평가의 차이가 존재한다. 점수가 높은 사람은 호텔, 항공, 대출

에서 우대를 받는 반면, 점수가 낮은 사람은 호텔 및 항공, 철도 이용 및 은행 대출이 거절될 수 있다.

호주 ABC 방송 보도에 인용된 단단(Dandan)씨는 이와 같은 제도가 인구가 과도하게 많은 중국 사회의

관리에 필수적이라고 언급하며, 결혼을 할 때 사랑과 더불어 자신보다 사회신용점수가 높은 사람과 결혼

했다고 소개했다. 반면, 중국 공공분야의 부패를 추적하는 후 씨는 사회신용점수가 박탈되고, 정부 비판

발전 후 부과된 벌과금을 납부했음에도 점수가 바뀌지 않았다.

르네 라파엘과 링 시의 연구에 따르면, 쑤저우(蘇州)에서 시행중인 매화 신용제도는 교통법규 준수에

중점을 두고 있으며, 샤먼(廈門)의 자스민 신용제도는 16세 이상의 시민이 모두 소지한 시민카드로 교통

비를 결재하고 범칙금을 납부하는 체계를 갖추고 있다. 항저우(杭州)는 2015년부터 공공신용평가와 민간신

용평가를 결합해 사회신용점수를 부과하고 있으며, 콩청시는 도덕적 측면을 강조하고 있다.

이처럼 지방정부의 평가 외에 민간신용평가에 관해서는 알리바바 그룹(Alibaba Group)에서 알리페이

사용자들의 사용 행태 분석을 통해 사용자 신용점수를 산출하는 것으로 알려져 있다. 알리페이 사용자의

5가지 데이터(구매이력, 소액대출 상환 현황, 부동산 정보, 금융상품 이력, 개인정보)로 평가점수를 산출

Page 50: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

48

하고 있고, 이와 같은 사회신용점수가 중국인의 싱가포르, 캐나다 비자 신청 과정에서도 참고된다고 한다.

이처럼 공안부 및 각급 지방정부의 사회신용시스템 데이터 수집은 비디오 감시와 지방 정부의 개별

항목 평가로 이루어지며, 중국 기업들의 안면인식 및 분석, 실시간 모니터링 및 분석은 사회신용시스템의

공공파트의 데이터 수집에서 절대적인 역할을 한다. 그러나, 기술기반 데이터 수집체계에서 카메라, 반도체

등은 대다수 미국을 위시한 서구 국가들에서 수입되는 바, 중국과 이들 국가간의 관계가 악화시에는 현재

운영 중인 시스템의 유지 보수부터 문제가 생길 수 있다. 예로 홍콩의 유력 일간지 사우스차이나 모닝

포스트는 2018년 9월 미국 및 유럽 국가들이 첨단 렌즈, 반도체 등 민감 기술이 포함된 부품의 중국

수출을 통제하면서, 텐왕 프로젝트와 같은 사회통제 프로그램의 운영이 차질을 빚고 있다고 보도했다. 특히

이들 기업들은 중요 렌즈, 반도체는 대다수 미국, 유럽지역의 생산에 의존하는 바, 부품 구매가 어려워

질 경우 기존 시스템의 유지보수부터 문제가 생겨, 익명의 중국 정보기관, 주요 기업 관계자들은 영미권

국가들이 중국뿐 아니라 홍콩을 목적지로 표기해도 통제하면서 부품 구매가 어려워지고 있음을 인정했

다고 한다.

민간 데이터 수집: IT 금융사의 고객행태분석

민간 기업의 데이터 수집 및 사회신용평가에 관해서는 알리바바 그룹을 들 수 있다. 알리바바는 알리

페이(AliPay) 전자화폐 서비스 뿐 아니라 쇼핑몰(알리바바의 타오바오)을 통한 다양한 개인 신용정보 및

행태정보를 수집하고, 사회신용시스템의 민간 분야의 신용정보 수집 및 신용평가를 담당하는 것으로 알려져

있다. 중국인민은행은 2015년 1월 《개인신용조회업무 예비업무관련 통지》를 발표해서 세서미 크레딧, 텐센

트 크레딧 등 9개 기업에 신용조회업무를 위해 6개월의 준비 기한을 준다고 발표했으며, 이 중 세서미 크레

딧은 알리페이 전자화폐 서비스를 제공한다는 점에서 의미가 있다. 알리바바사의 앤트 크레딧은 세서

미 크레딧에서 분석한 알리페이 이용자 정보를 바탕으로 해당 이용자의 신용평가점수를 부과해서 대출

에 활용하고 있다. 알리바바사의 경우, 타오바오(쇼핑몰 사이트: 고객 데이터 생성) - 세서미 크레딧(신용

데이터 추출) - 앤트 파이낸셜(데이터 분석 및 신용평가점수 발부)에서 각기 1차 데이터 추출, 신용 데이

터 추출, 신용평가를 담당한다.

알리바바 그룹의 자회사인 세서미 크레딧은 알리바바사를 통해 알리바바사 고객의 보험, 대출, 납부기록,

데이트, 쇼핑, 이동 행태 자료를 구매 및 판매한다. 현재 세서미측은 3억 명의 실명확인이 된 개인 및

3,700만개의 소기업의 데이터를 보유중이며, 정부 측과의 폐쇄적인 협력을 통해 세서미는 정부가 보유한

개인정보 및 금융기록에 접근할 수 있다고 한다. 세서미측은 이러한 정보는 철저한 암호화와 구분을

통해 철저히 보호되고 있으며, 데이터는 고객의 인지 및 동의를 통해 수집된다고 강조했으며, 앤트 파이

낸셜의 고객 점수는 오직 고객의 동의가 있어야 공유된다고 한다. 그러나 오늘날 중국에서 생활을 영위

하며 알리바바사의 서비스를 이용하지 않는 것은 매우 어려우며, 서비스 계약당시 고객이 동의하지 않

으면 계약 자체가 성립되지 않는다는 점도 반드시 감안할 필요가 있다. 두 번째로, 세서미측의 구체적인

Page 51: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

49

신용평가기준은 공개되지 않고 있으나, 2015년 공식 발표된 5개 평가항목으로는 (1)신용정보(신용카드,

대출, 공과금, 벌과금 납부), (2)이행능력(통장 잔고액, 알리페이 계좌 잔액, 구매 금융상품), (3)행위 성향(방

문한 웹사이트, 구매상품 분류), (4)개인특성(개인정보 정확도 및 집주소, 휴대폰 번호), (5)인간관계(이용자

친구들의 온라인 특성 및 교류)로 구분된다고 한다.

세서미 크레딧의 신용평가 항목

한편, 텐센트 크레딧은 2018년 1월 30일 기존 개인의 신용정보와 인터넷 기반 정보를 결합한 새로운

빅데이터를 구축해 객관적인 이용자 신용정보를 제공하겠다는 계획을 발표했으며, 여기에는 이용자 신용

평점, 이용자 신용관리 뿐 아니라 고신용자 관련 금융특권, 생활편익 정보가 포함되었다. 그러나 한 달이

못 된 2월 초에 텐센트측은 서비스 중단을 발표했으며, 구체적인 원인은 확인되지 않고 있다.

시사점: 정부 주도의 사회, 경제활동의 통합적 평가

정리하자면, 중국의 사회신용제도 현재 시범시행 단계에 접어들었으며, 공공 분야에서는 공안부의 텐왕

시스템과 지방정부의 개별 평가를 통해 점수가 산출되고, 민간 영역에서는 알리바바의 알리페이 이용자의

알리페이 사용행태 및 사회관계를 중심으로 한 신용평가가 이루어지고 있다. 그러나, 일견의 예견과 달리

양자간의 데이터 교류는 아직 확인된바 없다. 비록 인민은행이 2015년 1월 5일 개인신용조회업무를

허가한 9개 기업 내에 알리바바와 텐센트가 포함되었고, 특히 알리바바가 알리페이 사용자를 대상으로

한 신용평가를 추진하고 있다고 해도, 이 데이터가 중국 중앙 및 지방정부로 현재 이전되고 있다는 사실이

확인된바 없다. 그러나, 2020년 이후 사회신용제도가 전면적으로 시행될 경우 정부가 종합적으로 시민들의

사회신용을 평가하기 위해서는 알리페이와 같은 전자화폐 사용행태와 같은 데이터는 절대적으로 필요할

것이다. 특히 2014년에 발표된 『사회신용체계구축계획 요강(2014-2020)』에는 금융, 의약품, 통신 등 광

Page 52: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

50

범위한 분야의 사회신용체계를 구축할 것을 언급하고 있는바, 구체적인 데이터 수집에 관한 지침이 올

해 내에 발표될 것으로 전망한다.

이러한 제도는 인공지능 기반 모니터링 체계에 상당히 의존하고 있는 반면, 주요 부품의 외부 의존도가

높다. 특히 2018년 9월 사우스차이나 모닝포스트의 보도를 볼 때, 서구 국가들의 민감부품의 대중국 수출

통제는 중국이 여전히 관건이 되는 부품을 자체적으로 조달하지 못함을 확인할 수 있다. 그러나, 이러한

부품은 단시일 내에 개발해서 생산하는 것이 사실상 어려운 바, 외부 의존 현상은 지속될 것이며, 무역

환경 악화시 중국 정부의 계획이 상당부분 지연될 수 밖에 없다.

마지막으로 사회신용제도가 우리에게 주는 의미를 고려해보면 우선, 중국 내에서 장기 거주하는 기업인,

직장인, 학생들의 경우 일상적 필요로 인해 알리페이와 같은 전자화폐 사용이 잦을 것으로 보인다. 중국은

오랫동안 위조지폐 문제로 경제, 사회적 갈등이 잦았는데, QR코드 기반의 전자화폐 결제가 보편화되면서

위조지폐 문제가 점차 해소되고 있다. 이점을 감안할 때, 전자화폐의 사용은 중국 내에서 향후 지속될

수 밖에 없다. 이 과정에서 중국 내 우리 교민들에 대한 신용평가도 일정부분 이루어질 것으로 보이며,

2020년 사회신용제도가 본격적으로 시행될 경우 금융활동에 대한 평가와 더불어 사회신용 평가 또한

불가피할 것으로 보인다. 반면, 중국 이외 지역에서의 위챗페이, 알리페이 사용자의 사회신용평가를 수집

할 수 있는 데이터가 금융거래와 일부 친구들과의 사회관계밖에 없다는 점에서 중국 기업 또는 정부가

사회신용체계의 내부로 포함시킬 가능성은 현재로서는 높지 않다고 보인다.

[출처]

[1] 『르몽드 디플로마티크 한국어판 2019년 2월호』, 르네 라파엘, 링 시,「착한 중국인, 나쁜 중국인」, P.5-6.

[2] 이승은, CSF 중국전문가포럼,『이슈분석』 ,2017-163, 「중국 사회신용시스템의 현황 및 전망」, p.1-5.

[3] 中国人国务院, 2014.6.14., 国务院关于印发社会信用体系建设规划纲要(2014—2020年)的通知

http://www.gov.cn/zhengce/content/2014-06/27/content_8913.htm

[4] 中国人民银行,2015年1月5日,人民银行印发《关于做好个人征信业务准备工作的通知》

http://www.gov.cn/xinwen/2015-01/05/content_2800381.html

[5] Alibaba Group, January 28, 2015, Ant Financial Unveils China's First Credit-Scoring System Using Online

Data, https://www.alibabagroup.com/en/news/article?news=p150128

[6] South China Morning Post, Stephen Chen, 4 Oct, 2018, How tensions with the West are putting the future

of China’s Skynet mass surveillance system at stake

https://www.scmp.com/news/china/science/article/2165372/how-tensions-west-are-putting-future-chinas-skynet-mass

[7] Tiansoon’s binaries, APRIL 15, 2018 , Who are Behind China’s “Sky Net” Smart Facial Recognition

Surveillance? http://tiensoon.com/2018/04/china-sky-net-smart-facial-recognition-surveillance/

Page 53: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

51

스마트시티의 보안 이슈 및 시사점

서정택 순천향대학교 교수([email protected])

• (現) 순천향대학교 정보보호학과 교수

• (現) 한국 정보보호학회 상임이사

• (前) ETRI 부설 국가보안기술연구소 책임연구원

스마트시티 개념 및 서비스 전망

스마트시티(Smart City)는 국민의 삶을 더욱 편리하고 풍요롭게 가꿔줄 4차 산업혁명 시대를 선도하는

모델로 사물인터넷(Internet of Things)과 정보통신기술(Information and Communication Technology)이

적용된 지능형 도시이다. 스마트시티 내의 구성요소들은 네트워크를 통해 서로 연결되어 주거, 도시 등

모든 생활공간이 스마트하게 운영된다.

스마트시티 개념도

Page 54: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

52

스마트시티는 다음 표와 같이 6가지의 핵심 구성요소들이 있으며, 이를 통해 도시 운영 및 서비스를

효율적으로 제공하고 시민들의 생활 수준을 향상시킬 수 있다.

또한 스마트시티에서는 교통, 에너지, 환경, 안전, 의료, 교육 등 다양한 분야에서 스마트한 서비스가 제공된다.

O 스마트 환경

구성요소 특징

스마트 교통

(Smart Mobility)

- 접근성의 향상

- 안전한 교통

- 효율적이고 지능적인 교통시스템

스마트 경제

(Smart Economy)

- 지역/세계에서의 경쟁력

- 높은 생산성

- 지역의 독립성

스마트 생활

(Smart Living)

- 삶의 질 향상

- 사회 서비스 접근성 향상

- 스마트 홈, 헬스, 교육 등 편의 서비스 제공

스마트 거버넌스

(Smart Governance)

- 투명성 제공

- 정부 서비스에 대한 접근성 향상

- 참여 의사결정 가능

스마트 시민

(Smart People)- 스마트시티 서비스를 이용하는 사람으로서 창의적이며 교양을 갖춤

스마트 환경

(Smart Environment)

- 환경오염 모니터링

- 에너지 보존과 자원 재활용 촉진

- 새로운 기술 혁신을 위한 에너지 소비 축소

스마트시티 핵심 구성요소

스마트 환경 서비스 특징

쓰레기 처리 시스템

- 스마트 쓰레기통 시스템: 쓰레기통 내부 쓰레기의 양과 화재발생 여부 등을

자동으로 감지

- 음식물쓰레기 제로화 시스템: 음식 폐기물을 발효·소멸 처리하고 발생

되는 부산물을 연료 또는 퇴비로 재활용하는 기술

스마트 환경 서비스

Page 55: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

53

O 스마트 방범·방재

O 스마트 미터링

IoT 디바이스 중 하나인 스마트 미터(Smart Meter)는 스마트그리드의 핵심인 AMI(Advanced Metering

Infrastructure)의 핵심 기술로 개발된 양방향 통신 임베디드 기기이다. 스마트시티 내에서는 전력, 가스 및

수도 사용량에 대한 통합 검침 등에 스마트 미터를 이용하여 에너지 및 수도 등의 사용량에 대한 모니터링

이 가능해진다.

O 스마트 교통

현재 도시의 핵심 문제인 교통체증 문제의 해결을 위하여 스마트시티에서는 AI(Artificial Intelligence)

기술과 빅데이터 분석 기술 등을 활용하여 혼잡구간 원인분석, 대중교통 증편, 신호제어, 실시간 교통량 조절,

도심 주차문제 해결, 보행자 안전지원 등의 스마트한 교통 서비스를 제공한다. 자율주행차 상용화와 드론

기술을 이용하고, 지능정보 기술을 활용하여 지능형 도로시스템, 스마트 철도 서비스, 항공 및 공항 운영에

서도 최적화를 추진할 수 있다.

상수도 관리 시스템- 실시간으로 상수도와 관련된 정보를 수집하고 분석함으로써 상수도에

대한 상태 모니터링과 효율적인 이용을 가능하게 함

대기 관리 시스템- 토지이용 및 교통 환경 변화에 따른 온실가스와 대기오염 물질의 배출량과

대기 상태를 분석하고 예측 결과 및 심각도에 대한 정보 제공

스마트워터그리드 시스템 - 도시침수 및 홍수관리 서비스는 강우량, 하천수위 등을 센싱하여

빅데이터 분석을 통해 수위를 예측하고 침수예상정보 제공

오폐수 처리 시스템- 하수관, 펌프장, 정수시설 등을 통합관리 하여 하수도 시설의 유지관리

및 효율적인 운영을 가능하게 하는 서비스

스마트 방범·방재 서비스 특징

스마트 CCTV- 스마트 CCTV 설치 및 24시간 관제센터 운영을 통한 교통제어 향상 및

범죄율 감소

스마트 가로등- 주변 상황에 따라 자동 또는 원격으로 동작이 제어되는 가로등으로 전기

에너지 절감 효과가 뛰어나며 WiFi 제공 등의 추가적인 서비스 제공 가능

스마트 방범·방재 서비스

Page 56: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

54

O 스마트 홈

그동안의 집에서 별도로 운영되던 에너지, 수도, 가전제품들이 가정 내의 온라인 플랫폼에 연결되어 스마

트홈 서비스가 실현된다. 스마트폰이나 태블릿PC를 통해 스마트 홈 내부의 가전기기들에 대한 모니터링 및

제어가 가능해진다. 이를 통하여 조명이나 가스 등을 제어할 수 있고, 사용한 에너지량도 실시간 체크가

가능하다.

O 스마트 빌딩

빌딩의 효율적인 운영을 통해 에너지 소비 및 제반 비용을 최소화 할 수 있으며, 안전함과 편리함의 제공이

가능하다. 빌딩관리시스템(Building Management System)은 빌딩 내 에너지 및 보안 관련 서비스 등에

대한 통합적인 제어, 모니터링 기능을 제공한다.

O 스마트 팩토리

단순 자동화 공장이 아닌 제품의 기획, 설계, 생산, 유통, 판매 등 전 과정을 통합하여 자동으로 데이터를

수집하고 작업 명령을 내릴 수 있도록 설계된 ‘지능화 공장’서비스가 실현된다. 공장 내 설비와 기계에 사물인

터넷을 설치하여 공정 데이터를 실시간으로 수집 및 분석하여 목적된 바에 따라 스스로 제어가 가능해진다.

O 스마트 헬스

사물인터넷, 센서 및 웨어러블 기기 등의 ICT 기술과 보건의료의 만남인 스마트 헬스는 언제 어디서나

시간과 장소의 제약 없이 스마트 단말을 바탕으로 편리하게 예방, 진단, 치료, 사후관리 등의 새로운 보건의료

서비스가 제공된다. 또한, 개인의 유전자 정보를 포함한 개인정보를 토대로 개인에게 최적화된 진단과 처방

등의 의료 서비스를 제공하는 ‘의료의 개인화’가 가능해진다.

스마트시티 주요 기술

스마트시티는 4차 산업혁명의 핵심기술인 사물인터넷(IoT), 빅데이터, 인공지능(AI), 클라우드, 모바일 기기

및 5G 통신 등의 새로운 기술들을 이용한다. 현장에 설치되는 수많은 IoT 디바이스들로부터 상태정보 등의

정보를 수집하여 중앙으로 모으면 그 정보의 양이 어마어마하다. 이 정보들을 빅데이터로 수집 및 관리

하며, 정보 관리에 클라우드 기술을 이용할 수 있다. 이렇게 모인 빅데이터를 인공지능 기술(Machine

Learning 등)을 이용하여 데이터를 분석하여 상황을 분석 및 예측하는 데도 사용하게 된다.

따라서 스마트시티 내에서는 이렇게 수집되는 정보들에 대한 개인 프라이버시 보호와 각각의 서비스 간에

정보를 공유 및 연계 활용하는 데 있어서의 보안대책 마련이 특히 중요하다.

Page 57: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

55

스마트시티 주요 기술

스마트시티 보안 위협 및 공격 가능 시나리오

스마트시티 기기, 시스템 및 네트워크 보안 위협

□ 스마트시티 기기 대상 보안 위협

O 스마트시티 주요 기기

센서

(Sensor)

- 가속도 센서, 지자계 센서, 자이로 센서, 온도 센서, 조도 센서, 근접 센서, 소리 센서, 이미지

센서, 지문 센서, 터치 화면 등이 존재함

- 스마트 자동차의 경우 자동차 한 대에 약 150에서 200개에 달하는 센서가 사용되고 있음

- 주차 공간에 차량감지 센서를 설치하여 운영하는 스마트 주차, 빌딩 전체에 설치된 센서를

통해 화재 경보, 보안 시스템, 조명 시스템, 발전기, 물 관리를 자동으로 실행해 주는 시스템

- 센서 통신에는 BLE, Wifi, LoRa, SIGFOX, NBIoT, Zigbee 등의 통신망을 사용

PLC

(Programmable

Logic Controller)

- 스마트팩토리 내 각종 센서로부터 신호를 받아 제어기에 신호를 보냄으로써 사용자가

설정한 명령대로 작동하도록 해주는 기기

- RTU(원격단말장치)와 동일하게 현장기기에서 데이터를 받아 상위 시스템으로 송신하

거나 상위 시스템에서 내려오는 제어명령을 실행하는 임베디드 장치

스마트 미터

(Smart Meter)

- 스마트 미터링을 위해 공동 주택, 아파트 등에 설치하고 전력, 상수도, 가스 등의 에너지 계량

값을 검침해 유틸리티와 소비자 모두에게 정보를 제공하는 기기

가전기기

(Home Appliances)

- 가정에서 사용하는 가전제품(TV, 에어컨, 냉장고 등)을 비롯해 에너지 소비장치(수도, 전기,

냉난방 등), 보안기기(도어록, 감시카메라 등) 이외의 다양한 분야에서 모든 기기를 통신

망으로 연결해 모니터링 및 제어를 수행하는 기기

- 사용자의 환경에 따라 자동으로 원격에서 제어할 수 있음

Page 58: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

56

O 스마트시티 기기 대상 보안 위협

스마트폰

(Smart Phone)

- 스마트폰은 스마트시티의 각종 기능을 이용하는 데에 있어 필수적인 요소임

- 스마트 교통의 서비스를 이용하거나, 스마트 홈의 냉난방기 조절, 조명 조절 등을 위하여

사용하는 무선기기

스마트 가로등,

스마트 CCTV

- 센서를 부착한 LED가로등으로 차량 움직임을 센서가 감지하였을 때 가로등 밝기를 조절

하거나 사람의 존재유무를 감지하여 자동으로 작동하는 가로등

- 고장감지 센서를 통해 가로등의 고장 여부를 감지하여 유지보수를 원활하게 함

- 방범용 CCTV와 무선 인터넷 서비스를 포함하여 운영 가능

스마트 자동차- 네트워크 접속이 가능하고 무선통신을 통해 차량 내부와 외부 네트워크가 상호 연결되어

지능화된 운행이 가능한 자동차

위장 및 변조

- 인가된 기기 및 장치로 위장해서 특정한 비인가 특권을 얻게 함

- 보안 기능이 거의 또는 전혀 없는 기기라면 더욱 쉽게 위장 가능

- 보안 기능이 없는 기기라면 한 개의 노드가 다양한 노드의 역할을 흉내 내는 시빌(sybi)l 공격 가능

- 인가된 하위 센서 및 스마트 미터 등의 기기로 위장하여 이를 통해 잘못된 정보를 서버에

보내 시스템의 오류를 유도함

비인가 접근

- 기기에 대한 부적절한 물리적인 방어로 인해 비인가자가 스마트시티 내 주요 기기에 대해

물리적 접근을 명시적 허가 없이 달성

- 공격자가 잘못 구성된 PLC, RTU와 같은 기기에 접근하여 비정상 제어신호를 발송하여 시스템의

오류를 유도하거나 스마트시티 서비스에 악의적인 제어 명령을 전송

- 기기 대상의 스니핑 공격을 통하여 네트워크 키, 센싱 데이터, 제어메세지 등 중요 정보

획득 가능

- EEPROM 등의 메모리 덤프를 통한 기기의 주요 정보 추출

악성 파일·코드 및

악성 소프트웨어

- 감염을 방지할 수 있는 멀웨어 방어 소프트웨어 미설치 및 최신 패치가 이루어지지 않았을 경우

발생할 수 있는 위협

- 스마트시티 내 기기가 악성 코드 및 악성 소프트웨어에 감염된다면 외부와의 연결 접근점을 찾아

외부 공격을 받거나 내부적으로 기기 및 시스템을 파괴 및 변조하여 큰 위협을 가할 수 있음

서비스 거부

(DoS)

- 네트워크의 정상적인 사용 또는 관리가 방해되거나 정지됨

- 여러 클라이언트/IoT디바이스를 이용하여 수많은 연결요청을 발생시켜서 타겟 시스템을 서비스

거부 상태로 만들 수 있음

Page 59: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

57

□ 스마트시티 시스템 대상 보안 위협

O 스마트시티 주요 시스템

O 스마트시티 시스템 대상 보안 위협

비인가 접근

- 시스템에 대한 부적절한 물리적인 방어로 인해 비인가자가 스마트시티 내 시스템에 대해 물리적 접근

- 공격자가 해당 HMI 시스템을 사용하여 비정상 제어명령을 전송하여 스마트시티 내

시스템 및 서비스 오작동 유발

중요정보 변조·파괴

- 비인가자가 시스템의 중요정보(ex. DB)에 불법 접근하여 정보를 변조, 파괴하는 공격 행위

- 스마트 서비스별 관리시스템은 스마트 서비스 내 기기와 시스템으로부터 수집된 정보를

이용하여 효율적인 관리를 하지만 이러한 정보자원이 변조 및 파괴되면 스마트시티 운

영에 위험을 초래함

근무자의 실수

(Human Error)

- 근무자의 부주의함으로 인해 중요한 정보가 외부로 유출되는 경우

- 개인 프라이버시 요소가 포함된 서비스의 시스템의 경우 외부로 직접적인 연결을 보안상

지양하지만 사회공학적으로 접근하는 취약점이 발생 가능

각 스마트 서비스별

관리시스템

- 각 스마트 서비스별 관리자가 사용하는 컴퓨터 제어시스템으로 각 스마트 서비스 요소의 상태를

실시간으로 모니터링하고 제어하는 시스템

시·도 행정시스템- 스마트 서비스와 해당하는 시·도 행정기관을 인터넷으로 연결하여 공동으로 이용/연계할 전산

환경을 구축한 행정시스템을 말함

각 스마트 서비스별

Server

- 각 스마트 서비스를 위해 각종 정보를 가공하여 제공하는 서버

예) 일반 지도와 같은 지형정보와 함께 지하시설물 등 관련 정보를 인공위성으로 수집, 컴퓨터로

작성해 검색, 분석할 수 있도록 한 복합적인 지리정보와 스마트 서비스 설비 정보를 가공하여

제공하는 서버 등

각 스마트 서비스별

DB(Data Base)

- 각 스마트 서비스를 위해 각종 정보를 저장 및 제공하는 DB

- 수많은 센서로부터 수집되는 다량의 정보를 빅데이터로 관리

예) 지리 정보, 인구 및 사용자와 스마트 서비스 설비 정보를 저장 및 제공하는 DB

Open API/포탈 - 스마트 서비스의 정보 제공과 3rd party에 OpenAPI를 제공하는 서버

HMI(Human

Machine Interface)

- HMI에서는 운용자에게 현장의 운전 상황을 시각적으로 구분 표시하여 효율적인 모니터링과

제어를 지원하는 시스템

Page 60: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

58

□ 스마트시티 네트워크 대상 보안 위협

O 스마트시티 네트워크

스마트시티 네트워크는 기기 및 시스템 간의 통신을 가능하게 하고 BLE, Wifi, LoRa, Zigbee, TCP/IP 등의

다양한 통신 프로토콜 사용한다.

O 스마트시티 네트워크 대상 보안 위협

우회제어

- 방화벽이나 인증 과정을 거치지 않고 시스템 접속 권한을 확보

- 관리자만이 접근하는 HMI 시스템 또는 관리시스템의 제어권을 획득하기 위해서는 별도의

인증과정(패스워드)을 거치거나, 엄격한 보안등급이 적용되는 방화벽을 거쳐야 하는데,

이러한 보안대책을 우회하는 취약점을 이용하여 제어권을 획득하거나, 개방망(public

network)에 연계되어 있는 다른 간접적인 경로를 통해 우회

악성 파일·코드 및

악성 소프트웨어

- 감염을 방지할 수 있는 악성코드 방어 소프트웨어 미설치 및 최신 패치가 이루어지지

않았을 경우 발생할 수 있는 위협

- 스마트시티 내 시스템들이 악성코드 및 악성 소프트웨어에 감염된다면 외부와의 연결 접근점을

찾아 외부 공격을 받거나 내부적으로 기기 및 시스템을 파괴 및 변조하여 큰 위협을 가하여

스마트 서비스에 장애 유발

도청

- 네트워크 통신 구간에서 비안가된 접근을 통하여 전송데이터 도청

- 기기와 시스템 간의 네트워크에서 발생 가능

- 공격자가 감시 소프트웨어와 로컬 IP 네트워크 액세스를 이용해서, 클라이언트와 서버 사이의

데이터 교환을 기록, 이런 데이터에는 일반 텍스트로 전송되는, 클라이언트의 사용자 정보와

패스워드 정보 포함되기도 함

중간자 변조

(MITM)

- 정당한 두 시스템 사이에서 네트워크 통신을 가로챔(스푸핑 공격 등 사용)

- 공격자는 인증 자격과 데이터를 획득한 후, 정당한 사용자인 것처럼 위장

- 공격자는 소프트웨어를 사용해서 클라이언트 정보 시스템을 속여 공격자의 정보 시스템이 정당한 서버

라고 믿게 됨, 공격자는 클라이언트와 서버 사이에서 교환되는 모든 데이터를 감시, 기록 및 변경함

메시지 위·변조

- 네트워크 통신이 수동적으로 감시되어 관련 메시지를 공격자가 원하는 메시지를 재전송

예) 공격자가 CCTV를 비활성화(ex. stop)하는 메시지를 기록한 후, CCTV를 비활성화하고 싶을 때마다

동일한 메시지의 사본을 전송하여 위협발생 가능

트래픽 분석

- 통신의 패턴과 참가자를 확인하기 위해, 네트워크 통신이 수동적으로 감시됨

- 암호화되지 않은 통신 트래픽 분석을 통하여 전송되는 메시지 체계를 분석 가능하며. 네트워크 패킷 내의

페이로드 값들에 대한 분석을 통하여 불법적인 명령 전송에 활용 가능

Page 61: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

59

스마트시티 공격 가능 시나리오

O 스마트 미터를 이용한 계량 데이터 값 변조 공격

스마트 미터는 전력, 수도 및 가스 등의 실시간 사용량에 대한 정보를 유틸리티로 제공하고, 유틸리티로

부터 실시간 가격정보 등을 수신하는 목적으로 양방향 통신을 수행한다. 임베디드 운영체제가 설치되는

임베디드 기기로 보안 기능의 적용이 필요하다.

스마트 미터가 물리적으로 접근이 가능한 외부에 설치되는 경우가 많으며, 물리적인 공격이나 네트워크

취약점을 이용한 데이터 도청 및 위·변조 공격의 위협이 존재한다. 공격자가 스마트 미터 해킹에 성공하게

되면 미터링 값을 조작하여 과금정보를 변조하는 것이 가능하며, 스마트 미터를 통해 MDMS(Metering Data

Management System) 서버에 대한 해킹을 통하여 운영센터 쪽으로의 해킹 공격이 가능할 수 있다.

스마트 미터를 이용한 계량 데이터 값 변조 공격 가능 시나리오

비인가 접근

- 네트워크에 대한 논리적 또는 물리적 접근을 명시적 허가 없이 달성

- 말단 센서 및 IoT디바이스 등에 물리적으로 접근한 공격자는 네트워크 내에 타 시스템 및 다른 스마트

시티 서비스로의 접근시도가 가능함

무선통신 인터셉션

(Interception)

- 무선통신은 일반 유선구간에 비해 데이터의 하이재킹 위협이 높기 때문에 유선통신에 비해 해킹에

훨씬 취약한 특성이 있음

- 서비스의 편리성 및 현장기기(센서) 연결의 특성으로 인해 무선통신 활용이 높으며, 무선통신

환경의 취약점을 이용한 다양한 보안 위협 발생

Page 62: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

60

O CCTV 해킹을 통해 개인 프라이버시 침해 공격

스마트시티에서는 스마트한 CCTV를 설치 및 운영하여 도시 내 전지역을 촬영할 수 있다. 최근 개발 및

보급되는 성능이 뛰어난 개인용 CCTV는 언제 어디서나 스마트폰 등을 이용하여 접근이 가능하며 고화질

영상을 사용자에게 제공한다. 또한, 스마트시티에서는 CCTV를 이용하여 스마트 교통, 방범 등의 서비스를

실현한다. 최근에 보급되는 CCTV는 고화질로 원거리의 사람까지도 줌인 기능을 이용하여 식별이 가능하며,

제어 기능을 통하여 방향 및 각도를 조절하며 촬영이 가능하다. 도시 내에 설치되는 수많은 CCTV에 도시

내의 시민들이 노출되며, 자신이 원하든 원하지 않든 다수의 CCTV에 노출되어 촬영될 수 있다.

최신 CCTV와 IP 카메라 제품들은 네트워크를 통해 원격에서 영상을 확인 및 제어할 수 있으며, 이들 기기들이

관리자 계정 정보가 하드코딩 되거나 보안설정 부족으로 인하여 공격자가 쉽게 접근 및 해킹을 통하여 권한

획득이 가능할 수 있다. CCTV에 접근한 공격자는 임의의 개인을 타겟팅한 영상 촬영 등이 가능해질 수 있다.

이는 심각한 개인 프라이버시 침해로 이어질 수 있다. 또한, 도시내에서 촬영된 영상정보를 중앙에 수집 및

관리하는 데이터 서버 등에 대한 보안 관리가 중요해진다. 중앙 서버에 대한 해킹을 통해 공격자가 원하는

시간, 원하는 공간의 정보를 들여다보거나 유출 시킬 가능성이 존재한다.

CCTV 해킹을 통한 개인 프라이버시 침해 공격 가능 시나리오

O 차량감시센서 해킹을 통한 교통신호 제어시스템 공격

스마트시티에서는 스마트 교통서비스 제공으로 도시 내 교통체증 문제를 해결하고자 한다. 교통 4거리에

CCTV를 설치하여 실시간 교통량을 확인하고, 교통 신호제어를 통해 도시 내 교통 흐름을 제어한다. 또는,

도로에 센서들을 설치하여 차량의 통행량을 센싱하여 실시간 이동방향 및 차량 대수 등을 확인할 수 있다.

센싱 된 정보를 활용하여 해당 4거리의 신호제어기를 조작하여 이동량이 많은 방향의 신호 시간을 길게 설정

하여 교통 흐름을 원활하게 조정할 수 있다. 이러한 환경에서 도로에 설치된 센서들과 교통 제어기 사이에

주로 무선통신을 활용한다. 공격자는 차량을 이용하여 센서와 교통 제어기 주변에 위치하고, 무선통신 보안

Page 63: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

61

취약점을 이용하여 공격이 가능할 수 있다. 접근통제 및 제어권한에 대한 보안 설정이 적절하지 못할 경우

이러한 공격이 가능하며, 정보의 위·변조를 통하여 교통신호 제어기를 조작할 수 있다. 출퇴근 시간 등 교통

흐름이 많은 시간에 교통신호 제어시스템 대상의 공격은 도시 내 대규모 교통혼잡을 야기할 수 있다. 또한,

스마트시티 내 중앙 교통제어시스템의 해킹 공격 및 권한획득을 통해서 도시 내 신호제어기를 한꺼번에 점

멸등으로 변환시켜서 도시를 마비시키는 공격 가능성도 존재한다.

차량 감시 센서 해킹을 통한 교통신호 제어시스템 공격가능 시나리오

O 빌딩관리시스템 해킹을 통한 빌딩제어

최근에 건설된 빌딩들의 경우 빌딩 내 주요시설에 대한 제어를 빌딩관리시스템에서 수행한다. 쇼단

(Shodan)과 같은 검색도구를 활용하여 외부에 위치한 공격자가 인터넷에 연결되어 있는 빌딩관리시스템

에 접근 및 해킹이 가능할 수 있다. 빌딩관리시스템에 해킹한 공격자는 빌딩 내 냉난방시스템, 조명시스

템, 에스컬레이터 및 엘리베이터 시스템 등에 대한 불법적인 조작을 통하여 빌딩 내 입주자들에게 큰

불편을 야기시킬 수 있다.

인터넷망과 연결된 빌딩관리시스템 권한 탈취를 통한 공격 가능 시나리오

Page 64: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

62

O PLC 등의 제어기기 해킹을 통한 스마트 팩토리 공격

스마트 팩토리는 전력, 원자력, 교통 및 수자원 등 국가기반시설에서 설치 및 운영되는 제어시스템과

비슷한 환경이다. 공장 내 주요 제어시스템은 외부인터넷 및 업무망과 분리하여 운여하고 접점 및 정보

연계가 필요하다면 일방향자료전달시스템을 설치하거나 방화벽을 통하여 망을 분리하고 철저한 접근통제를

실시하여야 한다. 하지만, 이렇게 네트워크 측면의 보안대책을 잘 적용해도 근무자가 USB와 같은 저장

장치를 제어시스템에 연결하거나 공급망 공격(Suply Chain Attack)과 같이 장비의 개발 및 공급 과정에서

악성코드가 주입되어 설치되는 공격에 취약할 수 있다. 스마트 팩토리 내 제어시스템에 악성코드가 감염

되면 중요 설계도 및 내부 기밀자료의 유출 시도가 발생할 수 있다. 또한, 제어시스템 내의 설정값을

조작하여 스마트팩토리 내의 생산 과정을 방해하거나, 설비 등의 고장 등을 유발시킬 수 있다.

감염된 PLC 설치를 이용한 스마트 팩토리 공격 가능 시나리오

결론

스마트시티는 최신 ICT 기술을 활용하여 도시 전체의 서비스를 스마트하게 운영할 수 있는 획기적인

미래도시이다. 하지만, 앞에서 설명한 보안 위협과 보안 취약점을 이용한 다양한 사이버 공격으로부터

도시기능 마비, 개인 프라이버시 침해 및 인명피해 등이 발생할 수 있다. 따라서 스마트시티의 설계 및

구축단계부터 사이버 보안을 중요하게 고려해서 진행하여야 한다. 스마트시티 내 기기, 시스템, 통신환경

과 중앙에서 빅데이터 및 클라우드 형태로 관리되는 데이터에 이르기까지 최적화된 보안기술의 개발 및

적용이 매우 중요하며 필요하다.

최근 추진되는 주요 스마트시티 사업들 중에 일부 사업은 사이버 보안에 대한 고려없이 플랫폼 구축,

서비스 개발 및 실증 측면만을 강조하여 진행되는 부분이 있다. 이들 사업들은 추후 구축이 완료되고

서비스 시작 단계에서 사이버 보안이 걸림돌이 되어 다시 시간과 예산을 투자하여 뜯어 고치는 상황이

발생할 것이다. 국가적으로 추진되는 미래형 도시 스마트시티 사업에서만은 사이버 보안이 걸림돌이 아닌

디딤돌 역할을 할 수 있기를 기대한다.

Page 65: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

63

사이버보안 전문인력 양성 관련 국외 사례 분석 및 시사점

김형종 서울여자대학교 교수([email protected])

• (現) 서울여자대학교 정보보호학과 교수

• (前) 미국 카네기멜로대학 CyLab 국제공동연구원

• (前) 한국인터넷진흥원 수석연구원

데이터의 분석을 기반으로 AI 기술을 사용하는 것을 근간으로 하는 4차 산업 혁명 시대는 그 어떤 때보다

사이버보안 영역의 전문 인력이 필요한 시대이다. 미국에서는 2017년 11월 대통령령으로 사이버보안 분야의

전문인력 양성을 위한 국가적 계획을 수립하고 추진하고 있다. 이러한 계획이 이행되기에는 시간이 필요하며,

추이를 지켜봐야 할 것이다.

사이버보안 전문인력 양성의 정의 및 필요성

4차 산업혁명 시대에는 데이터의 광범위한 수집 및 인공지능 기술을 이용한 분석 및 의사결정이 진행된다.

이러한 의사결정은 물리 시스템과 연동되어 우리의 삶이 실질적인 영역에 영향을 미치게 된다. 이러한 시대에

대두되는 이슈 중 하나가 사람에 대한 의존성이 점점 낮아지는 것이다. 오랜 기간 동안 사람의 영역이었던

분석 및 의사결정의 영역이 기계에 맡겨지게 되는 것이다. 사이버보안 분야의 전문 인력 양성은 이러한 4차

산업 혁명의 시대에 더욱 절실하다고 할 수 있다. 특히 모든 지능의 생성 및 의사결정의 근간이 되는 데이

터를 보호하는 것이 필요하고, 지능을 기반으로 동작하는 제어시스템들의 안전한 운영을 위한 외부로부터의

공격에 대한 대응이 필요하다.

사이버보안 분야는 단순히 시스템/네트워크/암호 기술을 이해함으로써 문제가 해결되는 영역이 아니다.

해당 기술이 적용되는 영역(domain)에 대한 이해가 있어야 하며 이를 기반으로 보안 관리 혹은 위험관리가

진행되게 된다. 앞서 4차 산업혁명 시대에는 모든 것이 무인 자동화하는 형태로 변할 것이라고 하였다. 이런

상황에서도 지속적으로 사람의 판단을 의지하게 될 것이라고 판단되는 영역이 사이버보안 분야이다. 이는

Page 66: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

64

사이버보안이 단순히 기술적 판단으로 끝나는 것이 아니라 법 제도 및 사람의 성향을 이해해야 하는 특성을

갖기 때문이다.

사이버보안 전문인력 양성을 위한 미국 정부의 정책 입안1)

2017년도 5월 11일에 미국의 대통령령으로 미연방 네트워크 및 주요 기반 시설에 대한 사이버보안을 강화

하는 계획이 수립되면서 이의 부분으로 기술적인 역량을 제대로 갖춘 인력의 양성 및 이의 유지를 한 부분

으로 담았다. 결과적으로 상무부 및 국토안보부에서 다음과 같은 계획을 수립하였다.

1) 미래의 미국 사이버보안 인력의 교육 및 훈련을 위한 노력의 범위와 정도를 평가하되 사이버보안과

관련된 교육 커리큘럼, 훈련 및 인턴십 프로그램을 기초 및 고급 교육과정에 도입하는 것을 포함할 것

2) 미 대통령에게 공공 및 민간 영역의 국가 사이버보안 인력 양성과 관련한 성장 및 유지를 어떻게 진

행할 것과 관련한 조사 결과 및 제안 사항을 보고하는 보고서를 제시할 것

이러한 계획을 기반으로 상무성과 국토 안보부는 “국가 사이버보안 인력의 성장 및 유지를 위한 지원”에

대한 보고서를 대통령에게 보고하였다. 해당 보고서에는 국가 사이버보안 인력 양성의 중요성에 대한 논의와

함께, 2017년도 8월을 기준으로 미국 내에 299,000개의 일자리가 있는 상태이며, 전 세계적으로 2022년까지

약 1백 80만 명이 모자라게 될 것이라는 보고를 담고 있었다. 또한, 미국 국내에 정보 보안 분야의 교육 프로

그램 및 환경의 개선이 필요하며, 이는 초등, 중등 및 고등 교육 분야 각 영역에 전방위적으로 이루어지도록

해야 하며 이를 위한 인력의 보강이 필요하다고 역설하고 있다. 이러한 과정 속에서 여성, 사회배려대상자

및 국가유공자들에게 해당 영역의 직업을 가질 수 있도록 지원이 필요하다고 제안하고 있다. 무엇보다 이러한

필요를 충족시키기 위한 미연방 정부 차원의 잘 정리된 계획 수립과 예산의 지원이 있어야 함을 제안하고 있다.

미국 NIST에서 National Initiative for Cybersecurity Education(이하, NICE)는 정부, 교육기관 및 민간

영역이 협력하여 현재 및 미래의 국가 정보보호 인력의 영향 향상을 지원하기 위한 기준과 모범사례를

제시하고자 하고 있다. 특히 NICE는 미국 상무부 산하의 표준을 연구하는 NIST의 주도하에 개발 및 NICE

Cybersecurity Workforce Framework 형태로 정의하고 있다.2) 해당 문서에 많은 내용이 정의되어있지만 특히

아래 그림과 같은 7개의 영역을 두어 사이버보안 전문 인력의 직군을 구분하고 있다.

Securely Provision 영역은 안전한 IT 시스템을 만들기 위해 책임성 있게 개념화, 설계 및 획득 또는 개발을

진행하는 것이다. Operate and Maintain 영역은 IT 시스템이 효과적/효율적으로 구동되도록 하기 위한 지원,

1) A Report to the President on Supporting the Growth and Sustainment of the Nation's Cybersecurity Workforce: Building the Foundation for a More Secure American Future, Transmitted by The Secretary of Commerce and The Secretary of Homeland Security

2) Newhouse, William(2017). National Initiative for Cybersecurity Education (NICE) Cybersecurity Workforce Framework

Page 67: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

65

관리 및 유지보수를 진행하는 것이다. Oversee and Govern 영역은 리더십, 관리와 방향제시, 개발 및 동의

등의 활동을 통해 조직이 사이버보안 업무를 효과적으로 수행할 수 있도록 하는 것이다. Protect and

Defend 영역은 내부 IT 시스템이나 네트워크에 대해 위협을 식별, 분석 및 경감시키는 것이다. Analyze 영역은

매우 높은 수준의 전문성을 기반으로 유입되는 사이버보안 정보를 평가 분석하고 이의 활용성을 결정하는

것이다. Collect and Operate 영역은 특화된 서비스 거부나 거짓 정보 기반의 행위와 수집된 사이버보안

정보를 제공하여 이를 추후 활용하기 위한 것이다. Investigates 영역은 사이버보안 이벤트 및 IT 시스템, 네트

워크 및 디지털 증거의 범죄 정보를 조사하는 것이다.

사이버보안 전문인력의 직군

사이버보안 전문인력 기관 현황 및 주요 교육내용

사이버보안 분야의 전문인력 양성에는 주로 대학이 그 문호 역할을 한 것이 사실이다. 추가로 정보보안

교육을 주관하는 사설 기관들이 지속해서 교육을 진행하고 있다. 또한, 전문분야의 최신 트렌드를 기반으로 한

튜토리얼 형태의 교육이 존재한다. 3가지 유형의 국외 교육 기관들이 어떤 교육과정들을 다루고 있다.

(1) 미국 및 유럽 대학들의 사이버보안 교육 커리큘럼

- 미국 시라큐스 대학의 온라인 석사과정의 권장 커리큘럼3)

3) https://engineeringonline.syr.edu/graduate-programs/cybersecurity/curriculum/

Page 68: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

66

미국 시라큐스 대학 온라인 석사과정 권장 커리큘럼

미국의 시라큐스 대학의 온라인 석사과정은 위 그림과 같이 5개 학기 동안 10개의 교과목을 수강하기를

권장한다. Core 교과목은 해당 과정의 “전공필수” 교과목이고, Elective 교과목은 선택과정으로 다른 여타

컴퓨터 공학의 교과목들을 선택할 수 있다. 학기별로 컴퓨터 공학의 핵심 교과목인 알고리즘, 소프트웨어 공학,

운영체제 교과 및 데이터 마이닝 과목이 권장되고 3학기부터 정보보증, 인터넷보안, 암호학 및 컴퓨터 보안의

수강이 권장된다. 특히 주지할 점은 Machine Learning 교과목 및 Biometrics 교과목이 기술적 이해를 위한

필수과목으로 선택되어 있다는 점이다.

- 미국 카네기멜론 대학의 석사과정의 커리큘럼4)

카네기멜론 대학의 Information Technology Strategy 석사과정 내의 정보보호 트랙이 가진 주요 교과목

및 이에 대한 간략한 설명은 아래와 같다. 개론 교과목이 2개 존재하며, 이를 기반으로 네트워크보안 및

소프트웨어보안 교과목 이수가 권장된다. 정보보증과목에서는 기존 교과목들에서 배운 내용을 기반으로

시스템 및 네트워크를 보호하는 실습을 진행하며, 이에 대한 관리적인 이슈를 위험분석 교과목에서 다루게 된다.

4) https://www.cmu.edu/mits/curriculum/concentration/infosec.html

Page 69: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

67

미국 카네기멜론 대학 석사과정 커리큘럼

교과목 번호 교과목 명 교과목 내용

18-730Introduction to Computer

Security

18-731, 18-732, 18-733의 선수 과목으로 네트워크 및 시스템에

대한 공격과 방화벽, 암호, 운영체제 보안 등의 내용을 다룸

18-731 Network Security 네트워크 보안과 관련한 전반적인 내용을 다룸

18-732 Secure Software Systems 소프트웨어의 취약점 및 디자인의 개선 등을 다룸

18-733 Applied Cryptography 암호기술과 이의 구현에 관한 내용을 다룸

14-735Secure Software

Engineering안전한 프로그래밍 기법을 다룸

14-741Intro to Information

Security

18-731의 선수 과목이며, 법률제도를 포함한 광범위한

정보보안의 요소를 다룸

14-761Applied Information

Assurance

정보보증의 이해를 위해 실습을 기반으로 한 네트워크 보안

활동을 진행

14-807Information Security Risk

Management

위험 분석의 실습 및 이를 제어하기 위한 다양한 기법을

학습하고 이의 실습을 진행

- 영국의 런던대학 정보보안 석사과정의 커리큘럼5)

영국의 런던대학(University of London)에서는 아래와 같은 교과목들 기반으로 정보보안 분야 석사학위

과정을 운영하고 있다. 필수 과목으로 보안 관리, 암호기초 및 네트워크/시스템 보안 교과목이 있으며, 선택

과목으로 응용 보안을 비롯한 여러 교과목이 존재한다. 특이점은 과정의 가장 나중에 프로젝트 수행을 통해

배운 교과목의 내용 및 연구 통한 문제 해결 절차를 수행하도록 한다.

5) https://london.ac.uk/courses/project-information-security

Page 70: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

68

영국 런던대학 정보보안 석사과정 커리큘럼

교과목 명 교과목 분류

Security Management 필수 과목

An introduction to cryptography and security mechanisms 필수 과목

Network security 필수 과목

Computer security 필수 과목

Application security 선택 과목

Advanced cryptography 선택 과목

Cybercrime 선택 과목

Smart cards/tokens security and applications 선택 과목

Digital forensics 선택 과목

Security testing: theory and practice 선택 과목

Human aspects of information security and privacy 선택 과목

Project - Information security 필수 프로젝트 과목

- 오스트리아의 St. Pölten University of Applied Sciences의 정보보안 학사/석사과정 교육 분야6)

오스트리아의 St. Pölten University의 경우 정확한 교과목을 제시하고 있지는 않지만, 아래와 같은 사이버

보안 전문인력 양성을 위한 방향을 잡고 있다. 학사과정의 경우 시스템/네트워크 보안과 운영 보안 등의

분야를 다루며, 위험분석 영역이 존재한다. 석사과정의 경우 소프트웨어 보안, 산업 및 기반시설 보안과 IT

관리 영역을 다룬다.

오스트리아 St. Pölten University of Applied Sciences의 정보보안 학사/석사과정

전공 분야 과정

Software Security 석사과정

Industrial and Infrastructure Security 석사과정

IT Management 석사과정

IT operations: system administration and penetration testing 학사과정

Network technology: protocols and security components 학사과정

Security technologies: cryptography and hardware tokens 학사과정

Security management and organisation: risk management and standards 학사과정

6) https://www.fhstp.ac.at/en/academic-studies-continuing-education/computer-science-security

Page 71: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

69

(2) 정보보안 전문 교육기관들의 주요 교육과정들

- 정보보호 교육전문기관 SANS의 교육 프로그램7)

오랜 기간 동안 정보보안 분야의 교육을 진행해온 SANS의 교육 프로그램을 보면 정보보안 분야의 현황

을 파악할 수 있다. 이는 영리를 목적으로 하는 교육기관이 갖는 교육 수요에 대한 즉각적 대응으로 인한

것일 수 있다. 본 고에서 해당 교육기관의 교과목을 모두 언급하지는 않겠지만 각 영역들을 언급하는 것은

의미가 있어 보인다. 아래 그림과 같이 정보보안 일반 영역, 사고 대응 및 포렌식, 보안 관리, 정보보안을

고려한 개발, 감사, 법률, 제어 시스템 환경, 사용자 요구 기반 교육과정으로 나눠진다. 기존의 대학들이 가

지고 있는 교육과정들이 정보보안 일반 영역에서 다루어진다고 볼 수 있으며, 각 영역별로 대학들이 다루는

영역 이외에 실무적인 내용들이 강화된 형태로 보인다.

SANS의 교육과정은 민간영역에서 전문적인 강사가 강의를 진행하는 형태이므로 높은 교육비가 책정되어

있으며, 대부분 기업에서 교육비를 지원받아 참여하는 사람들이 해당 교육을 이수하게 된다.

SANS의 교육 프로그램

7) https://www.sans.org/courses/

Page 72: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

70

(3) 최신 고급 기술의 공유 및 상호 교류를 통한 사이버보안 인력 양성 현황

정보보안 분야는 그 어떤 영역보다 각 전문가들의 경험과 노하우의 공유가 중요시되는 분야이다. 이러한

공유를 통해 알려지지 않았던 취약점 및 공격의 기법이 공유되고 이를 해결하고 대응하고자 하는 시도들이

이어지게 된다. 국제적으로 가장 유명한 관련 정보 공유의 장이라고 할 수 있는 것이 blackhat conference

의 training 트랙이라고 할 수 있다. 해당 트랙에서 진행되는 다양한 경험의 공유는 해당 전문가가 아니면

공유하기 어려운 매운 희소한 내용이라고 할 수 있으며, 각 트레이닝의 교육비는 상당히 고가로 책정되어

있다. 하지만 2018년도의 경우 대부분의 트레이닝 프로그램이 높은 판매율을 기록하였다.

Blackhat Conference Training 트랙

(4) 국외 사이버보안 전문가 양성과정의 현황 요약

앞서 제시된 각 교육과정들에 대한 정보가 모든 정보보호 관련 교육을 포함하고 있다고 보기는 어렵다.

특히, 개인의 관심과 열정을 기반으로 학습이 주로 이루어지는 사이버보안 분야의 특성으로 인해 앞에서

명시된 제도권의 교육들에 대해 적절치 않다는 의견을 가질 수도 있다. 또한, 최근 Coursera 및 Udemy와

같은 온라인 교육 사이트들을 통해 정보보안 분야의 다양한 콘텐츠가 공유되고 있는 것도 하나의 대세

이기도 하다. 하지만, 사이버보안 분야의 국외 인력의 양성 부분은 대학, 사설 교육기관 및 전문가의 튜토

리얼로 요약되는 것이 일반적인 것으로 보인다.

Page 73: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

71

국외 사이버보안 전문가 양성과정 현황

사이버보안 전문인력 양성을 위한 시사점

미국이 2017년 11월 대통령령으로 사이버보안 분야의 인력양성의 중요성을 인지하고 이에 대한 구체적인

대책을 제시하도록 했고 이에 대해 선언적인 면이 없지 않지만, 인력양성의 전반적인 체계와 계획을 대통령

에게 보고하였다. 이러한 사실은 앞 장에서 명시한 대학/사설 교육기관/전문가 훈련으로 이루어진 나름대로

의 de facto 형태의 체계가 미국정부의 좀 더 체계적인 재정적 지원을 바탕으로 탄력을 받을 수 있을 것으

로 보인다. 유럽의 경우, 국가별로 지역의 특화된 분야에 맞게 정보보안 교육을 진행 할 것으로 보이며 학

문적인 깊이를 깊게 하는 형태로 진행될 것으로 보인다.

국내의 경우 사이버보안 인력 양성을 위한 다양한 형태의 시도가 진행되고 있다. 중/고교생을 위한 정보

보호영재교육원 및 최정예 사이버보안 인력양성 사업(BoB), 각 대학의 정보보호 특성화 대학, 정보보호

분야 ITRC 등이 있다. 또한 최근 다양한 워크샵 등을 통해 전문가들의 전문지식 공유가 진행되고 있다. 이러한

현상 역시 국외의 상황과 크게 다르지 않다고 보인다. 하지만 한 가지 아쉬운 점은 미국과 같이 사이버보안

인력의 중요성에 대한 인식 및 이의 구체적인 실행이 약해 보인다는 점이다. 물론 부처별로 중요성을 인식하고

이에 대한 대책을 마련하고 있지만, 향후 국가적인 사명으로 인식하고 이를 실행하는 것이 필요해보인다.

Page 74: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

72

공개 서비스를 통한 개인정보 위협 사례 분석 및 시사점

조정원 보안프로젝트 대표([email protected])

• (現) 보안프로젝트 대표

• (前) 에이쓰리시큐리티 컨설턴트

• (前) KB증권 침해사고대응 분석 및 보안솔루션 운영

쇼단 서비스 이해 및 위협 사례

최근에 발생하는 국내외 개인 정보 유출 사고를 살펴보면 “오픈 서비스에서 검색되는 개인정보가 노출”

이라는 문구가 자주 보인다. 중요 권한을 가져야 접근할 수 있는 페이지가 “어떤 인증도 필요하지 않은

사용자(Anonymous)”로 노출이 되거나, 서비스와 IoT 장비를 설치한 후에 기본으로 사용하는 관리자 인증

정보를 사용한 사례라 볼 수 있다. 공격자는 이런 정보를 획득하기 위해 오픈소스 인텔리전스(OSINT)

검색 서비스와 그와 관련된 도구를 이용하게 되는데, 이 중에서 대표적으로 쇼단(Shodan) 서비스와 구글

서비스(구글 해킹, Google hacking)를 많이 사용한다. 본문에서 두 개의 서비스에서 어떤 위협이 발생하고

대응을 해야 하는지 확인해보겠다.

이 검색 서비스들은 범죄자만 사용하는 것이 아니라, 모든 사용자가 사용할 수 있다. 검색 옵션 몇 개를

알면 민감한 정보 획득을 목적으로 해킹할 수 있다. 중요한 것은, 범죄자가 사용하는 검색 옵션을 알고

있고, 자주 사용하는 검색 방법을 알고 있어야 방어자로서도 범죄자보다 빠르게 자사의 서비스를 방어

할 수 있다.

Page 75: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

73

쇼단 서비스

IP 기반의 웹캠이 국내에 도입되면서, 관리자 계정 보안이 되지 않고 바로 접근이 되는 웹캠이 쇼단에

다수 노출되었다. 이때는 “이런 서비스가 있구나?”할 정도이고, 큰 이슈는 되지 않았다. 몇 년이 흐른 뒤

IoT 기기들이 대중들에게 가까워지고, 서비스 플랫폼이 기하급수적으로 늘어나면서 쇼단의 데이터 용량도

비례해서 증가했다. 그에 따라 외부 서비스에 노출되는 보안 위협도 많아지게 되고, 지금은 공격자의

시작이 “쇼단(Shodan)”이라고 할 정도로 큰 쟁점이 되고 있다.

국내에서는 쇼단(Sentient Hyper-Optimized Data Access Network, Shodan) 서비스가 2013년 보안 세미나에서

발표되면서 본격적으로 알려졌다. 2009년 스위스 출신 프로그래머 존 매덜리(John Matherly)에 의해 만들어진

쇼단은 가입제로, 일부 서비스를 제외하고 유료로 운영 중이다. 구글 등 일반 검색엔진이 웹만 인덱싱한데

반해, 쇼단은 인터넷에 연결된 장비를 찾아주는 검색 엔진으로 사용에 따라 유용한 검색 결과를 제공하고

기업내 취약할 수 있는 장비를 발견하는데 도움을 주기도 한다.

쇼단 서비스는 전 세계적 IP 대역을 정기적으로 스캔하고 크롤링을 하여 자료를 수집한다. 시스템 배너

정보의 메타데이터들을 이용해서 특정 디바이스, 컴퓨터, 라우터, 서버 정보 검색할 수 있게 해준다. 포트

기준으로 검색하고 나열하기 쉬우므로 포트 스캔에서 노출된 버전 정보와 응답 값 정보를 이용하여

취약점 데이터베이스와 비교해서 같이 제공한다.

쇼단 서비스 정보 활용 사례

Page 76: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

74

아래는 쇼단 서비스에 노출되어 대량의 개인정보가 탈취된 사례이다. 모바일 시대에서 많이 사용하게

되는 NOSQL 형태의 대표적인 몽고DB를 설치할 때 기본적인 설정으로 설치하고 포트(27017/TCP)가 오픈

되어 있다면, 데이터베이스 정보가 상세하게 노출된다. 데이터베이스에 저장되어있는 개인정보를 탈취

하거나 몽고DB를 사용하지 못하게 하기 위해 락(Lock)을 걸어 랜섬웨어 형태의 공격이 이루어지고 있다.

몽고 DB 해킹 사례

[출처: 보안뉴스]

쇼단 서비스에서 노출된 몽고DB 대상으로 무작위 악의적인 스크립트를 동작시켰고, 하루에 27,000개

이상의 몽고DB가 랜섬웨어 형태로 감염된 사례이다. 이렇게 [쇼단 서비스 검색] -> [대상 지정] -> [자동

스크립트 공격] 형태는 다양한 서비스와 장비 관리자 페이지 대상으로 지속적인 공격이 이어지고 있다.

몽고 DB 랜섬웨어 감염 사례

Page 77: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

75

아래 그림은 쇼단 서비스 검색에 “mongodb”을 입력한 사례이다. 몽고DB는 기본적으로 27017/TCP

포트를 사용한다. 전 세계적으로 6만 7천 개 서비스 정도가 노출된 것을 볼 수 있고 검색된 모든 데이

터베이스에 중요한 정보가 포함된 것은 아니지만, 대량의 데이터베이스 정보가 노출될 위험이 크다.

몽고 DB 검색 결과

다음 뉴스는 데이터베이스가 쇼단 서비스에 노출되어 무려 3억 4천만 명의 개인정보가 노출된 것을

보여준다.

[출처: http://thegear.net/16180]

특히, 일반 사용자 입장에서 제일 큰 이슈는 웹캠이다. 가정에 IP로 외부에서 접속할 수 있는 CCTV가

많이 설치되고 있다. 맞벌이하는 집은 아이가 잘 있나 지켜보는 목적이 있고 반려동물을 키우고 가정에

이 문제는 보안 업체 나이트 라이온 시큐리티의 설립자 비니 트로이아(Vinny Troia)가 아주

우연히 발견했다. 인터넷과 연결된 기기를 검색하고 정보를 볼 수 있는 쇼단(Shodan) 검색

엔진으로 일상적인 검색을 하던 중 이그젝티스의 데이터 베이스를 발견했고 놀랍게도 방화

벽이 없어 직접 볼 수 있었다고 한다. 여기에는 2테라바이트 분량으로 3억 4,000만 명의

개인 정보가 놀라울 정도로 체계적으로 정리되어 있었다.

신용카드, 사회보장번호 같은 정보는 아니지만 주소, 이메일, 전화번호, 연령, 정치 성향, 성별,

종교, 관심사, 흡연 여부 400여 가지 항목으로 세분화된 정보가 매우 꼼꼼히 정리되어 있다고

하는데 무방비로 노출되어 있는 것도 놀라웠지만 이런 방대한 분량의 상세 개인 정보가

정리되어 있는 것에 또 한 번 놀랐다고 한다.

Page 78: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

76

서도 구매하고 있지만, 문제는 많은 제품이 팔리는데 반해 이 제품을 어떻게 보안 활동을 해야 할지 모른다.

무선 AP 보안설정도 지키기 힘든데, 여기에 연결되는 수많은 기기에 대한 보안까지 구매자가 설정하라는

것은 근본적인 대책은 아니다.

한국인터넷진흥원에서도 생산, 유통 업체 대상으로 IoT 기기 보안 가이드나 점검 지원을 추진 중이다.

최근에 IoT 취약점 점검 시스템을 만들어 기업이나 가정의 사물 인터넷 기기 중요정보 노출 여부를

확인하는 것도 보안 위협이 커질 것이라 예상되기 때문이다.

IoT 점검 시스템 개요도

[출처: 한국인터넷진흥원]

쇼단 검색 옵션 및 API 활용한 모니터링 강화

쇼단 서비스 검색 옵션을 사용하여 노출 사례를 살펴보고, 아래는 쇼단에서 제공하는 옵션 기능과 설명

이다. 이 옵션을 모두 외울 필요는 없고, 필요할 때마다 보고 활용하면 된다. 자사 서비스나 고객 서비

스를 모니터링할 때는 옵션 중에서 hostname, net, port, title, product, has_screenshot 정도만 활용해도

원하는 결과를 얻을 수 있다.

필터 설명

city 입력한 도시에서의 검색 결과(ex: linux city:"seoul")

country 입력한 나라에서의 검색 결과(ex: wordpress country:"kr")

geo 입력한 위도/경도 좌표 근처의 검색 결과(ex: apache geo:37.359476,127.105505)

hostname 입력한 호스트 네임이 포함되는 결과(ex: "Server: gws" hostname:"google")

net 입력한 Class에 맞는 검색 결과(ex: cisco net 127.0.0.1/24)

os 입력한 os를 포함하는 정보(ex: os:"ubuntu")

port 입력한 포트와 일치하는 검색 결과(ex: port:"8080")

before/after 입력한 날짜 전/후의 검색 결과(ex: apache before:12/03/2017 after:11/03/2017)

Page 79: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

77

한 예로, net 옵션을 이용하겠다. net 옵션은 IP를 대역으로 검색할 때 사용하고 아래 그림은 구글 IP

대역 중 하나로 216.58.197.0.X C클라스 대역을 검색한다. 화면 왼쪽의 “Top Services”정보를 보면 HTTP,

HTTPS 프로토콜 포트만 오픈되어 있고 화면에 보인 결과로만 보면 불필요한 서비스가 오픈된 것은 없다.

부가적으로 이야기하면, 쇼단 결과를 보면 우리가 알고 있는 일반적인 포트를 사용하지 않고, 그 외 포트를

사용하는 경우가 많다. 웹 서비스를 운영한다고 모두 80/TCP 포트를 사용하는 것이 아니기 때문에, 다른

포트를 사용하고 있다면 주의있게 확인해야한다.

net 옵션을 이용한 대역 검색

title HTML의 title과 일치하는 정보 검색(ex: title:"naver.com")

html HTML의 모든 소스 코드 중에서 해당 단어를 포함한 것을 검색 (ex: html:"ebay")

product 소프트웨어나 제품의 이름을 기준으로 검색(ex: product:"cisco")

org 해당 기관을 포함한 검색결과(ex: webcam org:"korea telecom")

asn Asn을 기준으로 검색한다.

category 카테고리 기준으로 검색, 사용 가능 카테고리는 ics와 malware(ex: category:”ics”)

has_ipv6 검색 결과에 ipv6의 포함 여부를 true/false로 결정(ex: has_ipv6:true)

has_screenshot 검색 결과에 screenshot 포함 여부를 true/false로 결정(ex: has_screenshot:true)

ip 넷필터명을 기준으로 검색

isp ISP를 기준으로 검색

postal 우편 번호를 기준으로 검색(미국에만 해당)

region 주 이름을 기준으로 검색

version 제품 버전을 기준으로 검색(ex: apache version:2.4.10)

vuln 취약점 CVE ID를 기준으로 검색

Page 80: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

78

개발자를 위한 API 문서는 https://developer.shodan.io/api에서 제공하고 있다. 파이썬 프로그램 활용

문서는 https://shodan.readthedocs.io/en/latest/ 링크에서 확인할 수 있다. 쇼단 명령어를 입력했을 때

출력되는 기본 명령어 및 설명은 아래 표와 같고 이 명령어는 쇼단 서비스와 연관되어 기본으로 활용할

수 있는 명령어이고, 좀 더 원하는 자동화 분석 및 모니터링을 위해서는 파이썬 프로그램으로 제작해야 한다.

명령어 설명

alert 등록된 계정에 대한 네트워크 알림 관리

convert 주어진 입력 데이터 파일을 다른 형식으로 변환

count 검색 결과 수를 반환

data Shodan에 접근할 수 있는 대량 데이터

download 검색 결과를 압축 JSON으로 저장

honeyscore IP가 허니팟인지 확인

host IP 주소에 대해 사용 가능한 모든 정보

info 등록된 계정에 대한 일반 정보

init shodan 사용하기 위한 정보 초기화

myip 사용하고 있는 외부 네트워크 IP 주소 출력

org Shodan에 대한 조직 접근 관리

parse 압축된 JSON 파일에서 정보를 추출

radar Shodan이 발견한 일부 결과에 대한 실시간 맵 정보

scan Shodan을 사용하여 단일 IP, 복수 네트워크 스캔

search Shodan 데이터베이스 검색

stats 검색어에 대한 요약 정보 제공

stream 실시간으로 데이터를 전송

호스트 정보를 검색하는 것은 shodan host IP주소를 입력한다. 호스트 정보에서 얻을 수 있는 것은

회사 정보와 오픈 포트 정보, 포트에 취약한 서비스 버전이 있다면 취약점 위협에 대한 정보까지 포함

된다.

Page 81: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

79

호스트 정보 확인

host 명령어와 같이 사용할만한 옵션은 --history 옵션이다. 아래와 같이 명령을 입력하면 포트가 언제

열람이 되어 있었는지 확인할 수 있다. 침해사고가 발생하는 원인 중 하나는 불필요한 포트가 열람되어

있을 때이다. 사고 대응 분석을 할 때, 이 포트가 언제부터 열람이 되어 있었는지 여러 시스템 장비에서

확인해야 하고 쇼단에서도 이런 정보의 힌트를 어느 정도 얻을 수 있는 것이다.

호스트 히스토리 정보 확인

다음은 실무에서 제일 요긴한 명령어인 stats이다. stats는 검색한 정보의 상태를 요약해서 보여주는

기능이다. 예로, “d-link 제품 중에서 어떤 버전 제품이 노출이 많이 되고 있을까?”, “한국에서 노출된 웹캠

중에서 제일 많이 사용하고 있는 포트는 몇 번일까?” 등의 정보를 빠르게 확인할 수 있다.

Page 82: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

80

stats 명령어를 이용하여 제품 요약정보 확인

구글 해킹의 보안 위협과 대응

문서에 따라 구글에 옵션을 주면 취약한 서비스의 정보들이 검색되기 시작했다. 이것이 벌써 10년전

으로 여전히 구글 해킹으로 공공기관의 개인정보 파일이 노출되고, 관리자 페이지의 인증처리 미흡으

로 회원관리 페이지가 노출되는 사례가 발생되고 있다. 이전과 달리 이제는 검색 옵션까지 서로 공유

(https://www.exploit-db.com/google-hacking-database/) 되고 있어 지속적인 모니터링을 하지 않으면 고객사

서비스나 자사 서비스의 중요정보가 노출되고 있는지 판단하지 못한다. 이미 많은 정보가 유출되고 후에

언론을 통해 노출 사실을 알 수 있다.

구글 해킹으로 인한 개인정보 유출 사례

[출처: 보안뉴스]

아래 표는 구글 서비스에서 지원하고 있는 주요 옵션이다. 옵션을 섞어서 자사 서비스에 맞게 만들어

두면, 구글 서비스에 노출되는지 정기적으로 모니터링이 가능하다.

shodan stats --facets product product:d-linkshodan stats --facets product:1000 product:d-linkshodan stats --facets product:1000 -O dlink.csv product:d-link

Page 83: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

81

옵션 설명

site 특정 사이트 혹은 도메인의 제한적인 검색

inurl 페이지의 URL 정보 내 문자열 검색

allinurl 페이지의 URL 정보의 모든 단어 검색

intitle 페이지의 제목 Title 태그의 문자열 검색

allintitle 페이지의 제목 Title 태그의 모든 단어 검색

filetype 특정 파일 확장자를 기준으로 파일 검색

allintext 페이지 내의 텍스트의 모든 단어 검색

link 사이트 혹은 URL의 링크 검색

datarange 특정 날짜 범위 내 생성된 페이지 검색

uumrange 특정 범위의 숫자 검색

cache 구글의 캐신된 페이지 표시

info 페이지의 요약 정보 표시

related 특정 사이트와 관련된 사이트나 URL 표시

위의 옵션을 이용한 구글 해킹 사례는 구글 해킹 데이터베이스(GHDB)를 참고한다. 그림과 같이 GHDB는

사용자들이 공개적으로 옵션을 공개하고, 클릭만 하면 구글에서 바로 검색 결과를 볼 수 있다. 어떤 의도로 사용

하냐에 따라 보안이 될 수 있고, 또는 범죄가 될 수 있다.

구글 해킹 데이터베이스(GHDB) 옵션 사례

보안전문가는 여러 오픈 서비스의 특징을 알고 대응해야 한다. 검색 서비스에 중요한 페이지나 파일이

저장되어있다면 해당 서비스에 삭제요청을 하고 중요한 디렉터리는 접근제한을 해야 한다. 또한, 이후

검색이 되지 않도록 robots.txt파일에 등록한다. 그리고 정기적으로 서비스 검색에 노출되고 있는지 확인

해야 하고 특정 솔루션을 사용하지 않는 한 실시간으로 모니터링하는 어려움이 있다. 앞에서 언급한

구글 해킹문서를 보고 옵션을 이용해 자사 서비스에 어떤 정보가 노출되는지 확인하는 것도 한 가지

방법으로 보인다.

Page 84: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

82

2019 인터넷 10대 이슈 전망 2019년 Vol.01 CES 2019

• 1인 미디어 생산자가 경제적 주체가 되는 크리에이터 경제

• 디지털 경제의 중심축으로 자리잡는 데이터 경제

• 머니게임에서 실질적 활용을 추구하는 블록체인

• 상상에서 대중 수단이 되는 스마트 모빌리티

• 본격 상용화 시대를 여는 5G

• 우려에서 기대로 무게중심의 변화가 기대되는 디지털 헬스케어

• 지나친 기대에서 냉정한 현실로 다가오는 인공지능

• 경험의 지평을 넓히는 실감형 콘텐츠

• ICT 신산업 혁신의 장, 규제 샌드박스

• 클라우드와 양두마차로 내달리는 엣지 컴퓨팅

이슈 & 트렌드

• CES 2019 주요 이슈 분석(서동우)

• CES 2019에 등장한 인공지능 기술과 제품 동향(한상기)

• CES 2019 자율주행 주요 동향(정구민)

• CES 2019가 보여준 ‘컴퓨팅의 현재와 미래'(이석원)

• CES 2019, 다음 단계로 발걸음 옮긴 가상현실 헤드셋 기술(최필식)

• CES 2019 디스플레이의 변화, ‘화질에서 공간으로’(최호섭)

• 중국 CES 2019 기업 동향(박성림)

• CES 2019 전시회, ‘유레카’가 사라진, 그러나 꾸준히

발전하는 ‘유레카 존’(김태진)

Page 85: 2019 VOL - KISA · 022018 ‘AI 인덱스’ 보고서가 제시하는 주요 의미(한상기 / 테크프론티어 대표) 03인공지능의 윤리적 이슈 및 정책 시사점(이응용

VOL.2

발 행 일 2019년 2월 본지에 실린 내용은 필자의 개인적 견해이므로, 한국인터넷

진흥원의 공식 견해와 다를 수 있습니다. KISA Report의

내용은 무단 전재를 금하며, 가공/인용할 경우 반드시

[한국인터넷진흥원, KISA Report] 라고 출처를 밝혀주시기

바랍니다.

발 행 한국인터넷진흥원

기획 및 편집 한국인터넷진흥원 미래정책연구실 미래정책팀

발 행 처 전라남도 나주시 진흥길 9