마이크로소프트(MS), IBM, 구글 등 글로벌 기업들이 인공지능(AI)의 민주화를 표방하고 있지만 실제로는 AI를 앞세운 디지털 제국기업이 될 수 있다는 주장이 나왔다. 4차 산업혁명 시대에 신기술들이 권력, 계급의 이동 등 사회 변화를 가져오는 한편으로 보안 위협 증가, 거짓 뉴스 확산 등 위험도 커질 것이라는 지적이다.

한국전자통신연구원(ETRI)는 기술과 사회의 접점에서 발생할 주요 이슈를 선정해 심층 분석한 ‘소시오 테크(Socio-Tech) 10대 전망’ 보고서를 27일 공개했다.

ETRI는 소시오 테크 10대 전망에서 정보통신기술(ICT)이 사회와 충돌해 만들어 내는 대립과 갈등의 본질을 이해하고 보다 바람직한 미래를 설계하기 위해 기업, 국가, 개인 수준에서 우선적으로 고려해야 할 10대 이슈를 선정했다고 밝혔다. ETRI는 시장, 혁신, 산업, 경제, 권력, 정보, 안보, 노동, 소비, 관계 등 10대 영역을 비가역적 상황으로 몰고 갈 변화 추세를 10대 메가트렌드로 압축했다.

AI 민주화? 사실은 디지털 제국 건설?

ETRI는 ‘인공지능의 민주화와 제국주의’를 주요 이슈로 꼽았다. 글로벌 IT 기업들이 AI 민주화, 대중화를 표방하고 있지만 AI를 통한 디지털 독점이 강화되면서 디지털 제국과 같은 기업이 출현할 수 있다는 것이다.

ETRI 연구진들은 인공지능 기술이 산업적으로 활용 가능한 수준으로 발전되면서 본격적인 대중화를 열어갈 인공지능 빅뱅이 시작됐다고 진단했다. 인공지능이 강력한 컴퓨팅 파워와 데이터를 활용하는 일종의 범용 알고리즘이기 때문에 모든 산업에 내재화 돼 기업 경쟁력의 가장 중요한 요소로 부상하고 있다는 것이다.

그런데 혁신적인 인공지능 개발과 확산이 구글, IBM, MS, 페이스북 등 소수 글로벌 기업에 의해 독점적으로 진행되고 있다는 문제를 지적했다.

ETRI는 글로벌 기업들이 인공지능의 민주화라는 이름으로 대규모 머신러닝 플랫폼을 클라우드 서비스로 제공하며 인공지능 개발환경의 대중화를 시작했다고 분석했다. AI 연구개발의 진입장벽을 낮춤으로써 소규모 스타트업과 개인들이 대규모 리소스가 필요한 인공지능 기술개발에 참여함으로써 인공지능 기술혁신의 전환점이 될 것이라는 지적이다. 기상예측, 헬스케어, 질병진단, 신약개발 등 산업 영역별로 AI 활용성이 극대화될 것이라는 예측이다.

하지만 이같은 서비스로서의 인공지능의 확산이 글로벌 IT 기업들에 대한 기술 종속성은 갈수록 심화시킬 수 있다고 ETRI는 우려했다.

풍부한 알고리즘과 데이터, 편리한 컴퓨팅 자원, 저렴한 비용 등을 앞세우는 AI 민주화가 결국 기업들이 자사의 AI 생태계에 사용자를 종속시키려는 독점이라는 것이다. ETRI는 글로벌 기업들이 디지털 제국으로 성장하기 위한 강력한 무기로 인공지능을 활용하고 있다고 주장했다. 앞으로 제국기업들의 독과점이 심화되면서 신규 업체의 시장 진입과 자유로운 경쟁이 어려워질 것이라고 ETRI는 예상했다.

ETRI는 디지털 제국의 출현과 독점을 막기 위해 국내 기업과 정부가 글로벌 기업이 제공하는 AI 플랫폼에 대한 종속성을 벗어나기 위위해 독자적 기술역량을 축적하는 것이 필요하다고 내다봤다. 향후 디지털 제국기업으로 성장하며 지배력을 강화하고 있는 구글, 페이스북, 아마존 등에 대한 강력한 규제 필요성도 제기했다.

또 ETRI는 AI 분야에서 딥러닝이 방대한 양의 학습 데이터가 필요할 뿐 아니라 추론 근거에 대한 설명이 불가능하다는 근본적 한계가 존재한다고 지적했다. 한마디로 왜 그런 결과가 나왔는지 모른다는 것이다. 전혀 경험해보지 못한 불확실한 상황에서 효율적인 의사결정을 내릴 수 없으며 인공지능이 내린 결과에 대한 투명성이 부족하다고 주장이다.

ETRI는 머신러닝의 블랙박스화가 AI가 모든 산업에 적용되어서는 안 된다는 주장이 나오고 있으며 의사결정 이유에 대한 설명 가능한 학습과 추론 기술의 개발 필요성을 제기하고 있다고 설명했다.

기술의 발전이 권련을 흔든다

소시오 테크 10대 전망은 ‘블록체인과 미래 권력’의 변화도 주요 이슈로 선정했다. 글로벌화, 중산층 성장, 교육수준 향상, 그리고 인공지능, 생명공학 등의 분야에서 가속화되는 기술혁신이 개인의 권력 접근성을 확대시키며 국가 권력과 충돌을 야기할 수 있다는 것이다.

ETRI는 디지털기술의 양적·질적 성장이 개인의 건강과 부의 증가뿐 아니라 개인이 직접 첨단 도구를 제작할 수 능력을 부여함으로써 개인 권한을 확장하고 있다고 분석했다. 권력을 변화시키는 신기술의 대표 사례가 블록체인이라고 설명했다. 블록체인이 보안성과 투명성 그리고 확장성에 있어 산업과 경제사회 시스템에 파괴적인 영향력을 행사할 것이라는 전망이다.

ETRI는 블록체인이 인공지능과 함께 4차 산업혁명의 미래를 결정할 기술 진화의 2대 축으로 상호 보완적이며 시너지 효과를 극대화시키며 발전할 것이라고 내다봤다. 두 기술은 모두 데이터에 기반을 두고 산업, 경제, 사회, 그리고 미래 권력 구도에 서로 다른 계위와 방향에서 파괴적인 영향력을 행사하며 발전하고 있다는 것이다.

ETRI는 블록체인이 탈중앙화 된 혹은 분권화된 신뢰 시스템을 통해 사회경제 전반에 걸쳐 근본적인 변화를 초래하기 하고 있다고 설명했다. 블록체인의 파급력은 중간 매개자 없이 개인들이 직접 연결되는 P2P 금융 서비스, 공유경제 서비스 등 민간 영역뿐 아니라 대국민 서비스를 담당하는 공공 영역에서도 유사하게 나타날 것이라고 내다봤다. 금융 산업에서 시작된 블록체인이 제조·유통 등 모든 산업으로 확대되고 행정 프로세스는 물론 정부 기능을 분권화시킬 것이라는 것이다.

디지털 사회의 어두운 단면으로 정보의 대량 생산과 소비가 낳은 ‘탈진실의 시대’에 대한 우려의 목소리도 나왔다. ETRI는 2016년 미국 대선에서 대통령 후보에 관련된 다양한 가짜 뉴스들이 유통되고 후보 지지율에 영향을 미치는 현상이 발생하면서 탈진실이라는 단어가 부상하고 있다고 지적했다.

인터넷을 통해 정보가 빠르게 생산, 유통되고 있는 상황에서 이용자는 정보를 해석하고 사실성을 검증하기 보다는 업데이트되는 정보를 소비하는데 집중하고 있다는 것이다. 흥미를 자극하는 정보를 접했을 때 이를 소셜미디어를 통해 공유하거나 관련된 새로운 정보 업데이트를 탐색하는 활동에 치중하는 것이 대중의 행동패턴이라고 우려했다.

소시오 테크 10대 전망은 인터넷 발칸화와 사이버 안보 문제도 주요 이슈로 지적했다. 인터넷에 형성되고 있는 국가 간 장벽이 사이버 공간이 적대적이거나 비협조적인 상호 관계를 맺는 국가라는 단위로 쪼개지는 ‘인터넷 발칸화’가 나타나고 있다는 것이다. 발칸화(Balkanization)는 국가 지역 등이 서로 적대적인 여러 개의 작은 국가 지역으로 파편화되는 현상을 일컫는 지정학적 용어다.

ETRI는 사이버 공간에서 벌어질 수 있는 국가 간 분쟁 가능성도 우려했다. 기업·서비스에 대한 간섭으로 표면화된 사이버 공간 상의 국가 간 대립이 국가 주요 시설에 대한 악의적 해킹 등 사이버 테러 위협의 증가로 인해 첨예화될 수 있다는 것이다.

이와 함께 ETRI는 '혁신의 미래, 속도와 다양성', '산업의 미래, 디지털 격변'도 주요 이슈로 꼽았다. 다양한 산업 부문에 ICT 기반 혁신이 발생하고 디지털 DNA가 모든 산업의 DNA를 전환한다는 것이다.

또 ‘경제 성장의 미래, 풍요와 결핍’도 ETRI가 꼽았다. 디지털 기술혁명이 경제의 패러다임 자체를 변화시키며 전통적 개념에서 성장의 의미를 퇴색시키고 ICT 기반 디지털 경제가 만드는 새로운 풍요의 시대를 열어간다는 지적이다.

이밖에도 ‘중간직과 전문직의 미래, 신계급의 등장’, ‘소비의 미래, 생산과 경험’, ‘인간과 기계, 관계의 역설’도 10대 이슈로 선정됐다.

이승민 ETRI 산업전략연구그룹 박사는 “4차 산업혁명의 시대를 맞아 앞으로 도래할 미래세상은 큰 변화가 예상된다. 미래를 잘 준비하지 않으면 의도하지 않은 다른 미래가 나올 수 있다”고 말했다.

[테크M = 강진규 기자(viper@techm.kr)]