[테크M = 정지훈 다음세대재단 이사]

지난 8월 호주에서 인공지능 분야 주요 학회들이 대거 개최됐다.

기계학습에 대한 최고의 학회인 ICML(International Conference on Machine Learning)가 시드니에서 열린 것을 시작으로 범용 인공지능학회인 AGI(Artificial General Intelligence)와 IJCAI(International Joint Conference on Artificial Intelligence)가 연이어 멜버른에서 열렸고, 뒤를 이어 몇몇 학회가 더 열렸다. 이 글을 쓰는 시점이  ICML과 AGI가 끝나고, IJCAI의 첫 날 세션을 마친 때여서 전체를 조망하기에는 무리가 있으나 3개 학회에서 공히 명확하게 부각된 이슈들이 있어 이를 중심으로 전체적인 연구동향을 정리한다.

인공지능은 인간에게 위협이 되는가?

최근 일론 머스크(Elon Musk)의 집중적인 이슈 메이킹으로 인공지능의 위험성이 사회적으로 부각된 탓인지 이와 관련한 이슈들이 3개 학회에서 많이 언급됐다.  IJCAI의 기조연설자로 나선 UC버클리 스튜어트 러셀 교수는 ‘증명가능한 유익한 인공지능(Provably Beneficial AI)’이란 제목으로 강연했다.

그는 "인공지능에 대한 지나친 기대나 두려움 모두 도움이 되지 않는다"며 인공지능에 대해 잘 모른채 섣부르게 이야기 하는 것은 물론 연구자들이 비판을 경청하지 않고 간단히 무시하고 인공지능을 마음대로 다룰 수 있다고 자만하는 것 역시 위험하다고 경고했다.

이와 관련해 그는 UC버클리에 ‘인간과 공존하는 인공지능을 위한 센터(Center for Human-Compatible AI)’를 설립했고 세계적인 연구기관들이 이와 유사한 기관을 앞다퉈 설립하고 있다고 소개했다.

그가 특히 중요하다고 이야기한 것은 인공지능이 추구하는 가치와 인간이 원했던 가치가 서로 다른 비정렬(misalignment) 문제다. 그는 이것이 앞으로 에이전트 기반 인공지능의 위험을 가져올 수 있음을 지적했다.

이 문제를 해결하려면 인간이 원하는 가치가 무엇인지 인공지능이 파악할 수 있도록 하는 연구가 중요하다며 이에 대한 해결책 중 하나로 CIRL(Cooperative Inverse Reinforcement Learning)을 제시하였다. 이 연구와 관련해 버클리인공지능연구실의 딜란 해드필드-메넬(Dylan Hadfield-Menell)의 ‘오프-스위치 게임(Off-Switch Game)’ 발표가 크게 주목받았다.

범용인공지능학회에서는 호주 스켑틱스(Skeptics)와 함께 특별 세션을 편성해 호주 최고의 인공지능 연구자중 한 명인 마르커스 허터(Marcus Hutter), 범용인공지능학회를 만든 벤 괴첼(Ben Goertzel), SRI/NASA에서 수많은 인공지능 관련 연구와 프로젝트를 수행한 피터 치즈만(Peter Cheesman), 하버드대학의 인지과학자이자 강인공지능 연구자로 ‘MicroPsi’라는 인지 에이전트를 개발한 요수아 바흐(Joscha Bach) 등이 인공지능과 인간의 가능성을 주제로 범용인공지능과 미래사회, 인류의 미래에 대한 폭넓은 강연과 토론을 했다.

이들도 약간의 차이는 있었지만 범용인공지능과 슈퍼지능의 탄생, 지능폭발(intelligence explosion)의 가능성은 충분히 있지만 엘론 머스크와는 달리 큰 문제가 되지 않을 것이란 논지를 펼쳤다. 이들은 "인간의 역사를 돌아보면 이보다 더한 위험들이 많았으며 언제나 그렇게 새로운 것들이 등장하면 두려워했다"며 "인공지능보다 무서운 것은 강력한 도구이자 무기가 될 수 있는 인공지능을 본인의 이익을 위해서 과도하게 사용하는 사람들"이라고 지적했다.

또 "이런 사람들이 나타나지 않도록 억제하거나, 나타나더라도 그들을 관리할 수 있도록 수많은 인공지능 연구자들의 협력이 필요하고, 이미 여러 연구자와 기관이 그런 활동을 시작했다"는 전반적인 낙관론에 표를 던졌다.

딥러닝에 대한 이해, 그리고 인간과의 상호작용

이와 연관된 이슈로 ICML에서 가장 중요하게 받아들여졌던 것은 블랙박스로 알려진 딥러닝의 내부를 이해하고, 이를 인간이 잘 해석하고 상호작용할 수 있도록 하는 문제였다. 베스트페이퍼상을 받은 스탠퍼드대학 팡 웨이 고(Pang Wei Koh)의 ‘영향함수를 통해 블랙박스 예측 이해하기(Understanding Black-box Predictions via Influence Functions)’를 비롯해 인공지능과 딥러닝의 해석능력(interpretability)에 대한 연구가 대거 발표되었다.

동시에 관련 튜토리얼과 워크숍이 성황리에 진행되면서 인공지능과 딥러닝 연구가 이제 원리를 확인하고 실제 활용가능성이 높아짐에 따라 사람들과의 공존과 도구화를 위해 여러 연구가 필요하다는 것이 크게 강조됐다.

특히 해석가능한 머신러닝(Interpretable Machine Learning) 튜토리얼 세션을 이끈 한국계 연구자, 구글의 김빈(Been Kim) 등은 "해석 가능하다는 것은 결국 인간에 대한 이해를 바탕으로 인간에게 설명하기 위한 것"이라고 강조하면서 HCI(Human-Computer Interaction) 분야 연구자들의 적극적인 참여가 필요하다고 말했다. 앞으로 HCI 연구자들이 인공지능 연구에 많이 참여, 인간-인공지능 상호작용(Human-AI Interaction) 연구가 늘어날 전망이다.

상용화에 들어간 CNN과 이미지, 동영상 연구들

지난 수년간 딥러닝의 폭발적인 발전을 주도했던 이미지와 동영상 관련 연구들은 이제 도달할 수 있는 최고의 목표치를 거의 달성한 상황이라 연구 측면에서는 다소 소강상태에 들어갔다는 느낌이었다. 아직은 연구할 내용이 많은 동영상 관련 연구들이 좀 더 주목을 받았다. 또 단순한 이미지 분류나 해석보다 이미지 관련 연구와 자연어 연구를 결합하거나 의료와 같이 도메인의 지식이 필요한 분야, 임베디드 디바이스를 만드는데 필요한 최적화 및 하드웨어 구조 관련 연구들이 크게 늘었다.

이를 통해 이제 순수 연구자들의 손을 떠나 상업화 단계에 들어가고 있다는 것을 실감할 수 있었다. 이런 분위기를 더욱 체감할 수 있었던 것은 연구분야보다는 전시장에서의 변화였다. 수많은 전시에서 여러 업체들이 최신의 하드웨어와 기술을 이용해 시각분야의 인공지능이 얼마나 크게 발전했는지 과시했다.

특히 엔비디아, 인텔 같은 전통적인 하드웨어 기업은 물론, 구글이나 중국의 바이두, 알리바바 등도 상업화 제품이나 계획 등을 발표하고 전시했다. 일부에서는 매우 저렴하고 소형화된 제품도 속속 선을 보여 시각과 연관된 분야의 인공지능이 수년 내에 우리 사회 곳곳에 큰 변화를 가져오게 될 것이란 예상을 했다.

GAN의 전성시대, 창의적인 인공지능과 예술

발표 수로만 보자면 최근 수 년간 가장 핫이슈였던 GAN(Generative Adversarial Network)이 다양한 변형과 응용을 선보이면서 완벽하게 하나의 트렌드로 자리 잡았음을 확인할 수 있었다. SK T-브레인에서 발표한 DiscoGAN(Discover Cross-Domain Relations with GAN)의 경우 도메인이 다른 스타일이나 형태를 학습해서 생성할 수 있음을 보여줘 향후 무궁무진한 응용 가능성을 높였다.

T-브레인 측에서는 이 기술이 향후 자율주행자동차 기술 개발에도 중요한 역할을 할 것으로 전망했다.그 이외에도 다양한 GAN과 관련한 연구들이 발표됐다. 이 기술이 크게 주목을 받는 것은 단순히 의사결정을 하거나 분류를 하는 단편적인 응용을 넘어 사실상 인간의 상상력과 관련한 여러 영역에 적용 가능하기 때문이다. GAN 이외에도 새로운 것을 생성하는 창의적인 인공지능과 예술영역에서 인공지능을 적용하는 연구도 많이 선보였다.

특히 ICML에서 독립된 워크숍으로 기획된 ‘음악 발견에 대한 머신러닝’에서는 구글이 예술과 관련한 인공지능을 프로모션하면서 유명해진 마젠타팀의 ‘NSynth’를 비롯, 네이버 클로바팀의 음악 하이라이트 추출에 대한 네트워크 발표, 카이스트 문화기술대학원 박사과정 이종필의 음악 분류에 대한 연구, 영국 퀸메리대학 박사과정 최근우의 딥러닝과 음악에 대한 발표 등 국내 연구자들의 약진이 두드러져 더욱 인상 깊었다.

강화학습, 원샷러닝과 메타러닝

또 한 가지의 변화는 CNN을 이용한 이미지 분석과 분류에 대한 연구, RNN을 이용한 자연어와 관련한 연구라는 양대 산맥에 비해 상대적으로 적었던 강화학습(Reinforcement Learning) 연구가 주류로 급부상하고 있다는 것. 딥마인드를 통해 강화학습이 많이 알려졌지만, 그 동안 머신러닝에서 강화학습을 연구하는 사람의 수가 그렇게 많았던 것은 아니었다.

그러나 최근 미래의 인공지능은 결국 강화학습을 기반으로 하는 다중 에이전트 인공지능이 될 것으로 전망하는 사람들이 늘어나면서 관련 연구도 크게 늘고 있다. 강화학습은 주로 시뮬레이션과 게임, 로봇 등에 적용되는 것이 많았지만, 적용범위를 넓혀가고 있다. 특히 단일 에이전트에서 다중 에이전트를 동시에 지휘하는 계층적인 강화학습 관련 연구도 많아지면서 향후 훨씬 복잡한 문제들도 풀어낼 수 있을 것으로 예상된다.

또 하나 눈 여겨 볼 부분은 수많은 시행착오를 반복해야 하는 강화학습의 약점을 극복하기 위한 ‘원샷러닝(one-shot learning)’ 또는 ‘퓨샷러닝(few-shot learning)’의 부상이다. 강화학습이 학습에 많은 시간이 걸리는 것에 비해 원샷러닝과 퓨샷러닝은 상대적으로 적은 샘플로 상당한 수준의 학습이 가능하고, 응용에 따라서는 인간의 개입도 자연스럽게 가능하기 때문에 향후 발전 가능성이 매우 높다.

이와 함께 머신러닝을 자동화하는 AutoML이나 보다 복잡한 작업을 수행하기 위한 유연성을 확보하기 위해 프레임워크나 다중 에이전트, 이들 간의 커뮤니케이션 프로토콜 등과 관련한 다양한 메타러닝(meta-learning)과 관련한 연구들도 많이 등장했다. 이를 통해 단순한 작업을 넘어서서 좀 더 복잡한 작업을 수행할 수 있는 제한된 범용인공지능의 경우 가까운 미래에 실용화가 가능한 수준으로 발전할 전망이다.

실망스러운 자연어 처리 연구성과

여러 인공지능 연구의 발전에 비해 자연어 처리 부분에서 아직까지 괄목할만한 변화가 보이지 않는 것은 안타까운 점이다. 이 분야는 최근 구글의 신경망번역(Neural Machine Translation) 기술 적용에 따른 번역 품질의 획기적인 발전 등으로 기대를 모았었다. 물론 페이스북 등을 중심으로 에이전트 사이의 언어의 본질적인 부분에 접근하는 그라운딩 문제(grounding problem)나 에이전트 사이에 생성된 언어의 형태를 분석하는 등 상당한 성과가 있었지만, 다른 분야의 발전에 비하면 다소 임팩트가 약했다.

이 문제는 인간의 언어 자체가 가진 모호성, 학습에 사용되는 언어 덩어리들의 불완전성 등과도 연관되어 있기에 가까운 미래에 해결되기는 어려워보인다. 도리어 인공지능 챗봇 또는 인공지능의 빠른 상용화로 인간이 인공지능의 언어에 대응하는 방식이 달라지고, 인간-인공지능 상호작용에 의해 언어만이 아닌 다양한 인지기능을 활용한 새로운 인공지능의 자연어 이해 및 인간과의 소통에 대한 연구에 더 큰 기대가 됐다.

인간과 인공지능의 공존은 실제적인 문제

지금까지 전반적인 인공지능 연구동향을 살펴봤다. 한 마디로 요약하면, 인공지능이 더 이상 아카데미의 연구라는 호리병 안에 갇혀 있지 않고 세상과의 실질적인 상호작용 및 상용화를 위해 한 발씩 내딛고 있고 이 과정에서 자연스럽게 기존 사회와의 마찰을 줄이고 인간과의 상호작용 문제가 가장 큰 문제로 부각되기 시작했다는 느낌이다.

이는 기술이 상용화될 때 피할 수 없는 것이다. 자동차가 현실사회에 보급이 될 때에도, 스마트폰이 일반인들에게 사용되기 시작할 때에도 나타났던 과정들이다. 기술의 역사에서 보면 본질적인 기술 개발도 중요하지만, 결국 크게 성공한 주체들은 실제적인 문제를 해결하고 고객들과 함께 제품과 서비스를 만들었던 곳이라는 사실이 인공지능 분야에서도 본격적으로 부각되고 있다.

향후 인공지능은 인간 및 사회와 공존하는 단계에 들어갈 것이다. 지나치게 두려워하거나 낙관하기보다 예상되는 실질적인 문제를 해결하기 위해 보다 많은 연구자와 기업의 노력이 필요한 시점이다.

<테크엠=한국인터넷진흥원(KISA) 공동기획>