구글 모회사 알파벳 산하 인공지능(AI) 기업 딥마인드의 무스타파 슐레이만 공동 창업자가 2018년 AI 업계가 주목해야할 중요 키워드로 ‘윤리’를 꼽아 주목된다.

그는 최근 IT전문 미디어 와이어드에 쓴 칼럼을 통해 머신러닝(machine learning) AI 기술은 이미 사회에 만연한 불평등을 악화시킬 수 있으며, 이를 막으려면 AI 윤리에 대한 연구가 선행돼야 한다는 점을 강조했다.

그에 따르면 AI는 기후변화, 식량, 보건 문제 등 인류가 직면한 다양한 도전을 해결할 수 있는 중요한 역할을 할 수 있지만  이런저런 부작용을 불러올 가능성도 큰 것이 현실이다. 불평등 외에도 편견이나 차별를 강화하는데 AI가 사용될 수 있다. 기술 기업들은 이런 문제에서 자유로울 수 없다. 기술로 인해 발생하는 문제들은 그것을 만든 사람들에게도 책임이 있다는 이유에서다.

 그런만큼 AI가 사회에 미치는 영향에 대한 집중적인 연구가 필요하다는 것이 그의 생각이다. 기술로 인해 발생하는 문제들은 그것을 만든 사람들에게 책임이 있다는 것에 대해 많은 이들이 동의하고 있다는 것이 그의 주장이다.

문제를 해결하는 것이 쉬운 일은 아니다. 기술 업체들은 복잡하고 가치 있는 것 보다 쉽고 단순한 것을 우선시 하는 ‘환원주의’ 적 오류에 종종 빠진다. 예를 들어 누군가 자신을 좋아하면 어떤 기분이고 그것이 나의 자부심에 미치는 영향은 무엇인지 이해하는 것 보다, 내 게시물의 ‘좋아요’ 개수를 세는 것이 훨씬 간단한 것처럼 말이다.

슐레이만은 "이같은 오류를 범하지 않기 위해서는, 대중의 목소리를 적극적으로 반영할 수 있는 새로운 의사결정 메커니즘 개발이 필요하다. 이렇게 되면 지금까지 일방적인 문제해결 방식을 선호해왔던 기술 업계에 급진적인 변화를 일으킬 것이다"고 말했다.

그의 고민은 이미 행동으로 이어졌다. 딥마인드가 지난해  윤리와 사회를 연구하는 전담 부서 DMES(DeepMind Ethics & Society)를 신설한 것도 이같은 고민의 결과물이다.

딥마인드 직원들 및 외부 자문위원들로 구성된 DMES 부서는 ‘모든 AI 제품은 사람의 합리적인 규제 아래 있을 때 최대 가치를 갖는다’ 라는 가치 아래 출범했다. 옥스퍼드대 인공지능 전문 교수인 닉 보스트롬, 경제학자이자 전 UN 고문인 제프리 삭스 등도 고문으로 참여하고 있다. 

DMES가 미래 AI 연구를 위해 내세운 핵심 원칙은 다음과 같이 요약된다.  ▲글로벌 사회에 도움이 되는 방식으로 개발 ▲ 엄격하고 철저히 증거에 기반한 연구 진행 ▲자금 조달 방식 방식을 포함해 모든 과정을 투명하고 개방적으로 운영 ▲ 다양한 목소리를 담고, 학구적인 연구 추구▲ 광범위한 협업이 그것이다.

AI 윤리를 주목하는 회사가 딥마인드 뿐만은 아니다. 지난해 7월 마이크로소프트도 AI 윤리와 관련한 조직 에테르(Aether: AI and Ethics in Engineering and Research)를 신설했다.

기업 AI 사업 영역이 확장됨에 따라 공정성, 투명성 같은 가치의 중요성을 반영한 행보다. 에테르에는 마이크로소프트에 소속된 여러 그룹 대표들이 참여한다.  

딥마인드와 마이크로소프트는 모두 인공지능 연구의 모범 사례를 연구하고 개발하는 비영리 단체인 ‘사람과 사회에 공헌하는 인공지능을 위한 파트너십(Partnership on Artificial Intelligence to Benefit People and Society)’ 창립 회원사다. 이 단체에는 딥마인드와 마이크로소프트를 포함 아마존, IBM, 페이스북 같은 대형 IT기업이 소속돼있다. 이들은 AI의 발전이 우리사회에 주는 편리함과 동시에 야기되는 개인정보 보호 문제, 안전성 확보 등 다양한 윤리적 과제를 해결하기위해 설립됐다.