넷플릭스가 취향별로 추천하는 영화를 자연스레 선택하고, 스마트폰이나 PC에서 검색한 키워드에 따라오는 배너 광고로 마주한다.

이런 기술의 뒷면을 보면 언제나 알고리즘이 숨어 있다. 기계 시대를 움직이는 보이지 않는 부품인 알고리즘은 오늘날 소셜미디어부터 검색엔진, 의료, 법원, 마케팅 같은 다양한 분야에서 막대한 영향력을 미치고 있다.

영국 런던대에서 도시 수학을 가르치는 해나 프라이는 다양한 알고리즘과 인공지능이 사회를 어떻게 통제하는지와 인간으로서 살아남는 방법을 이야기한다. 저자는 오만하고 독재적인 알고리즘은 깨부수고, 기계를 객관적인 만능 해결사로 보지 않는 미래를 만들어야 한다고 말한다. 그렇게 하려면 기계의 오류와 결함은 물론, 인간의 결점과 약점까지 이해해야 한다고 강조한다.

우선 저자는 알고리즘으로 인해 개인 데이터의 유출이 굉장히 심각하다고 설명한다. SNS에 올린 글과 ‘좋아요’를 누른 게시물, 은밀한 검색 기록뿐만 아니라 정치 성향, 복용하는 약, 임신 중절 여부까지도 데이터 브로커에 팔린다. 무심코 누른 ‘동의’ 버튼 때문이다.

데이터 브로커는 우리의 호불호에 따라 최대한 관심사와 맞는 광고를 띄운다. 더 나아가 이러한 데이터는 인간을 조종하는 데까지 쓰인다. 대선 동안 조작된 가짜 뉴스를 퍼뜨려 유권자를 조종하고, 중국 정부는 각종의 은밀하고도 사적인 데이터들을 점수로 집약해 개인의 신용도를 평가한다. 저자는 데이터가 이 시대의 새로운 황금이라면, 우리는 현재 거친 미국 서부 개척 시대를 사는 셈이라며, 무료 알고리즘에 의문을 품도록 경고한다.

특히 알고리즘이 적용되는 대부분의 산업에서는 개인의 이익과 공공의 이익이 충돌하는 갈등 상황이 자주 발생한다. 결론 내리기 쉽지 않은 이 논쟁이야말로 알고리즘이 믿을 만한지 파악하는 데 그치지 않고 인간의 한계와 가치를 결정할 것이다. 예컨대 암을 치료하는 데 쓰이는 의료 기계를 만들 때, 개인과 인류 중 누구를 위해 작동해야 할지 ‘선택’해야 하는 상황이 오게 마련이다.

또 자율주행 차량을 설계할 때 충돌 시 운전자와 보행자 중 어느 쪽의 목숨을 우선해야 하는지 선택하기 어려운 딜레마도 다룬다. 이처럼 서로의 목표와 동기가 충돌할 때 알고리즘의 위험은 은폐되고 이익은 부풀려진다.

이 책은 알고리즘으로 얻는 이익이 해로움보다 큰지 질문을 던져야 한다고 말한다. 이를 통해 자신의 판단보다 기계를 더 신뢰해야 할 때가 언제인지, 기계에 통제권을 맡기고 싶은 유혹을 떨쳐야 할 때가 언제인지를 알아보도록 돕는다. 또 우리가 얻을 이익과 해악을 구분해 어떤 미래를 만들지 전망과 과제를 냉철하게 파헤친다.

기계와 인간의 완벽한 공생을 통한 미래의 가능성을 제시하는 이 책은 각종 위기와 쏟아지는 정보에 휘둘리지 않고 헤쳐 나갈 수 있도록 중요한 이정표로 작용할 것이다.

안녕, 인간│해나 프라이 지음 김정아 옮김│와이즈베리 펴냄│1만1700원(전자책)

​* [테크엠 북카페]는 국내 최대 전자책 업체 리디북스와 함께 진행합니다.

김태환 테크엠 기자 kimthin@techm.kr