문제성 콘텐츠 차단 기술의 한계와 노력

[테크M 한국인터넷진흥원 공동기획]

[글 = 최홍규 EBS 연구위원]

 11월초 페이스북은 호주 이세이프티 위원회(eSafety Commissioner Office)와 함께 리벤지 포르노 퇴치에 나선다고 밝혔다.

이미 페이스북은 지난 4월 5일 리벤지 포르노 방지 방안을 발표한 바 있는데 이번에는 실행 절차를 구체적으로 밝혀 이목을 끈다. 호주의 이세이프티위원회에 따르면 호주 국민 5명 중 1명이 동의 없이 확산되는 소셜미디어 상의 이미지 때문에 고통받고 있다. 이런 점에서도 페이스북이 호주 정부와 협력한다는 점은 주목할 만하다.

그런데 페이스북의 리벤지 포르노 차단 노력을 보며 생기는 궁금증이 있다. 이는 오늘날의 이용자 게시물 차단 기술로 정말 근본적인 문제 해결이 가능하기는 한 것인가, 이것이 정말 현 상황에서 최선일까 하는 생각들과 맞닿아 있다.

이는 페이스북의 리벤지 포르노 차단 기술을 잘 모르는 일반 이용자들이 가질 수 있는 의구심이기도 하다.

첫째, 리벤지 포르노를 막기 위해 자신의 누드 사진을 쉽게 보낼 수 있을까?

페이스북이 리벤지 포르노를 차단하는 기본 절차에 대해 알아보자.

만일 우리가 리벤지 포르노 범죄의 피해를 당했다고 치자. 우리는 우선 이세이프티 위원회 사이트에 접속해 신고 양식을 채운다. 이 내용을 이세이프티 위원회는 페이스북에 알린다.

신고 내용을 받은 페이스북 커뮤니티 운영팀은 이미지 일치 기술(image matching technology)을 적용해 리벤지 포르노 콘텐츠가 업로드 되거나 공유되는 것을 막는다. 이때 특수한 훈련을 받은 전문가가 이미지를 검토하고, 이후 콘텐츠는 해싱(hashing) 과정을 거쳐 전자 지문(혹은 전자적 개인정보, 디지털 지문) 형태로 변환되어 추가 업로드가 방지된다.

여기서 페이스북이 강조하고 있는 기술은 해싱 시스템이다. 이 시스템을 활용하면 별도의 저장 단계를 거칠 필요없이 향후에도 지속적으로 업로드되는 리벤지 포르노 콘텐츠를 찾아낼 수 있다고 설명한다.

우리가 신고를 해도 해당 콘텐츠가 페이스북 서버에 저장될 가능성이 없고 해싱 정보는 인간이 읽을 수 없는 숫자 형태로 처리되어 안전하다는 점을 거듭 강조하고 있는 것이다.

이렇게 해시를 이용해 이미지를 매치하는 기술은 마이크로소프트가 2009년 개발했다. 오늘날에도 페이스북, 트위터, 구글이 포토DNA란 해시 매칭기술 기반의 동일한 데이터 베이스에서 불법 이미지를 찾아 제거하는 것으로 알려졌다.

기술적으로는 이미 기존에 검증된 기술을 활용한다고 하니 안심할 수도 있겠다. 그런데 우리가 안심하기 힘든 것은 바로 신고 절차에서 벌어지는 2차 피해 우려 때문이다.

페이스북이 밝히고 있는 신고 절차대로 라면, 신고자는 이세이프티위원회에 내 정보를 알려야 하고 그 정보는 페이스북의 접수 및 모니터링 절차에서 직원들과 공유된다.

그런데 이 과정에서 리벤지 포르노를 찾을 단서가 되는 신고자 정보를 함께 보내야 하는 맹점이 있다. 아무래도 리벤지 포르노를 찾기 위함이니 누드 사진이 리벤지 포르노 차단 확률을 높일 것이 분명하다.

그럼 이용자들은 누드 사진을 보내면서까지 리벤지 포르노를 막아달라고 할 수 있을까?

논리적으로 리벤지 포르노의 확산력을 생각하면 피해자들은 자신의 누드 사진을 보내 리벤지 포르노를 막아야 하는 게 맞다. 하지만 이미 해당 사진이나 영상으로 큰 상처를 받은 피해자들이 신고를 위해 자신의 누드 사진을 당당히 보내는 상황은 섣불리 상상하기 힘든 상황이다.

이미 페이스북이라는 공간에서 자신의 리벤지 포르노가 유출된 이용자라면 그 누가 페이스북을 무조건 믿고 이러한 신고 절차를 쉽게 거치겠는가.

누구도 이에 대해 쉽게 얘기할 수는 없을 것이다. 피해를 입으면 제2, 제3의 피해를 막기 위해 적극적으로 행동하는 사람도 있지만, 오히려 두려움을 느끼고 숨고 싶은 사람들도 많을 것이니 말이다.

이들을 위해서는 더 이상의 개인정보 유출을 최소화하면서 피해를 막을 수 있는 대책이 필요할 것이다.

둘째, 페이스북의 리벤지 포르노 차단 장치는 누가 주로 이용하게 될까?

비영리 단체 ‘사이버 시민 권리 구상(CCRI)’의 첫 캠페인 보고서(End Revenge Porn)에 의하면 피해자의 90%가 여자이고 이중 93%가 심각한 감정적 고통을 겪고 82%는 직장이나 사회 생활에 어려움을 겪으며 51%는 자살 기도를 했다.

CCRI의 최근 보고서(2017 NATIONWIDE ONLINE STUDY OF NONCONSENSUAL PORN VICTIMIZATION AND PERPETRATION)를 살펴봐도 노골적인 성적 이미지나 동영상 등을 동의 없이 유포하겠는 협박을 받는 경험은 여성(15.8%)이 남성(9.3%)에 비해 월등히 높다.

그렇다면 차단 신고자도 여성일 가능성이 높다는 것인데, 이들이 과연 이 신고 절차에 만족할까?

사실 페이스북과 호주 정부가 발표한 이번 리벤지 포르노 차단 절차는 상당히 건조하고 기술적이다.

차단 절차를 다 듣고 난 이용자들은 ‘아, 저렇게 하면 리벤지 포르노가 차단될 확률이 높아지겠구나.’ 생각을 할 수는 있겠으나 그 절차의 경험자가 되고 싶지는 않을 것이다.

이용자들이 이렇게 느낄 이유는 정서적인 감정을 고려하지 않은 설명 때문이라고 본다.

페이스북은 이용자들의 2차 피해 우려를 불식시킬만한 장치로 신고를 위해 보낸 이미지가 저장되거나 페이스북 내부에서 공유될 위험이 없다는 점을 제시한 것이 전부다.

그러니 이용자 입장에서는 신고 절차를 따르기 위해 우선 ‘페이스북을 믿는 마음’을 먹어야 한다. 아무래도 리벤지 포르노 이슈에서 상대적인 약자로 자리할 수밖에 없는 여성이 이러한 마음을 먹고 적극적으로 신고 절차에 따른다? 쉽지 않은 일이다.

셋째, 리벤지 포르노를 보는 눈은 원천적으로 차단할 수 없나?

지난 11월 16일 뉴욕시는 리벤지 포르노를 범죄로 인정했다. 이에 따라 뉴욕에서 리벤지 포르노 관련 위반 사항이 발생하면 1,000달러의 벌금과 최대 1년의 징역형이 선고될 수 있다.

이미 미국 내에서는 38개 주와 DC가 리벤지 포르노 관련 법률을 시행하고 있고 경범죄(misdemeanor)로 규정한데 따른 논란이 있지만 미국을 상징하는 대도시에서 관련 법안이 시행된다는 점은 리벤지 포르노 퇴치 분위기가 일어나고 있음을 시사한다.

또 미국 공화당 하원의원인 조 바튼이 트위터에서 확산된 누드 사진으로 리벤지 포르노의 피해자로 지목돼 그 심각성이 널리 알려지기도 했다.

정치인도 리벤지 포르노에 노출될 수 있다는 뉴스는 뉴욕시가 리벤지 포르노를 범죄로 인정한다는 소식과 함께 미국 시민들의 리벤지 포르노에 대한 경각심을 일으키기에 충분했다.

하지만 폭발적인 이슈나 시민들의 경각심만으로 문제가 해결될 리는 없다.

기술로 안되면 법제도로, 법제도로도 안되면 시민들의 자율적인 노력이 활성화되어야 할 것인데, 페이스북 태생지인 미국의 뉴욕시에서도 이제 막 리벤지 포르노를 법제화하는 단계라고 하니 갈 길은 멀다.

따라서 리벤지 포르노를 원천적으로 차단하기 위해 메워야할 구멍도 너무 많은 것이 사실이다.

이런 측면에서 금번 페이스북의 노력은 조금이라도 이용자 피해를 최소화해보려는 기업의 노력 정도로 이해가 되지만, 근본적인 피해를 막고 예방 체계를 지속가능하도록 유지할 수 있느냐에 대해서는 의구심이 따르는 것이 사실이다.

리벤지 포르노를 원천 차단하는 길은 이용자가 해당 콘텐츠를 업로드 하지 못하도록 하는 것이 근본 예방책일 것인데, 그게 힘들다면 어쨌든 업로드 하는 단계에서의 차단 노력을 더욱 강화해야 할 것이다.

결국 이용자의 자율적 노력이 확산될 수 있도록 더 많은 운동이 전개되고 법제도는 더 강화해야 할 것이다.

매우 사전적인 이야기같지만, 이를 전제로 하지 않으면 근본적인 해결책은 없다고 본다. 이제까지의 인터넷 세상도 기술만으로 바뀌는 세상은 아니었으니 말이다.