Hinder[힌더]: Hate-meme spread stopper

맘충, 김여사, 가짜 난민, 트랜스xx등 종종 웹을 거닐다 보면 혐오 정서를 공유하는 집단이 특정한 표현 양식을 공유하는 면면들을 발견하곤 하는데요. 좁게는 웃긴 이미지에서 시작해 넓게는 구호, 단어, 구절 등 구성원들이 공유하는 이 '밈'들은 내집단 속에서 약자에 대한 혐오를 담고 내재된 혐오를 전파합니다.

저는 이렇게 밈이 혐오를 전파하는 혐오-밈 현상에 문제의식을 갖고, 혐오(hate)를 탐색(find)한다는 의미를 가지면서 동시에 전파를 방해(hinder)하는 의미도 가진 "HINDER" 모바일 앱 프로젝트를 기획하게 되었습니다.

혐오 밈은 1.정보 공백 2.노력 장벽 3.밈 확산 4.밈 사실화의 구조를 가지고 확산되는데요.
처음 혐오 밈이 등장하게 되면, 공론장에는 반대 정보가 없는 상태가 되는데(정보공백), 일반적인 사람은 이런 경우 처음 마주한 정보를 주로 수용하게 됩니다. 그리고 이 노출된 수많은 정보들을 하나하나 검증하는 건 너무 많은 노력을 필요로하기 때문에(노력 장벽) 자연스럽게 받아들인 밈 속에 담긴 혐오도 체화하게 됩니다. 이후 혐오가 확산되게 되면 밈이 확산되어 많은 사람들이 알고 있다는 이유만으로 그것이 사실처럼 받아들여지게 되며 (개소리 순환고리) 결과적으로 공론장에 올바른 사실이 들어올 여지를 차단하게 됩니다.

Hinder는 이 혐오 확산 구조 중에서 정보 공백과 노력 장벽에 주목했는데요. 정보 공백으로 인해 사람들이 혐오-밈을 쉽게 수용하게 되었고, 노력 장벽으로 인해 이 밈들이 혐오인지 아닌지 판별할 수 없었던 거라면. 공론장에 올바른 정보를 공급하고 미리 혐오를 판별해 알려주는 것을 통해 혐오를 확산시키는 이 구조를 끊어낼 수 있다고 생각했기 때문입니다.

혐오를 미리 판별하고, 공론장에 정보를 공급하기 위해 저는 Hinder에 두가지 핵심 기능을 기획했는데요. Hate Counter[혐오 계수기]와 Pinch and Search[영역 혐오 검색]이 그것입니다. (하단 영상 참조)

Hate Counter [혐오 계수기]는 모바일 화면을 실시간으로 스캔하면서 혐오 DB와 비교하고, 혐오-밈 키워드 or 혐오 주 유포지 or 혐오 주 유포자가 검출될 경우 유저에게 알람을 보냅니다.

Pinch and search [영역 혐오 검색]에서 유저가 검색 기능을 활성화 시킨 뒤 화면에서 영역을 지정하면, Hinder는 화면의 영상or이미지or텍스트등을 추출하여 키워드를 생성하는데요. Hate Counter [혐오 계수기]에서는 정보의 신뢰를 위해 혐오 DB와 일정 비율 이상 일치하는 확실한 혐오만을 알려주었다면 Pinch and Search [혐오 영역 검색]에서는 유저에게 검출되는 모든 키워드를 보여줍니다.

유저가 터치를 통해 혐오-밈에 대한 상세보기를 원하는 경우 제공되는 페이지에는 혐오 밈의 역사나 주요 패턴 주 공유지 등과 같은 기본적인 정보 뿐만 아니라. 혐오-밈의 패턴들에 대한 반대-레퍼런스 또한 제공되기 때문에 유저는 손쉽게 제 3자에게 혐오-밈에 대한 반박자료를 남길 수 있도록 기획했습니다.

-

운영자 한-두사람이 혐오-밈에 대한 의미있는 수준의 정보를 축정하는 것은 현실적으로 어려운 일이라고 생각했는데요. 따라서 많은 사람의 힘을 빌리되, 기존의 오픈위키를 그대로 차용할 경우 "오래 앉아있는 사람이 무조건 유리하고 필요에 따라 사실도 날조할 수 있는" 단점 또한 답습하게 될 것이라고 판단했습니다.

그래서 Hinder DB에서 정보를 축적하고 의미를 발견할 데이터셋을 모으는 것은 AI가 담당하는 것이 좋겠다고 생각했습니다. 기존에 미리 입력된 키워드에 따라 AI가 광범위하게 혐오-밈에 대한 정보를 모으고 분류하고 나면. 유저에게 랜덤하게 권한을 주어 모아진 정보에서 의미를 발견하도록 요청하는 구조를 통해 한두사람이 정보를 좌지우지 하는 것을 예방하고자 했습니다.

Hinder는 위와 같이 구성된 DB를 통해 유저에게 스캔과 검색 결과를 제공하게 되며. 유저는 혐오에 대한 정보를 적절한 순간에 쉽게 인지할 수 있게 되고, 이를 통해 혐오가 밈을 타고 확산되는 현상을 막을 수 있도록. 혐오와 밈 그리고 사람 사이의 관계에 개입해 그 상호작용을 디자인하였습니다.