이넘넷 “AI로 성인물 콘텐츠 잡아낸다”

이미지 프로세싱 전문기업 이넘넷, 성인물 콘텐츠 인공지능 필터 ‘R18CUT 비전AI’ 서비스 출시

강동식 기자

lavita@datanews.co.kr | 2023.07.28 08:47:47

▲이미지 프로세싱 전문기업 이넘넷이 성인물 콘텐츠 감지 AI 필터 ‘R18CUT 비전 AI’ 서비스를 출시했다. 사진은 R18CUT 비전 AI 서비스 화면 / 사진=이넘넷

국내 기업이 인공지능(AI) 기술로 자동으로 성인물 콘텐츠를 감지, 검출할 수 있는 서비스를 내놔 주목받고 있다.

이미지 프로세싱 전문기업 이넘넷(대표 최승혁)은 최근 성인물 콘텐츠 감지 AI 필터 ‘R18CUT 비전 AI’ 서비스를 출시했다.

R18CUT 비전 AI는 콘텐츠 이미지에서 자동으로 4개의 선정성 레벨(사람의 성기, 옷을 벗은 사람의 전신, 노출이 많은 옷을 입은 여성, 노출이 적은 옷을 입은 사람)로 분류된 사람 객체를 찾아낸다. 감지된 객체의 위치정보와 인식률을 제공하고, 감지된 객체 영역을 흐리게 하거나 콘텐츠를 차단할 수 있다.

이 서비스는 효과적으로 몸캠 피싱 방지(청소년 유해물 접촉 방지), 노출 필터링(마스킹 처리) 등을 수행할 수 있다.

R18CUT 비전 AI는 미성년자 대상 서비스에 적합하지 않은 이미지를 필터링해 성인물 등급 판별에 도움을 주고, 광고 콘텐츠를 배포하는 과정에서 부적절한 노출 콘텐츠를 등록 전에 검수, 필터링할 수 있다. 또 채팅으로 유통될 수 있는 불법 성인 콘텐츠 필터링, 온라인 게시판, 소셜 서비스 상의 성인물 콘텐츠 검수 등 다양한 영역에서 활용될 수 있다.

최승혁 이넘넷 대표는 “사회적으로 문제가 되고 개인에게 치명적인 신체의 은밀한 부분을 촬영한 몸캠 사진이나 영상을 스마트폰 단계에서 차단하고 청소년의 유해물 접촉을 방지할 수 있다. 또 온라인으로 정보를 공유하는 과정에서 실수로 유통될 수 있는 개인 노출이나 성인 미디어물을 차단하거나 마스킹 처리를 할 수 있다”고 말했다.

이 서비스는 특히 판별이 어렵게 촬영된 영상물에서 선정성 객체 노출을 감지할 수 있는 것이 장점이다. 이넘넷에 따르면, R18CUT 비전 AI는 국내·외 경쟁 제품과 비교해 선정성 객체별 구분 판단과 유통 전 성인물 판단에 강점을 갖고 있다. 세로로 길게 편집된 이미지를 분석할 수 있고, 옷, 손 등에 가려져 부분 노출된 이미지도 판단할 수 있다.

최승혁 대표는 “R18CUT 비전 AI는 성인물 레벨 객체를 찾아내 해당 위치를 찾아가는 형태로, 자동으로 성인물 증거를 채취하고, 노출하지 말아야 하는 영역을 지울 수 있는 것이 큰 장점”이라며 “이를 통해 불법 콘텐츠 심의, 영상물 내의 노출 체크 업무의 피로도를 크게 낮출 수 있다. 최근 일본에서 R18CUT 비전 AI가 AV 콘텐츠 심의 및 제작과정에서 관련 업무를 자동화 할 수 있다는 의견을 받았다”고 말했다.

R18CUT 비전 AI는 경찰청 등에서 사용하는 기존 불법 영상 식별 방식과 상호 보완하며 관리 효과를 극대화할 할 수 있다.

최 대표는 “기존의 불법 영상 식별 방식인 DNA 해시(Hash) 방법은 이미 확인(신고 접수)된 영상물을 중심으로 불법 영상물의 재배포 확산을 막는 것이라면, R18CUT 비전 AI는 생산 시점 또는 배포 시점 전에 영상물 또는 이미지의 성적인 노출 영역 단계를 미리 파악한다”며 “사전·사후관리를 동시에 할 수 있어 불법 영상물로 인한 피해 방지에 많은 도움이 될 것”이라고 말했다.

이넘넷은 먼저 국내에서 서비스를 시작한데 이어 해외로 서비스를 확대할 계획이다. 글로벌 시장조사기업 폴라리스 마켓 리서치에 따르면, 전 세계 콘텐츠 인식 분석 시장 규모는 2021년 20억3000만 달러에서 연평균 16.7% 성장해 2030년 78억6000만 달러에 달할 것으로 전망된다.

이넘넷은 앞으로 R18CUT 비전 AI를 업그레이드해 피해자 유사 얼굴 찾기에 활용하고, 담배, 칼, 약품, 도박 등 다양한 영역으로 식별 대상 객체를 확대할 계획이다.

최 대표는 “R18CUT 비전 AI를 성인물 콘텐츠 필터로 시작해 콘텐츠 등급 심의 AI를 거쳐 자동 콘텐츠 인식 AI로 발전시킬 계획”이라며 “R18CUT 비전 AI의 다음 버전은 도박, 마약, 잔혹물 등으로 인지 영역으로 넓히고, 최종적으로는 미디어 콘텐츠의 내용을 파악해 정보 이용자가 어떤 콘텐츠의 어떤 영역에 관심도가 높은지까지 파악할 수 있도록 하는 것이 목표”라고 말했다.

이넘넷은 2014년 설립된 이미지 프로세싱 및 응용 소프트웨어 개발기업이다. 10년 가까이 개발, 축적한 이미지 객체인식·추출기술을 바탕으로 이미지 학습, 분석, 추출, 탐지, 편집 관련 토털 솔루션을 국내·외에 공급하고 있다.

강동식 기자 lavita@datanews.co.kr