유해정보 차단

카카오는 모든 연령대가 자유롭게 이용할 수 있는 공간으로써
유해 정보로부터 청소년을 보호하고 안전한 인터넷 사용을 돕기 위해
정보통신망 이용촉진 및 정보보호 등에 관한 법률에서 정한 청소년 보호정책을 시행하고 있습니다.

유해정보 신고 방법 및 처리 절차

음란, 불법 게시물을 발견하셨다면 유해정보 신고센터로 신고주세요. 여러분의 제보로 더 깨끗한 서비스를 만들어가도록 노력하겠습니다.

유해정보 신고센터로 접수된 신고는 절차에 따라 신속하게 처리되고 있습니다.

유해정보 신고접수 유해성 여부 검토
  1. 1. 요건 미비 : 규제하지 않음
  2. 2. 요건 충족 : 게시물 규제조치 ‘게시자’에게 처리내용 안내
    1. 1. 30일 내 복원신청이 없는 경우 : 영구 삭제
    2. 2. 30일 내 복원신청 접수 : 검토 결과에 따름
프로세스 소용 기간 : 근무일 3일 이내 처리

카카오의 기술적 보호

유해정보로부터 안전한 디지털 세상을 만들기 위해 보다 다양한 기술과 차단에 효과적인 방법을 연구하고 개발하여 적용하는 카카오가 될 수 있도록 노력하고 있습니다.

유해 이미지 차단 기술

카카오는 2019년 “성인 이미지 세계에서 살아남는 방법”이라는 제목으로 유해 이미지를 단시간에 차단하기 위해 활용되는 AI기술을 발표하였습니다. 기존 이미지의 해시(hash)가 동일한 대상만을 자동으로 처리하는 방식을 정확도와 대상을 넓혀 학습을 진행하고 있으며, 머신러닝 기법 중 여러 모델의 결과를 이용해 하나의 좋은 결과를 만드는 Ensemble(앙상블) 기법을 활용하여 ‘성인(스팸) 이미지 추천 시스템’을 개발하여 적용하고 있습니다.

이미지 레벨 시스템 Ensemble
  • 완전 일치 이미지 필터
  • 유사 이미지 필터
  • 정상/성인 CNN 1차 필터
  • 정상/성인 CNN 2차 필터
  • 불법/광고 CNN 필터
    • OCR
  • 사내 성인 지수
유해 콘텐츠 차단 기술

카카오는 끊임없이 진화하고 있는 유해 콘텐츠로부터 사용자들을 보호하고 더욱 안전한 디지털 환경을 만들기 위해 내부적으로 지속적인 연구개발과 투자를 강화하고 있으며, 세상의 모든 유해 콘텐츠로부터 사용자들을 지키키 위한 방패로 유해 콘텐츠 필터링 기술을 적용하고 있습니다.

유해 콘텐츠 차단 프로세스
  1. 1. 이용자가 회원가입과 로그인시, 회원/계정 클린 플랫폼에서 비정상 가입 및 로그인을 탐지합니다.
  2. 2. 콘텐츠 작성 후 검색에 공개되기 전까지, 콘텐츠 클린 플랫폼에서 비정상 생성 탐지 및 공개 콘텐츠 모니터링을 하며 신고자에 의한 신고 콘텐츠 또한 모니터링을 합니다.
  3. 3. 비정상적인 콘텐츠의 유입을 탐지 및 모니터링 하는 이 2가지 클린 플랫폼들은 품질 분석/처리 시스템에서 자동으로 처리가 되거나 운영센터 운영자가 수동으로 처리하기도 합니다.