본문바로가기

팩트체크 상세보기

HOME > 팩트체크 상세보기
보충 설명

검증 대상 보충 설명: 지난 10일 'N번방 방지법'으로도 불리는 전기통신사업법이 시행됐다. 이를 두고 오픈채팅에서 영상을 보내기 전 AI기술을 활용해 사진을 들여다보고 검열한다는 주장이 온라인 커뮤니티에서 제기됐다.

    팩트체크 요약
     
    • 온라인 커뮤니티를 중심으로 N번방 방지법이 AI를 통한 메신저 검열이라는 주장이 제기됐다.
    • N번방 방지법의 오픈채팅 영상 차단 기술은 AI를 활용한 것이 아닌 단순 영상 고윳값 대조다.
    • 커뮤니티에 올라온 여러 '검열 인증' 글들은 N번방 방지법과 무관하거나, 기술적 오류로 확인됐다.


    검증내용

    [검증 대상]

    AI가 오픈채팅에 전송되는 영상을 검열한다는 온라인 커뮤니티 게시글


    [검증 방법]

    온라인 커뮤니티 실험 재현

    기술 개발자 및 카카오 관계자 인터뷰

    국회회의록 및 국회의원 본회의 표결정보 확인


    [검증 내용]


    12월 10일부터 'N번방 방지법'이라고 불리는 개정 전기통신사업법이 본격적으로 시행됐다. 이후 온라인 커뮤니티에서 N번방 방지법이 AI에 의한 메신저 검열이라는 주장이 제기됐다.


    [검증자료1. 팩트와이 화면 갈무리]


    국민의힘 윤석열 후보는 해당 주장 중 하나를 이용해 오픈채팅방에서 고양이 동영상까지 검열된다고 비판했다.

    그러나 게시물의 사진은 검토 과정을 찍은 것으로, 고양이 이미지는 정상적으로 전송됐다.

    맥주 광고와 어린이 영상이 전송되지 않은 것은 메신저 내부 오류로 확인됐다.

    실험 결과 두 영상은 처음에는 전송되지 않았으나, 약 4-5시간 이후 정상 발송됐다.


    [검증자료 2. 팩트와이 화면 갈무리]


    불법촬영물 차단 기술이 AI를 통한 검열이라는 주장도 사실이 아니다.

    AI 기술 적용 여부는 기술의 학습 능력을 기준으로 판단하는데, N번방 방지법에 사용된 기술은 학습능력이 없다. 

    기술 개발자인 한국전자통신연구원 관계자에 따르면, 해당 기술은 단순히 데이터베이스와 영상의 고윳값을 대조한다.

    이미지와 영상의 내용을 보는 것이 아니라 고윳값이 일치하면 차단하는 단순한 방식이다.


    [검증자료 3. 팩트와이 화면 갈무리]


    여성 BJ 영상, 스모 선수 사진 등이 차단된 것은 이용자가 유포를 막아달라고 신고한 결과다.

    게시물 내 사진에 포함된 안내문은 이미지 검토 후 전송이 차단된 것과 다른 안내문이다.


    [검증 결과]

    일부 커뮤니티에서 제기된 '오픈채팅 AI 검열 논란'은 사실과 다르다. 영상 검토 기술은 AI의 학습능력이 구현되지 않은 단순 데이터베이스 비교이며, 이미지와 영상 자체의 내용을 보는 것이 아니라 영상의 고유한 값만 확인하는 것이다. 따라서 N번방 방지법 시행 이후 AI가 오픈채팅을 검열한다는 주장은 '대체로 사실 아님'으로 판정했다.

    한편, N번방 방지법은 작년 5월 여야 합의에 따라 표결에 참여한 의원 다수의 동의로 입법됐다. 당시 미래통합당도 표결 의원 52명 전원이 법안에 찬성했다. 법과 시행령이 표현의 자유의 본질을 훼손한다면 고쳐야겠으나, 허위 정보를 근거로 검열법으로 규정하는 것은 지나치다는 지적이 있다.

    검증기사

 

×

SNU팩트체크는 이렇게 운용됩니다.

×

온라인 허위정보 대응 방법

출처: 유럽위원회, FIRST DRAFT

자세히 보기>>