본문바로가기

팩트체크 상세보기

HOME > 팩트체크 상세보기
보충 설명

정재관 카카오 정책팀 부장은 지난해 온라인으로 열린 '대한민국과학기술연차대회'에 참여해 현재 AI 기술로 가짜뉴스를 완전히 걸러내지는 못한다고 주장했다. 그는 "가짜뉴스를 구분하는 조작적 정의가 불명확하고, 기술이 불완전하기 때문에 실현이 어렵다"고 설명했다.

    검증내용

    정재관 카카오 정책팀 부장은 지난해 온라인으로 열린 '대한민국과학기술연차대회'에 참여해 현재 AI 기술로 가짜뉴스를 완전히 걸러내지는 못한다고 주장했다. 그는 "가짜뉴스를 구분하는 조작적 정의가 불명확하고, 기술이 불완전하기 때문에 실현이 어렵다"고 설명했다.


    또한 "AI가 인간의 가치를 학습하기 위해선 편향된 교과서를 배워선 가치를 탐색할 수 없다"며 "알고리즘에 정확한 인풋(Input)을 넣어줘야 한다. 그 학습자료가 무엇인지에 대한 근원적 고민이 필요하다"고 말했다.

    그렇다면 1년이 지난 현재 인공지능(AI)기술만으로 온라인상 넘쳐나는 가짜뉴스를 전부 걸러낼 수 있을까.


    [검증대상] 

    현재 AI기술은 불완전하기 때문에 가짜뉴스 완전히 걸러낼 수 없다


    [검증 방법] 

    관련 보고서와 논문 검토 , 관련 학계 교수 및 전문가 인터뷰


    [검증 내용] 

    가짜뉴스에 대한 정의는 아직 사회적 합의를 이루지 못했다. 해당 범위 역시 넓다. 그러다 보니 신뢰할 수 있는 충분한 학습용 데이터를 확보하기가 어렵다. AI윤리나 기술적 오류 가능성도 여전히 배제할 수 없는 변수다. 즉, 오롯이 기술만으로는 가짜뉴스를 걸러낼 수 없다는 의견이 지배적이다.


    1) 가짜뉴스를 구분하는 조작적 정의가 불명확한가

    가짜뉴스는 지난 2016년, 도널드 트럼프와 힐러리 클린턴이 맞붙었던 미국 대통령 선거를 기점으로 크게 확산됐다. 이후 국내외에서 가짜뉴스를 정의하는 논의가 불붙었으나 여전히 이에 대한 명확한 정의가 부족한 상황이다.


    지난 2월 더불어민주당은 미디어 언론 상생 TF를 통해 가짜뉴스를 생산 유통할 경우 징벌적 손해배상 책임을 묻을 수 있는데 모두가 공감하고 있다고 밝혔다. 같은 달 8일 노웅래 최고의원(더불어민주당)도 최고위원회에서 이 같은 정책 방향에 대해 가짜뉴스를 반드시 뿌리 뽑겠다고 말했다. 윤영찬 의원(더불어민주당)도 이날 페이스북을 통해 지난해 7월 발의한 바 있는 '정보통신망법 개정안'을 언급하고, 가짜뉴스로 인한 손해가 발생할 경우 징벌적 손해배상에 처할 수 있는 법적 근거를 담았다고 설명했다. 


    다만, 학계에서는 "가짜뉴스에 대한 개념이 포괄적이고 광범위하다"면서, "가짜뉴스 개념이 법으로 정해지지 않은 상황에서 강도 높은 처벌을 시사하는 것을 표현의 자유를 저해할 수 있다"는 우려를 표했다. 당시 김종인 국민의힘 비생대책위원장은 "국민의힘은 집권 세력의 언론 장악에 맞서 표현의 자유를 강조한 헌법 정신을 수호하는 데 힘을 모으겠다"고 반박하기도 했다.


    2) 가짜뉴스 기준이 불명확하면 AI 기술이 불완전한가


    AI 알고리즘은 방대한 양질의 학습 데이터를 기반으로 설계된다. 즉 데이터의 편향성이나 불공정성이 개입되면, AI 기술이 불완전할 수 있다는 것이다. 또 개발 과정이나 기술적 오류로 인해 문제가 생길 수 있어 AI가 거른 가짜뉴스를 온전히 신뢰할 수는 없다.


    한 보고서에 따르면, '인공지능 기반 가짜뉴스 탐지'는 언어와 구문을 분석해 과거 문제가 된 가짜 뉴스에 자주 등장한 단어와 표현을 기계에 학습시켜 가짜 뉴스일 확률을 추정하는 기법이라고 정의했다. 


    AI 기반 가짜뉴스 탐지 기술의 한계점으로 ▲충분한 학습의 필요성 ▲인공지능 성능 지표에 대한 사전 정보의 부재 ▲판단의 정확도 문제 ▲정밀하게 조작된 가짜 뉴스 진단의 난해성 문제 등을 지적했다.


    보고서는 "충분한 학습 데이터만 존재한다면 인공지능 기반 가짜뉴스 탐지 기법이 우월한 성능과 신속한 탐지 능력을 보여줄 수 있으나, 학습데이터의 부재와 치밀하게 조작된 가짜 뉴스 탐지의 어려움이 있다"고 밝혔다.


    [검증 결과] 사실

    가짜뉴스에 대한 사회적 합의가 아직 명확하게 정립되지 않았고, 이로 인해 가짜뉴스라고 판별하는 학습데이터의 불확실성이 어느 정도 인정된다. 또 AI 윤리 정립이 완전하지 않고, 개발 과정이나 기술적 오류로 인해 AI 알고리즘이 불완전할 수 있다.


    다만, AI 기반 가짜뉴스 탐지는 인공지능의 판단을 완전히 신뢰할 수는 없으나 신속한 분석 및 진단이라는 장점이 있다. 그러므로 AI에 전적으로 의존하는 것이 아닌, 전문가와 역할을 분담·협업하는 하이브리드 검증방식 등처럼 AI 기술이 다양한 기법들과 결합해 가짜뉴스를 잡아내는 데 활용될 수 있을 것이다.

    검증기사

 

×

SNU팩트체크는 이렇게 운용됩니다.

×

온라인 허위정보 대응 방법

출처: 유럽위원회, FIRST DRAFT

자세히 보기>>