카리나 뉴튼(Karina Newton) 인스타그램 글로벌 공공정책 총괄(Head of Public Policy). 사진. 권민수 기자

[미디어SR 권민수 기자] 인스타그램이 인공지능(AI)과 팩트체크를 통해 안전한 플랫폼 만들기에 나섰다.

카리나 뉴튼(Karina Newton) 인스타그램 글로벌 공공정책 총괄(Head of Public Policy)은 9일 서울 강남구 페이스북코리아 본사에서 열린 기자간담회에서 안전한 인스타그램이 되기 위한 정책을 발표했다.

인스타그램은 허위 정보를 담은 일반 게시물도 신고할 수 있는 기능을 9월 도입할 계획이다. 이는 전 세계 인스타그램에 적용된다. 

지금까지는 거짓된 정보를 담고 있는 콘텐츠를 신고하고 싶어도 일반 게시물일 경우 신고할 수 없었다. 광고 게시물에만 적용되는 선택지였기 때문이다. 일반 게시물은 '스팸', '부적절함'만 선택할 수 있다. 하지만 앞으로 일반 게시물 신고 사유에 '사기 또는 오해의 소지가 있는 콘텐츠' 선택지를 추가해 일반 게시물도 신고할 수 있게 된다. 

인스타그램 관계자는 이날 미디어SR에 "일반 게시물이 사기성을 담고 있을 때 신고가 가능하다. 넓게 보면 가짜뉴스도 포함될 수 있다"고 말했다. 이를 위해 인스타그램은 제 3자 팩트체크 기관에 협업하는 방안을 검토하고 있다. 한국 인스타그램도 올 12월까지 팩트체크 기관을 섭외할 계획이다. 

뉴튼 총괄은 안전한 플랫폼을 만들기 위해 여러 노력을 기울이고 있다고 밝혔다. 인스타그램은 폭력적인 이미지, 혐오 발언, 괴롭힘 등이 포함된 게시물을 허용하지 않는 커뮤니티 가이드라인을 지정했다. 인공지능(AI) 기술을 통해 자동 신고 기능을 도입해 가이드라인 위반 게시물을 찾아내면서, 인공지능이 가려낼 수 없는 애매한 콘텐츠를 심의하기 위한 전문 인력도 구성했다. 

뉴튼 총괄은 계정 삭제 정책을 강화했다고 밝혔다. 마약, 나체 사진 등 커뮤니티 규정을 위반하는 게시물을 반복적으로 올리면 계정이 삭제될 수 있다. 계정이 삭제되면 팔로워와 게시물 등을 잃게 된다. 

아울러 인스타그램은 자해, 자살 이미지 금지 정책을 강화하는 등의 정책을 펼치고 있다. 영국의 한 학생이 스스로 목숨을 끊기 전 인스타그램에서 자해 관련 단어를 검색한 것이 계기가 됐다. 뉴튼 총괄은 "쉽지 않은 결정이었다. 이용자가 고통을 표현하는 것이 스스로의 정신건강에는 도움이 될 수 있지만, 한편으로는 자해를 조장할 수 있기 때문에 허용할 수 없었다"고 말했다. 

그는 인스타그램에서 자해를 검색하면 자살방지사이트와 연결되는 팝업창을 띄운다고 설명했다. 그러나 한국 인스타그램에서 자해 관련 지원을 받기는 어려워 보였다. 인스타그램이 연결하는 지원사이트는 해외사이트인 데다 한국의 자살방지센터와는 연결되지 않아 실효성이 부족해 보였다. 이에 뉴튼 총괄은 "한국의 자살예방센터와 협력하고 있다. 한국의 현지 자원(센터 등)과 더 협력하도록 노력하겠다"고 말했다. 

저작권자 © 데일리임팩트 무단전재 및 재배포 금지