청소년 딥페이크 해결하려면…"AI, '현재' 통용되는 기술임을 인지해야"

[이데일리 김윤정 기자] “기성세대는 AI(인공지능)를 도입을 준비해야 할 미래 주제로 여기지만 아동·청소년들은 이미 일상적으로 이를 활용한다. 미래 기술로 치부하고 계획만 세울 게 아니라 ‘현재’ 기술임을 인지하고 당장 윤리 문제 등을 교육해야 한다.”

김명주 서울여대 정보보호학부 교수는 8일 이데일리와 인터뷰에서 이같이 강조했다. 10대들은 이미 일상에서 챗GPT와 같은 생성형 AI를 사용하고 있지만 정책을 입안하는 기성세대는 AI를 미래 기술로만 치부하는 간극 탓에 문제가 생긴다는 지적이다. 딥페이크 성범죄물 제작·유통이 청소년들에게까지 뻗친 것도 마찬가지 원인이다.

김명주 서울여대 정보보호학과 교수.

김 교수는 “15~16세까지는 전두엽이 발달하지 않아 도덕적 관념이 약하고 딥페이크가 범죄라고 생각하는 단계까지 나아가지 못하기 때문에 놀이로 인식하는 경우도 많다”고 분석했다. 이어 “윤리교육의 시작점은 역지사지인 만큼 상대 입장이 돼 볼 것을 강조하고 딥페이크 제작뿐 아니라 유통도 범죄임을 인식시키는 것이 필요하다”고 역설했다.

딥페이크 가해자·피해자 10대 비율 압도적이지만

‘AI 윤리 교육받았다’ 중고교생 10명 중 3명 그쳐

관련 범죄에서 가해자·피해자 모두 10대인 경우가 압도적이지만 AI 교육의 부실함은 통계로도 입증된다. 양부남 더불어민주당 의원실이 경찰청으로부터 제출받은 딥페이크 범죄 발생 현황 자료에 따르면 딥페이크 성범죄물 관련 혐의로 입건된 전체 피의자 중 10대가 차지하는 비중은 2021년 65.4%, 2022년 61.2%에서 2023년 75.8%로 계속해서 증가했다. 지난 1∼7월의 경우는 73.6%였다. 피해자도 10대인 경우가 많다. 10대 피해자 수는 2021년 53명, 2022년 81명, 2023년 181명으로 늘고 있다. 전체 피해자에서 10대가 차지하는 비율은 지난해 62%로 나타났다.

청소년 2명 중 1명은 생성형 AI를 이용한 경험이 있을 정도로 AI는 보편화된 기술이다. 한국청소년정책연구원이 지난 7~8월 중고교생 2261명을 대상으로 조사한 결과, ‘일상에서 생성형 AI를 이용한 적이 있다’고 답한 비율은 52.1%였다. 하지만 AI 관련 교육은 부실했다. 생성형 AI에 대한 교육을 받은 중고등학생은 3명 중 1명(35.7%)에 그쳤다. 연구진이 진행한 심층인터뷰에 참여한 한 중학생은 “딥페이크·디지털 범죄가 심각하다고 생각하지만 학교에서 예방 교육을 받아본 적이 없다”며 “한때 딥페이크에 관한 범죄 예방이 확 떴다가 말았던 적이 있는데, 이것이 심각한 문제라는 사실을 학생들한테 인지시켜줬으면 좋겠다”고 말했다.

“촉법소년 개념 아는 10대들…약한 처벌 인지

법적 처벌보다 실질 기능하는 ‘학폭위’ 강화해야”

그는 딥페이크 범죄에 연루될 경우 법적 처벌 가능성을 부각하기보다는 학교폭력대책심의위원회(학폭위) 처분이 있을 수 있다는 점을 강조해야 한다고 주장했다. 만 10세 미만인 범법소년, 10세 이상~14세 미만인 촉법소년은 법적 처분이 약할 수밖에 없다는 것을 아동·청소년들 스스로도 알고 있기 때문이다. 피해자·가해자가 학생인 딥페이크 사안의 경우 학교폭력으로 간주돼 학폭위가 이를 처리하게 되기에, 법적 처벌 대신 실질적인 기능을 할 수 있는 학폭위를 강화·활용해야 한다는 것이다.

학폭위가 가해학생에 내릴 수 있는 조치는 1호(서면사과), 2호(접촉·협박·보복 금지), 3호(학교봉사), 4호(사회봉사), 5호(특별교육 이수 또는 심리치료), 6호(출석정지), 7호(학급교체), 8호(전학), 9호(퇴학)로 나뉜다. 6~8호는 심각하거나 지속적이고 고의성이 짙은 중대한 학교폭력이라고 판단될 경우 내려지는 조치다.

이미 교육부도 학생들이 연관된 딥페이크 사안의 징계 수위를 고려할 때 피해 지속성·크기 등을 따지면 ‘중징계’ 처분이 불가피하다고 밝힌 바 있다. 김도형 교육부 학교폭력대책과장은 지난달 28일 ‘학교 딥페이크 대응 브리핑’에서 “학교폭력예방법은 학폭위를 통해 처벌 수위를 정하도록 하는데 학폭위는 객관적인 지표를 먼저 확인하도록 돼 있다”며 “이때 학폭위는 지속성, 고의성, 피해의 크기, 피해 회복 여부 등을 본다”고 했다. 이어 “딥페이크의 특성상 아주 고의적이고 피해가 클 가능성이 많다”며 “따라서 징계 수위도 당연히 높을 수밖에 없다고 판단할 수 있다”고 설명했다. 딥페이크 범죄로도 중징계가 가능하다는 의미다.

학폭위 처분 셀수록 오래 기록…‘퇴학’ 평생 간다

디지털 성범죄, 직접 해결하려다 ‘2차피해’ 우려도

일정 수준 이상 학폭위 조치는 학생부에 기재될 뿐만 아니라, 대학 입시에도 반영된다. 처분 수위가 높을수록 학생부 기록은 오래 보존되는데 8호 조치인 전학은 졸업 후 4년까지 남으며, 퇴학조치는 영원히 지울 수 없다. 올해 입시부터는 학폭 사항이 입시에도 대폭 반영된다. ‘학교폭력 근절 종합대책’에 따라 올해 진행되는 2025학년도 입시에서는 147개 대학이 학폭 사항을 자율 반영하기로 했으며, 올해 고2 학생들이 내년 응시할 2026학년도 입시부터는 모든 대학이 수시·정시를 포함한 모든 전형에 학폭 사항을 반영한다.

김 교수는 피해자 교육도 놓쳐선 안 된다고 강조했다. 딥페이크 피해자가 스스로 사진을 지우려 텔레그램에 접속했다 ‘2차 피해’가 발생하거나 또다른 범죄에 연루될 수 있어서다. 김 교수는 “자녀가 피해자가 될 것을 우려한 학부모가 불법합성물에 자녀가 나온 것이 있는지 직접 찾아볼 것을 권하는 경우도 있는데 이는 매우 위험하다”며 “불법합성물을 찾고 지우는 일은 공권력이 해야 할 일”이라고 목소리 높였다. 현재 여성가족부 산하의 ‘디지털성범죄 피해자 지원센터’가 이같은 역할을 한다. 불법 합성물·촬영물 삭제 지원뿐만 아니라, 디지털 성범죄 피해자를 대상으로 한 상담, 경찰 연계를 돕는다.

(사진=게티이미지코리아)