이번에는 40만 명?! 딥페이크 텔레방 '확인' [뉴시스 단독]

[음악] 뉴시스 단독 기사가 나왔습니다 최근 페이크 관련 공포가 확산되고 있는데이 또 다른 피해 가능성이 있는 대형 SNS 채팅방을 확인했습니다 이소식 취재한 사회부 임철 기자 연결하겠습니다 여보세요네 부임 처리 기자입니다네 이게 페이크 기술을 활용한이 불법 합성물을 만들어주는 뭐 이건 또 40만 명이나 되는 방을 확인했다고 소식 전해주시죠 기술이 탑재된 참여자 40만 명에 달하는 텔레그램 방이 운영된다는 저항을 저희가 포착했습니다 여성 사진을 넣으면 나체 사진으로 합성해주는 AI 기술이 적용된 방이었습니다 해당 초 알려졌던 22만 명 방보다 약 20만 명 많은 겁니다 아니이 방이 그러면 애초에 보도된 그 22만 명 방보다 훨씬 큰 규모네 그렇습니다 아 실제로 그 AI 어떻게 작동하는지 한번 주제를 해보셨나요 예 실제 제가 해당 채널 정 에이션 캐릭터 사진을 넣었더니 채 3초도 걸리지 않아서 캐릭터 얼굴에 나체 사진이 합성된 딥페이크 물이 제작됐습니다 그리고이 채널은 유료 수익 구조도 갖추고 있었는데요 650원이 채 안 되는 가격에 합성물 한 장을 얻을 수 있었습니다 두 장까지 무료로 사용할 수 있고 친구를 초대할 때마다 두 장을 추가로 만들 수 있었습니다 이용자 저변을 확대하려는 목적으로 풀이됩니다 그 일종의 그 AI 생성 공장이고 여기 이용자들이 들어와서 소액을 을 결제하면 이게 무료로 만들어 주는네 그렇습니다 아니 그러면은 실제로이 채팅방 40만 명이도 되는데 여기서 피해 사진이나 그 합성 사진 이런 것도 확인할 수 있었나요이 방이 개인이 들어와서 자신들이 합성물을 만들고 어이를 저장할 수 있는 방으로 이용자들 간의 어떤 공유는 이루어지고 있지 않았습니다 아네이 관련된 내용도 경찰에서 수사를 좀 들여다봐야 되 것같습니다 앞으로이 수사 기관이 페이크 수사 확대한다고 했는데 지금 어떻게 수사 진행 중인가요 현재는 서울 경찰정 사이버 범죄 수사대가이를 수사하고 있습니다 어이 같은 페이크 기술이 탑재된 텔레그램 방에 대한 내사에 들어간 상태고요 현재는 이런 텔레그램 방을 모두 발굴하는 한편 이에 맞는 조사 계획을 수립 법리 적용 등을 고심하고 있는 것으로 전해집니다 이와 별도로 경찰청도 오늘부터 내년 3월까지 7개월 동안 페이크 성범죄 특 단속을 실시합니다 경찰은 불법 합성물 제작부터 6까지 추적 검거하고 의자 등을 발본 세권 하겠다는 방침입니다 디트 탐지 소프트웨어를 활용한 분석과 국제공조 등 수사에 필요한 상항을 적극 지원하기로 했습니다네 그렇군요네 잘 들었습니다 예 감사합니다네 이번에는 또다른 단독 기사를 취재한 사회부 신섭 기자 연결하겠습니다 여보세요네 사신입니다 아니 가자 부모들이 증거 지우에 나섰다고요 어떤 소식인가요네 저희가 취재해 본 결과 디페에 대한 사회적 이슈가 커지자 미성년자인 중고등학교 가해자들의 부모들이 디지털 장의사의 증거 삭제를 의뢰하고 있는 것으로 파악됐습니다 이달 중순부터 관련 의뢰가 늘어나기 시작했고 피해자의 부모의 의뢰도 있었지만 오히려 가자 측의 의뢰가 더 많은 것으로 나타났습니다 이게 디지털 장의사에게 좀 생소한데 그게 뭔가요 디지털 장사인 적을 청소해주는 사 업체를 말합니다 원래는 사망한 고인의 인터넷 기록을 없애주는 온라인 상조회사의 성격이었습니다 하지만 디지털 성범죄가 늘어나면서 최근에는 사망하지 않은 당사자가 요청하는 사례가 늘어났고 그래서 이런 정보를 지우는 사례도 급증하고 있습니다네 경찰 수사가 확대되니이 증거를 멸하려고 관련 내을 삭제하고 뭐 이렇게 진행되는 것으로 보이는데 어떻게 보십니까 거 임은 아닙니다 3일 전부터 SNS 상에는 페이크 성범죄 가해자 정자로 명단이 이렇게 돌고 있습니다 실제 가해자들이 있을 수 있지만 범죄에 가담하지 않았는데 가해자로 오해를 받는 일부 피해 사례도 우려되고 있는 상황입니다 실제로 일부는 페이크 성범죄에 가담하지 않았다고 강하게 반박을 하고 있습니다 그래서 디지털 장의사를 통해이 가자 추정 명단을 지어달라 이런 의뢰가 지금 가장 많습니다 면에 실 가자 부모들의 의뢰도 있었습니다 가자의 학부모 중 한 분은 우리 아이가 유포한 것이 아니라 핸드폰을 분실했는데 페이크 불법 합성물이 유포했다며 디지털 장의사의 업체 의뢰를 요청했다고 합니다 업체들에 따르면 대체적으로 우리 아이는 피자가 아니라고 굳게 믿는 모습이었다고 했습니다네네 가해자 부모들이 증거 지우게 나섰다고 볼 수도 있는데 피해자들이 좀 디지털 장의사에 의뢰하는 그런 사건은 없었습니까 일부 있었지 지만 거의 없었다는게 사설 업체들의 일반적인 증언이었다 피해자들은 오히려 더 움추리고 숨기게 되는 더 성향이 강한 것 같습니다 그래서 오히려 SNS 비공개로 전환하고 자신의 SNS 상의 사진들도 내리고 있는 모습입니다 앞으로도 우리는 AI 시대에 살아야 할 텐데요이 디페이 같은 애 기술이이 성범죄 등 안 좋은 방향으로 이용되는 거 같아서 매우 우려스럽습니다 디페이 성착취물 제작은 이게 호기심어린 장난이 아니라 엄연한 범죄행위입니다이 점 청취자분들도 유의해 주셨으면 좋겠습니다네 지금까지 신앙 sub 기자였습니다