알아야하는 테크/ 지식/ 트렌드가 너~~~무 궁금하신가요? 그런데 물어볼 데가 마땅치 않으신가요? 늘 새로운 것을 배우고싶으신 ‘멋쟁이 엄마아빠들’을 위한 채널입니다! (자녀들도 환영인건 안비밀ㅎㅎ) 우리 어렸을 때 세상을 가르쳐주신 엄마아빠들께, 이제는 저희가 중요 포인트만 콕콕 찝어서 ‘다양한 주제’들을 ‘제일 쉽게’ 전해드리겠습니다! 궁금한 점들은 댓글로 달아주세요. 저희도 열심히 공부해서 최대한 대답해드릴게요^^ 엄마아빠들 화이팅!
안녕하세요. 유재석입니다.
제가 지금 그 엄마 내가 해줄게 촬영 현장에 나와있습니다.
또 많은 분들께서 이렇게 관심을 가져주고 계신데요.
너무 감사드리겠고요.
좀 어색하기도 하고 하지만 열심히 지금처럼 촬영을 하고 있고요.
앞으로도 많은 기대와 관심 부탁드리겠습니다.
한번 시작해볼까요?
아 이거 생각보다 힘든데요?
대박이죠?
오늘 저희가 다룰 주제는 전 세계를 걱정시키고 있는 딥페이크라는 기술입니다.
인공지능을 이용해서 한마디로 가짜 비디오를 만드는 기술이에요.
오늘 이 딥페이크에 대해서 간단하게 설명드리고
앞으로 어떤 걸 주의하고 어떻게 대처해야 될지에 대해서 같이 알아볼게요.
이 딥페이크 비디오에 관심이 있으신 엄마들 그리고 아빠들께서는
이 영상 뒷부분에 쿠키 영상을 참고해주세요.
저희가 어떻게 영상을 만들었는지 보여드릴게요.
먼저 저희 엄마 내가 알려줄게 채널에서는 부모님들께 복잡하고 긴 상식들을
간단하고 쉽게 풀어드리고 있습니다.
좋아요 구독 알람 눌러주시고 주변 분들께 추천도 많이 해주세요.
자 엄마 아빠 이런 속담이 있어요.
백문이 부려일견이다.
똑같은 속담이 영어로도 있습니다.
아니면
말 그대로 보는 게 믿는 것이다 라는 의미에요.
지금까지 우리는 보는 것만큼은 믿을 수가 있었습니다.
비디오라든지 녹취록 하나만 있으면 끝이었어요.
그렇게 살기 편리했던 세상이 지나가고 있습니다.
너무 극단적인가?
엄마 오바마 대통령 아시죠?
이 4개 중에 뭐가 진짠지 맞춰보실래요?
어때요? 아시겠나요?
정답은 모두 가짜입니다.
이미 있는 영상에 만들어진 가짜 영상이 끼워 맞춰진 거예요.
그럼 이거는요?
어때요? 이건 진짜 같나요?
이것도 사실 가짜입니다.
배우 입모양에다가 새 영상이 끼워 맞춰진 것 뿐이에요.
지난 몇 년 동안 이 비디오 합성, 영상 조작의 기술이 엄청난 발전을 하면서
우려의 목소리가 커지고 있습니다.
어우 소름 끼쳐. 이게 뭐야.
진짜보다 더 진짜 같아.
아니 왜 우리 사진 포샵은 굉장히 익숙하잖아요.
뭐 키 좀 커보이게 만들고 약간 좀 말라보이게 만들고
이런 건 조작이 아니라 보정이었지.
근데 영상은 그러기가 힘들었어요.
매 화면마다 사람이 움직이고 있다 보니까
조작, 아니 보정이 힘들었어요.
무슨 영화 제작할 때나 사용할 수 있는 기술이었지
우리가 사진 포샵하듯이 사용할 수 있는 쉬운 기술이 절대 아니었습니다.
근데 이제 그게 가능해졌어요.
이름하여 디페이크.
디페이크는 인공지능의 딥러닝과 가짜, 페이크를 합성한 단어입니다.
누가 영상 합성 기술 아니랄까봐 이름도 합성을 했네 그려.
굉장히 무섭고 걱정되는 기술입니다.
내가 원하는 사람 아무나 영상에다가 넣고
그 사람 목소리로 내가 원하는 말 할 수 있게
사실 그동안 우리 영화 같은 거 보면
실존하지 않는 사람이 등장하는 걸 많이 봐왔어요.
지금 보시는 이 장면은
몇 년 전에 스타워즈 영화에서 나온 캐릭터입니다.
이 캐릭터를 연기하셨던 배우가 돌아가셨기 때문에
다른 배우가 연기를 하고
그 위에 원래 배우 얼굴을 접목시킨 거래요.
진짜 사람 같죠?
근데 이런 것들은 영화사에서 정말 몇 년 동안
엄청난 돈, 시간, 기술을 투자해서 만든 거예요.
이 작업이 18개월이 걸렸대요.
세상에.
매 화면마다 수많은 작업이 들어가야 되다 보니까
이렇게 짧은 영상을 만드는데도 불구하고
그렇게 시간이 오래 걸리는 겁니다.
또 그래서 이런 걸 영화에서나 볼 수가 있었고요.
그런데 얼마 전부터 이 AI
특히 머신러닝 기술이 발전을 하면서
컴퓨터가 사진이랑 비디오를 이해할 수 있게 됐어요.
컴퓨터가 딱 사진이나 영상을 보고
아, 여기에 눈이 있고 코가 있고 입이 있으니
이거는 사람이구나를 이해하기 시작한 거예요.
혹시 이 AI, 인공지능이 뭔지 궁금하신 분들은
여기를 클릭해 주세요.
제가 다른 영상에서 설명해 드릴게요.
지금 보시는 장면은 몇 년 전에 발표된 실험 영상입니다.
왼쪽이 원본 사진이에요.
하얀색으로 여기 좀 바꿔줘 하면서 칠하면
컴퓨터가 오른쪽처럼 바꿔주는 거예요.
감쪽같죠?
컴퓨터가 사진을 인식을 하고
눈, 코, 주름, 각도 등등을 이해하고 바꾸는 거예요.
엄마 이런 거 많이 보셨죠?
컴퓨터가 사람의 얼굴 형태를 이해하기 때문에
사람이 움직이는 대로
저 귀여운 이미지들이 따라다닐 수 있는 거고요.
컴퓨터가 사람 얼굴을 어느 정도로 자세히 이해를 하기 시작했냐면
이 귀여운 꼬마 아이, 듬직한 청년
뭐 특이한 게 느껴지시나요?
여기 보시면 이 많은 사람들이
진짜 사람 같지만 사실은 실존하지 않는 사람들입니다.
그냥 컴퓨터가 만들어낸 사람 이미지예요.
여기 웹사이트 링크를 방문할 때마다
가짜 사람이 이렇게 만들어진대요.
대단하지 않나요?
너무 감쪽같아서 진짜 사람들 같잖아요.
이렇게까지 기술이 발전하다가
결국 얼마 전에 디페이 기술이 생겨나면서
컴퓨터가 어떤 영상에서
특정 얼굴만 바꿔 끼워 넣을 수 있게 된 겁니다.
그것도 엄청 자연스럽게
처음에는 좀 어색하게 시작했거든요.
그런데 이제는 영화에 넣어도 자연스러운 수준까지 왔어요.
물론 이제 눈썰미가 엄청 좋으신 분들은
이제 영상이 좀 뭔가 이상한데?
라는 거를 눈치챈다고 하시더라고요.
근데 엄마, 나 같은 사람이 보면
어, 그 사람 맞네. 이렇게 되는 거지.
게다가 지금 기술이 벌써 이 정도인데
몇 년 뒤에는 훨씬 더 진짜 같아지겠죠?
대체 어떻게 이런 기술이 가능한지
우리 영상 하나 보고 넘어갈게요.
여기 보이는 것처럼 원본 영상
그리고 바꾸고 싶은 영상
이 두 개를 컴퓨터 인공지능이 이해하고
합쳐서 새로운 가짜 영상이 만들어지는 겁니다.
어쨌든 이렇게 대단한 기술이
제일 먼저 어디서 사용이 되었을까요?
네, 야동입니다.
이 대단한 기술을 가지고
사람들이 연예인 얼굴 야동에다 갖다 붙이고
헤어진 여자친구나 남자친구
복수한다고 야동에다가 갖다 붙이고
그래서 사회적으로 많은 논란을 낳았고
결국 많은 회사들에서 이 조작된 영상들을 제재에 들어갔습니다.
하지만 그 이외에도
진짜보다 더 진짜같은 영상들이
굉장히 많은 이슈가 됐었어요.
좀 보여드릴게요.
자, 이거 미국의 한 코미디쇼에서
오바마 대통령과 트럼프 대통령을 흉내 낸 장면입니다.
이제 같은 장면을 딥페이크를 써서
진짜 대통령의 얼굴을 합성시킨 거예요.
이번 거는 힐러리 클린턴 거를 흉내 낸 거고요.
왼쪽이 진짜, 오른쪽이 가짜, 딥페이크입니다.
이번에는 러시아의 푸틴 대통령 모습입니다.
정말 감쪽같죠?
이건 테슬라의 창업자 일론 머스크를
007 제임스 본드 영화에 나온 것처럼 만든 가짜 영상이고
딥페이크 기술을 이용을 해서
정말 유명한 장면들의 다른 배우를 합성시키는
아주 재밌는 영상들이 많이 나왔습니다.
특히 탐 크루즈가 유독히 인기가 있어요.
이상하게
스파이더맨도 됐다가 아이어맨도 됐다가
와, 어디에 갖다 붙여도 잘생겼네요.
이건 오바마 대통령이 블랜펜서일 때
내 사무실에 톰 크루즈가 방문을 했습니다.
세상에, 당연히 뻥, 가짜 비디오입니다.
심지어 몸의 움직임도 합성을 할 수가 있어요.
이 몸치님을 브루노마스와 합성을 했더니
순식간에 댄스 가수가 돼버려요.
너무 무섭죠?
근데 여기다가 하나 더
아까 보여드렸던 것처럼 이 기술을 사용하기 위해서는
다양한 소스 사진이 필요합니다.
컴퓨터 입장에서 아, 이 사람이 이 사람이구나
를 알려면
이 사람에 대한 최대한 많은
사진들이나 소스가 필요했었어요.
당연히 이 사람의 얼굴에 대해서 보고 배워야 되니까
그런데 얼마 전에
러시아에 위치한 삼성 AI 연구소에서
발표한 기술은 사진 한 장만 가지고
영상을 만들어낼 수 있다고 합니다.
컴퓨터가 사진 한 장만으로도
얼굴 구조를 이해를 하고
가짜 영상을 만들어낼 수 있어요.
물론 사진이 더 많으면 더 정확하게 만들 수 있고요.
그래서 이제는 예전에 돌아가신 유명인들도
가짜 영상을 통해 움직이는 걸 볼 수 있고요.
뿐만 아니라 미술 작품에도 적용을 할 수가 있어요.
모나리자가 이제 움직여요.
대박
이젠 그 사람에 대한 비디오가 많이 필요하지도 않아진 거예요.
아유 뭐 영상, 얼굴은 그렇다 치더라도
목소리가 다르니까 당연히 가짜인 줄 알지?
싶으시죠?
이게 웬걸?
영상이 발전을 할 동안
음성 합성도 같이 발전을 했습니다.
지금 듣고 계신 이 트럼프 대통령의 목소리는
컴퓨터가 만들어낸 목소리입니다.
진짜 같아요.
이런 것들 때문에
사람들이 정말 많이 우려하고 있어요.
그리고 벌써 큰 범죄 시도가 3번이나 있었고
심지어 그 중에서 하나는 성공을 했대요.
영국에서 어떤 회사 CEO 목소리를 조작해가지고
하나로 약 100억 정도를 빼돌렸다고 합니다.
세상에 그 회사는 무슨 죄야?
이렇게 비디오나 오디오를 만들어낼 수 있으면
가장 걱정되는 부분은 사실 정치와 경제입니다.
정치나 경제뉴스는 약간씩만 바꿔도
엄청나게 큰 피해를 만들 수 있기 때문이에요.
특히 막 선거 같은 데에서 잘못 쓰이고 조작당하고
나는 그런 말을 한 적이 없는데
내가 그런 말을 한 영상이 막 돌아다녀.
많은 우려 속에 이제는
페이스북, 구글, 트위터, 마이크로소프트 등등
많은 테크 회사들이
이 가짜 영상을 선별해낼 수 있는 기술을 연구 중이라고 합니다.
참고로 현상금도 붙어있어요.
페이스북에서는 10밀리언 달러를 걸었대요.
참 이게 아이러니합니다.
한쪽에서는 이 기술을 만들어내려고 죽어라 연구 중이고
다른 한쪽에서는 이 기술을 막으려고 죽어라 연구 중이고
또 의외로 크게 우려되는 부분 중에 하나가
이제는 진짜 영상도 증거로 불충분할 수 있다는 거.
어떤 일에 대한 증거물로 영상을 남겼는데
상대쪽에서 어 그거 조작당 영상이야
라고 잡아떼면 이것도 또 큰 문제가 될 수가 있죠.
제가 너무 걱정되는 얘기만 했나요?
딥페이크가 아주 긍정적으로 사용된 예시도 제가 찾아봤습니다.
아주 열심히
미국 플로리다 주에 있는 달리 박물관에서는
이미 고인이신 아티스트 살바도르 달리의 모습을
딥페이크로 재구현했습니다.
살바도르 달리가 영상으로 방문객들을 이렇게 맞이한대요.
달리가 자기 작품들을 직접 설명하기도 하고
방문객과 사진도 같이 찍어준대요.
스페인 사람인데 어우 영어 아주 잘하세요.
몸을 움직일 수 없는 장애를 가진 분들이
컴퓨터 인공지능으로 자기만의 신호를 저장해두면
컴퓨터가 대신 말이나 표현을 할 수 있게 합니다.
참 훈훈하지만 그래도 걱정이 먼저 되는 건 어쩔 수가 없네요.
와 이제는 뭘 봐도 뭘 들어도 믿을 수가 없겠구나 싶으시죠?
맞아요. 제가 지금까지 다뤘던 미래 기술들 중에서
이 딥페이크만큼 걱정되고 무서웠던 주제는 없었던 것 같아요.
근데 또 생각해보면 저희는 이미 복잡하고
서로 믿기 힘든 세상에 살고 있는 것 같아요.
누군가의 말꼬리를 물고 잡아 늘어진다든지
상대방을 끌어내려고 무조건 한 단어에 집착을 한다든지
제가 하는 말은 무조건 다 싫다든지
그리고 뭐 가짜 뉴스, 과장된 뉴스
사실이 아닌 정보들은 이미 넘쳐나고 있는 것 같아요.
사실 아기만 있으면 이런 뭐 루머 퍼뜨리는 거는
이런 대단한 기술이 아니어도 순식간이죠.
예를 들어서 이 영상은 미국의 한 정치가의 인터뷰를
그냥 살짝 느리게 해서 술 취한 채 인터뷰한 것처럼 퍼뜨렸어요.
이렇게 의도가 나쁘면 원래부터 정보 조작은 쉬웠어요.
그러니까 이제부터는 그 사람이 그 말을 했으니까
그 사람이 그 영상에 나왔으니까
쟤는 저런 사람이야 라고 판단을 내려버리기보다
그 사람이라는 자체, 그 사람 행보 전체를 보려는
열린 마음을 갖는 게 중요한 것 같습니다.
또 시민을 대표해서 정보의 정확성을 중요시하고
사실관계를 알리려는 언론의 역할도 크겠고요.
참고로 미국 캘리포니아에서는 최근에 이런 법이 만들어졌어요.
선거 60일 전부터 특정 정치인을 깎아내리려는 의도로
만든 가짜 비디오나 오디오가 불법이 되었습니다.
물론 이게 충분한 제도는 아니겠지만 시작 단계죠.
새롭게 나온 기술들을 조심할 수 있도록
교율과 제도가 시급히 만들어졌으면 좋겠습니다.
오늘 이렇게 깜짝 출연해주신 윤훈님 감사드립니다.
저희가 예시를 만들려고 누구로 해야 되나 고민을 하다가
저희 가족이 모두가 윤훈님 팬이거든요.
그래서 이렇게 억지로 출연을 해주셨습니다.
악의는 없으니 이해해주세요.
저는 여기까지 하고 다음에 궁금한 거 가지고 또 올게요.
안녕