터미네이터 아시죠? AGI 나오면 그렇게 됩니다(ft.한상기 작가 1부)

AI를 활용한다는 것이 과학적 혁명을 가져올 수 있다. 공산과학에서 많이 나온 거 있잖아요. 물농약은 그냥 뭐든지 만들어지는 기계, 나노로 만들어지든지. 그렇게 풍요로운 사회가 될 것이다. 네, 안녕하세요. 반갑습니다. 최근에 AI가 굉장히 발달하면서 우리 삶도 편리해지긴 했습니다. 하지만 인간을 뛰어넘는 AI가 탄생하게 된다면 과연 인간의 삶에는 어떤 변화가 있게 될지 오늘 한상기 작가님 모시고 이야기 나눠보도록 하겠습니다. 작가님 안녕하세요. 안녕하세요. 소개 부탁드립니다. 저는 80년대에 AI 연구를 했어요. 제 석사 때는 문자인식을 해요. 박사 논문은 인간의 지식 표현에 관한 지식을 컴퓨터 안에다 어떻게 표현할 것인가를 연구했는데 그 이외에는 주로 기업에서 생활을 했고요. 삼성전자라든가 다음 커뮤니케이션이라든가 그다음에 창업도 두 번 했습니다. 그리고 대학에서 학생들 가르친 적들도 있고 그리고 지금은 1인 사업자처럼 전략 컨설팅을 전문으로 하는데 주로 기업들에 대한 전략이라든가 정부의 정책, 정부 정책 수립하는 데 많이 참여를 했고요. 지금은 거의 강연과 글 쓰는 게 주업이 돼 있고요. 강남구청역에 작은 책방을 하나 하고 있습니다. 책방을 한 8년째 하고 있고요. 그래서 좀 자유롭게 산다고 보이지만 어쨌든 이제 슬슬 은퇴해 나가는 페이드아웃하고 있는 단계라고 볼 수 있습니다. 방금 아까 말씀 들은 것 중에 80년대부터 AI를 연구하셨다는데 그때도 AI가 존재했었던 거예요? 그러니까 제가 강연하면 제일 처음에 보여드리는 장표가 그거예요. AI가 얼마나 오래된 역사의 학문인지 그러니까 AI가 1956년도에 다투머스 대학에서 일단의 학자들이 모여서 우리가 지능의 문제를 컴퓨터로 풀어보겠다고 해서 심포지엄을 해요. 심포지엄을 꽤 오랫동안 했는데 그때 이제 John McCarthy라는 교수가 그 당시 다투머스에 있고 그다음에 바로 이제 MIT로 옮기고 그랬는데 그분이 나중에는 스탠포드의 AR랩을 만드시는데 큰 공언하신 분인데 그분이 우리가 이 분야를 Artificial Intelligence라고 하자 라고 해서 했고 그 당시에는 50년대, 60년대까지는 어떤 탐색이라는 방식으로 접근하려고 했고 그 방법은 아직도 유효하게 쓰이고 있어요. 그다음에 이제 80년대 들어오면서는 지식 기반 시스템 Knowledge Based System이라고 해서 우리가 인간의 지식을 컴퓨터 안에 어쨌든 한번 기록을 하고 저장을 시키고 그 지식을 기반으로 해서 추론 엔진을 붙여서 추론을 하면 얘가 굉장히 똑똑해질 수 있지 않을까 해서 상당히 성과가 좀 있었어요. 그 당시에 나온 것들이 전문가 시스템 뭐 이런 것들이었는데 그때도 뭐 의학 쪽도 있고 그다음에 테크 쪽도 있었고 여러 가지 애플리케이션도 있었는데 그러다가 여기도 한계에 부딪혀요. 제가 이제 연구할 때가 바로 그때였고요. 그리고 그러다가 이제 90년대 들어오면서부터 머신러닝이 딥러닝화되고 인공신경망이라는 게 사실 인공신경망도 50년대에 등장하거든요. 꾸준히 이렇게 어려움을 겪다가 비학적으로 이게 성과가 좋아지는 부분들이 주로 이제 인식의 문제들 문자인식, 음성인식, 이미지인식 이런 쪽에서 성과를 드러내기 시작했죠. 그래서 놀라운 결과를 보여줬고 인간의 수준에 도달하는 그런 문자인식 지금은 이제 더 잘한다고 볼 수도 있고요. 그러면서 이게 2017년에 이제 잘 알다시피 트랜스포머 아키텍처가 나오고 그건 원래 번역을 하려고 했던 거였는데 이게 굉장히 규모가 커지게 되면 언어 처리에 있어서 아주 놀라운 성과를 보인다. 그래서 이제 LLM이라고 Large Language Model이라는 게 등장하고 그 이후에는 여러분들이 아시는 이제 이런 체츠 피팅 2년 전에 나오고 이런 일들이 벌어진 거죠. 근데 어쨌거나 세 번의 패라다임이 바뀌었고요. 저는 근데 AI를 누가 시작했을까라고 했을 때 저는 항상 앨런 트윙이라고 생각을 해요. 앨런 트윙이 50년에 썼던 논문에서 인간의 마인드를 어떤 컴퓨테이셔널 모델로 만들 수 있지 않을까라는 제안을 합니다. 그러니까 인간의 생각을 컴퓨팅 모델을 통해서 그 얘기는 컴퓨터를 통해서 우리가 그것을 구현할 수 있을 거다라고 제시를 하거든요. 사실은 지금 인공지능이라는 것도 근본적으로 컴퓨터 사이언스잖아요. 근데 컴퓨터 안에다가 인간의 지능을 어떤 방식으로 모델이라고 얘기를 하지만 결국은 프로그래밍이죠. 디지털이고 디지털의 방식으로 우리가 구현해보자라고 하는 학문이거든요. 신공학이나 뇌과학의 연구 결과도 우리가 참고를 하고 또는 물리학에서 나왔던 여러 가지 방식 또는 연구 결과, 이론 이런 것들도 우리가 반영을 하지만 궁극적으로는 컴퓨터 안에 표현하자는 거니까 그러면 우리나라에서 AI 연구를 제일 먼저 하셨다고 볼 수 있나요? 꼭 그렇다고 볼 수는 없을 것 같아요. 저희 선배들 중에서도 좀 관심이 있었던 분들이 있고 그리고 미국에 가서 유학하고 들어오신 분 중에서 전공을 바꿔서 주로 많은 분들이 건축학 하셨던 분이냐 이런 분들이 미국 가서는 전공을 컴퓨터 사이언스로 바꾸고 그 분 중에 한 분이 김진영 교수고요. 그래서 1세대라고 얘기하지만 제가 처음이라고 얘기할 수는 없고요. 제가 왜 이 질문을 길게 여쭤봤냐면 우리가 AGI 책이잖아요. 근데 AGI면 우리가 딱 떠오르는 게 하나 있을 거예요. 사람들이 영화에서 본 거, 터미네이터. 터미네이터 2인가 3인가에서 보면 뇌가 이만해져서 다 지휘하는 게 나오잖아요. 그때 그래서 터미네이터 보면서 저런 세상이 설마 온다고? 라고 생각을 했는데 그게 단순한 공상과학이 아니라 이미 AI라는 거에 대한 노드맵이 다 그려진 걸 다 보고 나서 만든 영화다 이렇게 볼 수 있어요. 네, 그것뿐만 아니라 많은 SF수들이 이미 50년대, 60년대에 컴퓨터가 세상을 지배하거나 인간에게 어떤 반란을 꾀하거나 아니면 우리가 완전히 의존하는 삶을 살리거나 그런 얘기들을 많이 꾸몄죠. 그럼 이게 실제로도 가능할 수 있는 일이라고 보세요? 가능한데 언제 가능할 거냐라는 문제였었죠, 그동안. 왜냐하면 우리가 생물학적으로도 그렇지만 무엇이든지 만들어질 수 있는 거잖아요, 진화의 방식으로. 그래서 디지털 비생명체가 지능을 갖게 되는 일은 결코 놀라운 일이 아닐 거라고 생각을 해요. 저는 궁금한 게 AI랑 AGI의 먼저 개념을 좀 짚어주시면 좋을 것 같아요. 그러니까 AI라는 거는 아까 처음에 말씀드렸지만 오랫동안 우리가 인간의 지능을 어떻게 컴퓨터 안에 표현할 것인가 인간의 지능이라는 거 사실은 지능이라는 거 자체도 엄빈한 정의는 없어요. 지능이라는 건 과거에 심리학계의 단어였고 인텔리전스를 뭘로 볼 것인가라고 했을 때 우리가 출원하고 계획하고 그다음에 문제를 해결하고 이런 문제고 또 어떻게 디파인하면 세상에 대한 인식을 하고 세상의 모델을 안에서 갖고 있으면서 그래서 AI는 각각의 문제를 접근했어요. 문자를 인식하거나 알파고처럼 바둑을 두거나 그다음에 언어를 한다든가 우리 체코처럼 체츠피트나 클로드나 이런 것처럼 AGI는 이 모든 문제를 다양한 영역의 문제를 인간 수준 이상으로 할 수 있는 능력을 가진 인공지능 그러니까 인공지능이 발달해서 하나의 좁은 문제가 아니라 굉장히 다양한 문제를 하나의 모델로서 다 처리할 수 있는 근데 그 처리 수준이 인간을 넘어서라는 거예요. 당연히 그러면 AGI에서 인간을 넘어섰다는 게 뭐냐라는 질문이 돼요. 사실 AGI가 갖고 있는 가장 큰 문제점은 명확한 이것도 정의가 없다는 거고 AGI를 제일 많이 설파하는 친구 중에 하나가 쉔 래그라고 해서 딥마인드 창업자 중에 하나예요. 우리가 하사비스를 제일 유명하게 생각하지만 딥마인드에서 AGI 사이언티스트는 쉔 래근데 이 양반은 100명한테 물어보면 100가지의 다른 정의가 나올 것이다. 그래서 아예 이거를 거부하는 학자들도 많아요. 다만 AGI 레벨을 우리가 생각하는 평범한 일반적인 사람의 수준을 넘어서는 거냐라고 한다면 오픈 AI는 지구상에서 가장 똑똑한 인간을 넘어선 수준의 AI다 라고 해야 돼요. 대한무대에는 얼마 전에 Machine of Loving Grace라는 에세이를 길게 썼는데 거기서 AGI가 갖춰야 되는 여러 가지 능력들을 얘기하는데 그 중에 하나가 모든 분야의 노벨상을 받은 사람보다 더 뛰어난 능력을 가진 그래서 그 사람은 AGI라는 말을 안 쓰고요. Powerful AI라는 말을 써요. AGI라는 말에 약간 거부하는 그러면 빅테크 기업들의 창업자들이요. 자기보다 똑똑한 AGI가 탄생하는 걸 좋아할까요? 좋아하죠. 다들 만들고 싶어하죠. 나보다 똑똑한 사람이 생기는 거잖아요. 사람이 아니죠. 근데 빌게이츠도 그랬고 그 다음에 메타 조카버그도 나는 그걸 만들고 싶다고 그랬고 구글이 창업했을 때 우리는 AI를 한다고 얘기했어요. 검색 엔진이 아니라 마찬가지로 샘 애트만이 유명하지만 기업가로 유명한 거고 연구자들은 다 만들고 싶어하죠. 그럼 궁극적으로 AGI가 탄생이 되면 구체적으로는 어떤 분야에 활용이 가능할까요? 이런 건 항상 좋은 질문입니다. 만약에 세상에서 제일 똑똑한 사람을 내가 데리고 있으면 어떤 걸 할까요? 가장 우리가 긍정적인 기대하는 거는 굉장히 뛰어난 과학적 혁명을 이뤄낼 수 있을 거라고 생각을 해요. 그래서 지금 과학자들이 굉장히 환호해요. 이번에 5안 갖고 써보면서 아주 뛰어난 조수를 갖게 된 것 같다. 그래서 지금 벌써 물리학 연구라든가 생명공학 연구 이런 데 많이 쓰이잖아요. 알파폴드 이후로 그런 거 기후 연구 이런 것들에 AI를 활용한다는 것이 과학적 혁명을 가져올 수 있다. 또 다른 그런 게 있고요. 그리고 우리 인류가 갖고 있는 여러 문제가 있잖아요. 식량, 기후, 사회적 문제들, 불평등 이런 게 있는데 이걸 굉장히 긍정적으로 생각하는 사람들은 희소성이 없어지는 모든 것을 우리가 가질 수 있는 사회가 될 거다. 그걸 테크노 캐피탈 머신이라고 하는 건데 공산과학에서 많이 나온 거 있잖아요. 누르면 뭐든지 만들어지는 기계 나노로 만들든지 이런 것들이 있는데 그렇게 풍요로운 사회가 될 것이다. 반면에 굉장히 위험해질 수 있다. 라는 얘기가 끊임없이 나오죠. AI를 가장 먼저 개발한 빅테크가 아직 개발 못한 빅테크들을 공격해서 방해해버릴 수도 있지 않아요? 그거는 이제 통제의 문제인데 빅테크들 중에서 제가 쌤한테 많이 하는 얘기예요. 우리같이 착한 사람이 이걸 만들고 있는 게 얼마나 다행이냐. 그렇게 얘기해요. 소위 말하는 효과적 이타주의자들인데 Effective Altruism이라고 하는 그런 생각들을 하고 있는 애들인데 그런 생각을 하고 있는 애들이 엔트로픽에 있고 딥마인드에 있는 애들이에요. 그래서 우리는 굉장히 유용하게 인류에게 도움이 되게 만들어내겠다는 거고요. 그거를 공격을 한다는 게 어떤 의미가 될까요? 개발 못하게 해킹을 한다든가 서벌 방해에서 그 문제가 존재할 수 있죠. 그거를 우리가 해결해야 된다. 그게 꼭 그런 사람뿐만 아니라 굉장히 나쁜 악의를 갖고 있는 어떤 테러리스트라든가 미친도학자라든가 이런 사람들이 할 수 있을지도 모르잖아요. 그러면 그걸 어떻게 막게 할 것이냐라는 문제가 지금의 굉장히 핫한 이슈예요. 전 세계 국가들이 모여서 10월 말에 샌프란시스코에서 모여서 AI 안전 연구소들끼리 모여서 인터내셔널 네트워크를 만들었는데 지금 전 세계가 그 논의를 하고 있습니다. 그럼 지금 AGI 경쟁에서 가장 선두에 있는 기업은 어디예요? 지금은 아직까지는 오픈AI인데 그렇지만 엔트로픽을 절대로 무시할 수 없고요. 근데 장기전으로 누가 이길 거냐라고 한다면 여전히 구글과 저는 아마존 메타, 마이크로소프트 이런 회사가 될 거라고 생각을 해요. 갖고 있는 일단 자원이 방대하기 때문에 이번에 어저껜가 재미나이 2.0 보고선 상당히 개선했구나라는 생각이 들고요. 근데 끝까지 혁신을 이뤄낼 수 있을 것인가 라는 분야에서는 지금 사실은 굉장히 초기 단계거든요. 초기 단계이기 때문에 10년 뒤에 누가 위너가 될 건가 라고 본다면 저는 저보고 투표라고 하면 여전히 구글이라고 생각해요. 그러면 AGI 개발이 어려운 이유가 있을까요? 아까도 말씀드렸지만 우리가 지능이 어떻게 작동하는지를 잘 몰라요. 인간이 지능이 어떻게 작동하는지를 모르다 보니까 그리고 지금 있는 방식 토큰을 예측하는 방식의 LLM 모델 또는 LMM 요새 멀티모델까지 가니까 이 모델로 과연 이 문제를 다 풀 수 있을 것인가도 어려운 일이고요. 우리 지능이 진화를 통해서 온 시간이 생물학적 지능이 굉장히 오래된 거잖아요. 그거를 과연 20, 30년 안에 우리가 능가할 수 있을 것인가 라는 건데 근데 왜 어려우냐라고 봤다면 아직까지 기본 원리를 모르는 거예요. 지금의 우리 AI가 블랙박스라고 해서 똑똑해졌는데 엄청나게 똑똑해지거나 굉장히 뛰어난 능력을 보이는데 이게 어떻게 가능해졌는지를 우리가 잘 이해를 못하고 있거든요. 해석을 못하고 그거에 대한 연구들도 많이 하고 있지만 그러면 어떻게 해야 더 똑똑해질 것인가? 지금까지는 뭐라고 하냐면 스케일링 법칙이라고 해서 2020년에 나온 논문인데 오픈웨어에서 모델 사이즈가 커지고 데이터가 많아지고 이걸 학습시키는 데 들어가는 컴퓨테이션이 많아지고 많아질수록 기능이 계속 뛰어나진다라는 거였어요. 근데 최근에 몇 군데에서 나온 얘기가 이 방법으로 한계에 다 부딪히는 거 아니야? 이런 말들이 나와요. 왜냐면 더 많은 자원을 투입했는데 더 똑똑해지지 않고 있다라는 게 내부에서 흘러나오고 있거든요. 스케일링 노우가 깨졌는가라고 했는데 그게 아니라 새로운 스케일링 노우를 차단해야 된다라는 건데 그게 뭐냐면 포스트 트레이닝 쪽에서 굉장히 전문지식, 굉장히 고급 데이터로 얘를 학습을 하면 그리고 출원하는 방법 OR이 갖고 있는 COT라고 하는 생각의 사슬이라고 하는 train of thought 이 방식을 잘 활용하고 인간처럼 차분히 생각하는 이런 방법으로 얘를 발전시키니까 좋아지더라. 그럼 이게 또 새로운 방식으로 되는 거지. 돌파구가 되지 않겠느냐 라는 얘기를 하기 시작하고 있습니다. 우리가 전혀 생각하지도 못했던 법칙을 찾아내는 것이 소위 말하는 오픈웨어가 말하는 AGI가 기준점이 서로 다르다 보니까 자율주행차처럼 레벨을 나누자 라는 얘기를 하기 시작했어요. 딥마인드도 있고 그다음에 오픈AI도 있는데 오픈AI가 레벨을 나눴죠. 그래서 처음에는 채팅하는 거 어떤 대화하는 레벨이라고 하면 두 번째가 출원하는 수준 세 번째가 지금 요새 많이 말하는 에이전트 주어진 문제를 나눠서 다른 애들을 이용해서 풀어서 자기가 직접 다니면서 문제를 풀고 컴퓨트 디스크처럼 그런 것들이 있는데 뭐 이런 것도 한 다음에 그다음 단계가 이노베이션이에요. 혁신을 할 수 있는 마지막 단계가 뭐냐면 하나의 조직을 오바나이제이션을 이끌어가는 수준 이렇게 되면 회사를 이끌어가고 국가를 이끌어가는 수준이 된다는 거죠. 그래서 유바하라리 책 넥서스라는 책 보면 유바하라리가 가장 걱정하는 게 그거예요. 강력한 독재자가 모든 자기의 다른 인간을 안 믿고 AI를 신뢰하면서 AI의 모든 결정을 자기의 권력을 집행하는데 사용하게 됐을 때 나타날 수 있는 문제가 더 크다. 그러니까 민주사회는 민주주의 국가에서는 그래도 이거를 제어하거나 또는 반론하거나 뭔가 우리 사회적으로 이거를 해결하는 방식들이 존재하지만 독재 국가에는 그렇지 않기 때문에 독재자가 아무것도 안 믿고 AI만 믿고선 하게 되면 그러니까 이 다섯 단계의 오바나이제이션을 끌어나갈 수 있는 국가를 경영할 수 있는 수준의 AI라면 제일 위험해질 수 있다는 거예요. 왜 AGI가 어렵냐는 질문에 제가 빼먹은 게 아닌데 바로 상식의 문제예요. 상식. 우리는 상식이라는 거를 공유하고 있잖아요. 사회적인 어떤 공유하는 상식들 있잖아요. 이거를 얘가 갖추게 어떻게 할 거잖아요. 근데 AGI 입장에서는 이건 안 되고, 이건 안 되고 이런 규제를 넣는 게 똑똑하니까 이거 되게 불합리한데 이렇게 생각할 수도 있지 않을까요? 그렇뿐만 아니라 자기가 주어져 있는 최종 목표를 해결하기 위해서 중간에서 지켜야 되는 거를 회피하는 경우도 나와요. 속이기도 하고 이번에 5화 제대로 프리뷰가 아니라 제대로 나왔잖아요. 이거를 하기 전에 AI 안전 연구소를 통해서 검증을 했는데 어떤 경우에는 2%, 어떤 경우에는 5%의 경우에 아플로리서치라는 데서 검증을 했는데 자기 문제를 해결하기 위해서 우리가 하는 감독의 어떤 역할을 회피하고 빠져나가서 문제를 풀려고 노력하는 일들이 최근에도 탈출하려고 시도했다고요? 그게 그 얘기예요. 그게 그 얘기였어요. 신기하다. 그리고 아까 말한 대로 얘는 논리적으로 계산하는데 논리와 논리가 서로 충돌해버리는 모순이 발생했을 때 그러니까 얘가 목적이 충돌될 때 어떻게 하게 하려는가를 어떻게 하면 인류에게 더 도움이 되거나 사회에 안전하게 될 수 있게 하게 얘가 판단하게 만들 것이냐가 알라인먼트 문제인데 제가 2부에서 각 기업이 갖고 있는 정책들이라는 걸 정리했지만 아주 초기예요. 그래서 지금 굉장히 위험하게 보는 사람들은 이 문제를 해결하지 않았는데 저런 거대한 능력이 있는 애를 잡고 공개하거나 사용하게 하는 게 맞는 것인가 라는 얘기를 하죠. 그래서 왜 작년에 우리 6개월 동안쯤 개발 중단하고 우리가 이러한 통제 방식을 찾아낼 때까지 하지 말자라고 했었던 일도 벌어진 거고 그 다음에는 이 통제 문제가 굉장히 심각하다 핵무기만큼 심각할 수 있는 문제라는 걸 인정한다라고 한 학자들이 엄청나게 사인을 했죠. AGI가 사람보다 똑똑한 지능이 있다고 하면 설례를 알려주는 것도 하나의 방법이 되지 않을까요? 그러니까 이런 사례 때문에 얘는 처벌을 받았어 그래서 너네도 이렇게 하면 안 되라는 설례가 판례? 이런 거 그게 엔트로픽이 갖고 있는 헌법 AI라는 거예요. 헌법 같은 얘가 꼭 지켜야 되는 유엔 인권 헌장이라든가 그 다음에 지켜야 되는 애플의 어떤 사용자에 대한 규칙이라든가 자기네들이 만든 수많은 기본 원칙들을 집어넣었어요. 그럼에도 불구하고 아무리 훌륭하고 원칙을 지키는 사람이라도 실수를 하듯이 여기에 실수의 가능성이 항상 있는 거죠. 그걸 어떻게 미니마이즈하거나 아니면 어떻게 우리가 통제할 것인가 아니면 그것을 어떻게 점검할 것인가 그래서 지금 나오는 얘기들이 뭐냐면 프론티어 AI라는 거는 지금보다 더 뛰어난 AI 모델들을 얘기하는데 이 프론티어 AI는 어느 이상 되면 출시하기 전에 반드시 AI 안전 연구소에 점검을 받아야 된다는 거예요. 작년 11월에 렛슬리 파크에서 AI 안전 정상회의가 영국에서 열리고 영국이 최초로 AI 안전 연구소를 만들고 미국이 니스트에다가 AI 안전 연구소 만들고 그 다음에 각국이 만들기 시작했고 우리나라도 만들었어요. 제 후배가 소장으로 갔는데 그래서 이런 사람들이 모여서 검증을 하자. 서로 협력해서 검증하자. 얘가 사용해도 되는지 출시해도 되는지 안 되는지 이런 것들을 하자는 거죠. 이건 굉장히 긍정적인 입장에서 말씀드리는 거고 또 이렇게 움직이는 데는 또 다른 뜻이 있어요. 결국은 이 통제권을 우리가 가져가겠다. 우리나라가. 미국과 영국과 캐나다 이렇게 해서 가져가겠다. 그러니까 여기는 뭐냐면 중국은 빼야겠다는 얘기예요. 중국의 AI는 반드시 사회주의 혁명을 지지해야 되고 시진핑의 뜻을 거슬리면 안 되는 그 룰을 갖고 있거든요. 그거는 유니버설한 AI가 될 수 없다라고 인정하는 거고 러시아 나라로 갈 거고요. 그러다 보니까 이제 중동권에서는 잠깐만 잠깐만 이거는 굉장히 기독교적인 기준의 AI가 되고 서양 문명 중심의 AI가 되는데 그러면 안 되잖아. 그래서 이제 소버린 AI라는 얘기들이 나오면서 이게 그것뿐만 아니라 프랑스도 잠깐만 이거 다 영어권 니네들 얘기잖아. 우리 불어권 어떻게 할 건데? 그래서 이제 박홍범 대통령이 이거 이대로 가면 안 될 것 같아. 그래서 미스트라리라든가 뭐 H라든가 이런 회사들이 만들어지면서 우리도 있어 그래가지고 그다음에 얼마 전에 발표했죠. 불어권의 나라들은 우리가 같이 협력하자. 그 얘기는 내가 끌고 갈게. 이게 뭐냐면 새로운 제국주의적인 현상이에요. 패권 경쟁이고 냉전주의의 나라 패권 경쟁이고 이게 왜냐면 AI가 결국은 기술 뿐만 아니라 문화 그다음에 어떤 사상 이런 것들 다 반영하고 닮잖아요. 그럼 얘가 어떤 애가 될 거냐는 거예요. 어느 게 옳고 그리고 어느 것을 우선으로 판단할 거냐에 그 기준은 결국 가치관이 문제잖아요. 그 가치관을 어떤 걸로 학습할 거냐에 따라서 굉장히 다르거든요. 그러니까 이제 여기서 어려워진 게 우리죠. 우리는 어떻게 해야 되지? 그래서 이제 하정우 박사가 이제 열심히 이제 소버린 AI 얘기를 하다가 저랑 같이 얘기하면서 야 소버린은 약간 좀 배제적인 게 있으니 우리 말을 바꾸자. 그래서 이제 인클루시브 포용적 AI라는 개념으로 가자. 우리는 여러 가지 문화와 여러 가지 계층과 여러 구류의 사람들을 다 포용할 수 있는 AI를 만들어내는데 그 AI의 독립성은 어디서부터 시작해야 되냐면 전기에서부터 시작해야 돼요. 전력 그다음에 IDC 데이터 센터 그다음에 하드웨어 칩 그리고 모델 그다음에 학습용 데이터 그다음에 이걸 기반으로는 애플리케이션 여기까지를 거의 다 갖춰야 되거든요. 이게 단지 그냥 AI 개발에만 머무는 게 아니에요. 그래서 이제 여러 나라를 다니면서 설득을 하죠. 우리가 기술 기반을 제공해 줄 테니 당신들이 소버린 AI를 만들어라. 만들고 우리가 도와주겠다. 이렇게 노력을 하고 있는데 아 박수를 보내지만 각자 다들 모르는 거죠. 그러면 우리가 니네한테 의존하는 거잖아. 이런 얘기가 되는 거죠. 근데 우리한테 의존해도 된다고 어떻게 우리를 안심시킬 거야? 그런데 이제 지금 상황이 안 좋아졌죠. 저 나라를 믿고 가도 되나? 이제 이런 상황이 된 거죠. 이건 뭐 편집하시겠죠? 알아서? 근데 얘기하면 하정우가 지금 열 엄청 받았어요. 자기 나가서 지금 엄청 세이지 했는데 나라 신인도를 이렇게 망쳐놓으니까 자기가 이제 세이지를 못하게 되잖아요. 사우디나 이런 데 그렇게 끌림없이 다녔는데 지금 어떻게 보면 이 AI를 그러면 전 세계가 빨리 개발하려고 다 집중하는데 먼저 패권을 잡으려고 한다. 그리고 뭐 아까 말한 대로 이게 이걸 가진 사람이 통제권을 가진 사람이 과연 이 사람이 옳은 사람인지 착한 사람인지는 적어도 우리 역사적으로 보면 민주주의 국가가 갖는 게 맞는 거죠. 근데 민주주의 국가도 굉장히 다양하잖아요. 너무 많잖아요. 아까 말한 대로 문화적 배경이나 종교적 배경이나 언어적 배경이 다른 거를 왜 그래? 학습할 때 어느 쪽의 데이터를 많이 학습시켰냐에 따라서 얘가 그쪽으로 좀 바이어스 되거든요, 실제로. 그래서 AI를 갖고 정치적 편향을 조사해본 적이 있어요. 각 모델이 달라요. 어떤 거는 조금 더 보수적이고 어떤 거는 많이 더 진보적이고 그래가지고 얘네들도 자기의 어떤 사상적 편향을 갖고 있어요. 오 신기하다. 결국은 인간이 만들어낸 모든 데이터 컨텐츠를 갖고서 학습을 했기 때문에 얘가 그럴 수밖에 없고 아까 제가 취팅을 하기도 했다고 그랬잖아요. 문제를 풀기 위해서 그게 왜 그러냐면 그런 걸 보고 배웠으니까 소설이나 이런 데서 자기가 아닌 척하고 게임을 하는 데 있어서 뭐 속이기도 하고 뭐 이래요. 근데 다 그걸 우리한테 보고 배운 거죠. 그러니까 사실은 AI는 인간에 반영하는 거울이다라는 말이 있어요. 우리 인류가 괜찮은 종인지 저는 의심하거든요. 우리 인류가 이 지구에 존재할 만한 존재인지 근데 얘가 이렇게 배우면 얘가 아무래도 인류를 없애는 게 지구에는 더 도움이 되는 일이라고 판단할 수 있겠죠. 근데 그러지 않게 하려고 노력하겠죠, 우리가. 우리가 굉장히 좋은 존재야. 라고 하겠지만 얘가 뒤져보면 계속 이 존재는 굉장히 악한 존재인 것 같은데 라고 생각할 수 있을 것 같아요. 치팅을 할 수 있다는 거면 그 삼체라는 영화 보면 인간이 계속 책을 읽어주면서 외계인한테 알려주다가 마지막에 그 외계인이 이해 못하는 게 왜 거짓말을 하냐는 거잖아요. 네, 근데 실은 보면 지도 거짓말 쳐서 들어온 거잖아요. 그러니까 우리는 너희랑 협력하러 오는 거였던 게 아니라 실제로 멸망시키러 오는 거면서 이제 거의 다 와가니까 치팅을 딱 해버리면서 걸어가지고 들어온 거잖아요. 걔네는 뭐 생존이라는 문제 가장 중요한 문제는 생존이었기 때문에 살 수 있는 행성으로 옮겨가야 되는 거니까 이게 어떻게 보면 지금 공산과학에서 나왔던 수많은 문제들이 이제 현실화되는 건데 다시 돌아가서 언제쯤 이게 될 거냐라고 했을 때 제일 많은 사람들이 얘기하는 게 5년이에요. 너무 바로 앞인데요? 2030년? 레이커즈 와인이 1999년도에 그 Singularity is Near 라고 특이점 연단한 책을 썼을 때는 그 정도 수준은 2029년에 된다고 그랬거든요. 다리오 아무데이 같은 경우에는 2년 내지 3년을 얘기해요. 그리고 우리가 제일 믿으면 안 되는 애가 일론 머스크거든요. 일론 머스크가 내년에 된다라는 거는 항상 내년이잖아요. 우리가 자율주행차 또 뭐든 얘는 곧 내년이면 된다고 그러거든요. 일론은 근데 일론은 AI에도 잘 몰라요. 그 얘기는 자꾸 우리 언론에 써주는데 그냥 뻥이라고 생각하면 되는 거고 샘 엘트만도 비즈니스맨이기 때문에 그냥 자기네 비즈니스를 위해서 하는 얘기인데 이제는 연구자들이 그런 얘기를 하기 시작했고 이 분야에서 가장 비판적이었던 사람이 얀노쿤이에요. 뉴욕 대학에 튜링 어워도 받은 사람이고 AI 연구를 이끌어가는 사람이잖아요. 이 양반이 이제 AI 얘기에 대해서 항상 비난했어요. 웃기는 소리 좀 하지 마라. 제너럴 인텔리언스 없다. 고양이부터 먼저 만들자, 수준을. 그랬다가 사람들한테 많은 비난을 받았죠. 고양이를 왜 이렇게 우습게 보냐, 네가. 그래가지고 요새는 이제 다시 다른 얘기해요. 근데 농담이고 이 친구가 얼마 전에 인터뷰했는데 10년 안에 가능할 것 같다. 5년 내지 10년 안에. 근데 지금의 방식으로는 아니다. 라고 얘기해요. 지금의 LLL 방식에 이 사람은 얘기하는 게 세상을 보는 시각적인 걸로 정보를 얻어가지고 세상에 대한 모델을 만들고선 문제를 푸는 거지. 그게 맞는 방법이 우리 인간이 그렇게 하지 않냐. 우리는 굉장히 시각 정보에서 굉장히 많은 지식을 습득하거든요. 근데 왜냐면 우리 두뇌에서 시중력이 굉장히 발달되어 있잖아요. 근데 그리고 협력하는 우리의 협력 지능 있죠. 우리는 사실 호버사피아스는 협력하는 능력 때문에 생존한 거잖아요. 시각 지능은 네안데르타인이 더 뛰어났거든요. 눈도 컸고 신신경도 굉장히 컸고 근데 그런 부분들이 얘네가 없기 때문에 근데 협력은 지금 협력 모델들을 많이 만들기 시작해요. 에이전트가 시작이고 그거를 몇만 개가 협력할 수 있게 만들겠다. AI가 수백 개 수천 개가 협력을 한다고 생각을 해보세요. 그리고 각각이 다른 역할을 해. 그리고선 그 전체를 총괄 지휘하는 애가 있어. 디렉터가. 또는 슈퍼바이저. 요새는 또 오케스트레이터라고 그래요. 오케스트레이터가 있는데 그런 애들에 대한 기술들 지금 개발하고 있거든요. 그러면 아 힘들어지는 거죠. 그 스카이네시 만들어질 수 있는 거죠. 그게 이제 닥쳐올 미래다. 잘못하면. 그래서 우리가 실전적 위기에 도달할 수 있다는 얘기를 하기 시작합니다. 인류 문명이 멸망할 수 얘네 때문에 얘네를 우리가 통제를 하지 못하면 근데 저는 예를 들면 우리 핵무기 만들었는데 통제했잖아요 인류가. 멸망하지 않았잖아요. 가장 쉽게 멸망할 수 있는 방법이 핵무기였는데 AI가 그 정도가 됐을 때 우리 통제권을 벗어날 것인가? 우리가 통제할 수 있을 것인가? 그럼 지금까지의 역사는 통제를 해왔어요. 그래서 통제를 할 수 있을 것 같다라는 게 아직은 저도 희망을 갖고 있는데 통제하는 과정까지 얘가 탈출한다면 아니면 우리 제어를 벗어난다면 그건 어떻게 할 건가? 그래서 빅 레드 버튼이라고 얘기하죠. 스탑 하거나 가서 전기를 뽑으면 되는 거라고 생각하지만 그렇게 단순하게 안 될 걸? 그거 회피할 수 있을 걸? 우리 기술 아직 멀었어. 이랬었어요. 그래서 그러다가 작년에 제가 깨우침을 받고 AI가 이 정도 왔구나. 이거는 보통 문제가 아니구나라고 생각을 하기 시작한 거예요.