오픈 AI 샘 올트먼 조심해야 합니다(ft. 박태웅의장 3부)

Jun's economy lab
231 팔로워
2024. 12. 20.
자기 개선이 가능해지는 순간 자기
복제가 가능해지는 순간 자기 학습이
가능해지는 순간을 AI 인간의 통제를
벗어나는 순간이라고 생각을 해요 근데
그 세 가지를 지금 다 하고 있죠
[음악]
예 안녕하세요 자 이번 시간에 저
오픈 AI 대해서 한 이야기를
나눠보도록 할 건데요 오픈 AI 요새
이야기가 말이 많더라고요 아주 말이
많죠 예 그래서 지금 뭐 어떤 문제가
있는지 혹시 좀 AI 대한 힌트를
찾아 있는게 있는지 여쭤보려고 합니다
그 오픈 AI 원래는 비영리 재단이
있어요네 이름을 오픈 AI 한 이유가
AI 이게 너무나 위험한 물건이다
특히 agi고 하지 않습니까 인간의
지능을 넘어서는 초인공지능 강
인공지능을 agi고 하는데 agi
하나의 기업이 소유하게 해선 안 된다
어 왜냐하면 그게 작동했을 때 그걸
멈출 수 있고 제재할 수 있어야
하는데 어떤 하나의 기업이 영리적인
목적으로 그걸 보유했다면 그걸
멈추겠다음 왜냐면 그 그 미국은
징벌적 배상제 같은게 있잖아요네 이걸
들키면 몇 조에 손해 배상을 해야
되면 망하지 않아요 그러면 숨기려고
할 거란 말이죠
그러니까를 어떤 하나의 기업이
소유하게 해선 안 된다 그래서 우리가
이걸 투명하게 공개적으로 인류를
위해서
개발하겠다라고 시작한 거예요 원래 예
그리고 오픈라는 비용이 재단이 있고
그 밑에 오픈 에라는 회사가 있어요음
개발하는데 돈이 필요하니까 펀딩을
받겠다 이렇게 해서 했는데 그서
초창기 어떤 약속을 했냐면 전체
자원의 20% AI 안전에 투자하겠다
AI 안전을 연구하는데 투자하겠다
그렇게 해서 세계 최고 AI
과학자들이 다 모였던 거예요 그 지금
엔트로픽 하고 있는 클로드는 그 AI
만든 엔트로피의 모데 남매 그리고
지금은 나갔지만 일리야 수스커버 그리
안드레이 카파티 뭐 그런 세계 최고의
AI 과학자들이 다 모인 거예요이
뜻이 너무 좋으니까음 그랬는데 샘
아트만이 점점 이상한 짓을 하는
거예요 그리고이 안전 팀이 예 오날
출근 해봤더니지가 없어 그니까
클라우드 할당 할당된 지표가 없는 거
야 이거 어디 갔어 아 저쪽에
서비스한테 급하다고 해서 그쪽으로
할당을 넘겼어요 야 그럼 나 어떡해
좀 기다려 주세요 이게 계속 반복이
된 거예요 그리고 점점 더
불투명해지고 사람들이 모르는 사이에
일이 막 진행이 되고 안전하지 않아서
오픈하면 안 된다고 하는 것도 막
오픈을 하고 그래서 그때 한번 쿠데타
있었잖아요 파이어 하는 근데 그때 그
쿠데타가 며칠 못 갔잖아요 며칠 못
갔던 이유가 나중에 드러났는데 주식을
가지고 위협을 음 그 나중에 그것도
드러났는데 네가 회사 가지 말라는
말을 하면네 주식을 다 뺏을 수
있다라는 조항을 아 다 집어넣고
그랬던 거죠 그게 들킨 거예요 그
퇴직자도 어떤 나쁜 말도 하면 안
된다 하는 순간 너희 주식은 무효가
된다 뭐 이런 거 사인 받고 그래서
이게 어떻게 드러났면 그 오픈
아이어에 근무하던 개발자가 나와서
트위트에 올린 거예요 내가 아내와
깊이 상의를 해봤다 근데 나는이
주식을 다 포기하더라도 내가 솔직하게
얘기 할 수밖에 없다 나는 이걸
얘기하는게 올바르다고 생각한다 그리고
지금까지 안전에 관한 약속들이 어떻게
다 폐기돼 왔고 내가 표를 뺏겨서
일을 못했고 이런 것들을 쭉 다 올린
거예요 트위터에 그러니까 그때서
양심의 가치을 느끼던 다른 AI 오픈
AI 있던 개발자들이 익명으로 막
얘기하기도 하고 막 그래서 결국 샘
알트만이 사과 설명을 냈어요 나는 한
번도 주식을 뺏은 적도 없고 앞으로도
뺏지 않을거다 그런 종류의 문서가
있었다는 것에 대해서 알지 못했다 뭐
어쩌고 저쩌고 유감을 표한다 그랬음
사실은 그 모든 문서에 마트만 소명이
있었어요 그러니까 그리고 이제 몇 달
지나서 수석 개발자 있던 일리아스
커버가 결국 나가고 뒤로 어서 줄줄줄
막 나온 거예요 그래서 지금 사실은
오픈 AI 개발 역량이 적어도 2
30% 이상 예 데미지 입었을
거다라고 저는 생각해요 그러면 그거
마이크로소프트가 AI 윤리 팀을
해고했다 뭐 이렇게 뉴스 들었는데
실제로 스마트만의
결정이었겠으나 자기들 서비스하고 막
결합시키고 그래서 그때 왜 빙 체이라
아네 네네 맞아요 내놨다가 그게 타로
폭주하는 바람에 막 굉장한 논란을
빚고 막 사람 스토킹하고 막 그랬던
적이 있어요 그러니까 충분히 검
검증하지 않은 걸 내놨던 거죠 아
급해서 그래서 윤리 팀이 계속 크게
딴지를 거니까 그 윤리 팀을 해체해
버렸던 거죠 그러면 제가 느끼는 거는
세 마트만이 뭐 대단한 사람이긴
하지만 뭔가 약간 저희가 봤을 때는
뭔가 좀 수상한 느낌이 좀 나거든요
저는 장사꾼이라 생각해요 아 그 그
장사꾼의 기지를 더 이상 숨기지
못하게 돼서음 결국 그 수퍼
개발자들이 다 떠난 거 아니냐 예
그게
[음악]
클로드로랭 로 성급하게 하는 걸 많이
보는데 가량 원 이번에 나온 원 그
추론 잘하면 원이 예전 같았으면 그
수준에서 공개하지 않았을 거라고 저는
생각해요 그러니까 좀 완성도가 좀
떨어지고 오히려 GPT 5 못
나오니까 너 일어난 거 아니야 이런
의심을 부르는 아 그니까 실제로도
알트만이 GPT 5은 당가 계획이
없다라고 발표 있잖아요 그래서 그이
생생 AI 개발이 어떤 고원에 달달한
거 아니냐라는 그 전망들이 많이
나오고 어젠가 그젠가 그 셀프 컴
CEO 그 생성 AI 개발한 명백히
고원에 도착했다 어 뭐 이렇게
발표하기도 하고 근데 이제 그
엔트로피는 무슨 소리냐 계속 발전하고
있다 이렇게 얘기하고 있고요 그
그래서 사실은 두고 봐야 됩니다
그리고 사스 커버도 그로 스케일
그러니까 규모의 법칙이 여전히
유효한데 올바른 것을 규모를 키우는게
굉장히 어느 때보다 중요해진 시점이다
이렇게 얘기를 해요 그 제가 볼 때
일라스 스 커버가 말하는 올바른 것은
고품질 학습 데이터 같아요음 그냥
늘려서는 안 되고 이제는고 품질 학습
데이터를 많이 넣어야 된다라는 뜻으로
말한게 아닌가 근데 지금은 그 명백히
고원에 도달했다는 의견이 반 여전히
규모의 법지 유효하다는 반일에
팽팽하게 있는데 어쨌든 성장이 조금
지체되고 있고 허들이 높아진 건 틀림
없는 거 같아요 그러면 GPT 5가
나와야 좀 이런 그 고원로 좀 사라질
수 있겠네요 그죠 아 그러니까 이게
체치 PT고 GPT 4하고 gpt4
터보하이핀
느껴졌 말이야 써보면 우와 좋아졌네
근데 여기서 우와 좋아졌네 하려면
GPT 5가 나와야 되거든요 근데 그
여기서 더 의하 좋아 전 해가 나올
수 있냐 그기에 대해서 절반이 아
지금 좀 당가 어려울 것 같다는 거고
절반은 무슨 소리냐 계속 좋아지고
있는데라는 건데 지금 보면 엔트로피의
클로드가 그 시장 점유를 계속
높여가고 있어요음 그 채치 피티가
많이 뺏기고 있습니다 아직은 1등인데
기업 시장에서 보면 클로드가 24%
아지 점유를 올렸거든요 엄청 커졌네요
그렇죠네 그 실제로 저 클로드를
메인으로 씁니다 아 그 정도로 예
그럼 제가 느끼는게 AI 쪽에서 그
아까 수석들이 많이 나갔다 했잖아요이
사람이 사람의 영향을 많이 받는
거예요 a 발전 속도가 그 좀 약간
수석급 있 사람들이 어디로 이동하느라
판도를 바꿀 정도로 그럼요 아
그러니까 사람들이 그냥 뭐
[음악]
트랜스포머라쳇 것들이 있어요 예를
들어서 그 채치 PT 5조의 문서를
때려다고 했잖아요 그 정도 대용량
데이터를 만장의 GPU 고르게
계산량을 고르게 할당을 해서 이게
중간에 안 멈추고 로스 없이 계속
돌아가게 만들려면 어마어마한
엔지니어링 그 있어야 되는 안 그러면
저도 못 돌려요 제가 그 누군가 AI
회사에서 하는 얘기를 들었는데 백이
제일 비싸잖아요 지금 h 100을
100장을 사 왔는데 20장 이상
동시에 돌리기 어렵더라 이런 얘기를
하는 걸 들었어요 그 회사는 AI
전문 회사라고 알려져 있는 회사인데도
그래요 그니까 100장을 동시에
돌리려면 그 h00 한장이 어마어마한
계산을 하잖아요 그 HB 다운 버전
같은 경우는 1초에 2경 계산을
하거든요 그러니까 저 a00 같은
경우 1초에 312 조번 더하기
빼기를 하잖아요 근데 그다음 버전이
1초에 2경 계산을 한단 말이죠
그러니까 얘를 백장을 놓고 데이터를
아주 고르게 그 컴퓨팅 양을 고르게
줘서 동시에 같이 돌아가게 만들고
그걸 다시 모으고 주고 모으고 주고
모고 주고 하는게 무자게 어려운 일
예술에 가까운 일인 거예요 그러니까
엔지니어 세계 최고 수준인 그
과학자가 한 명 빠져버리면 쿵 하는
거죠 아 그러니까 한국에서 네이버가
겨우 거대 AI 하고 있는 이유도
네이버는 대용량 분산 체리를
어마어마하게 많이 해 봤잖아요 검색을
하니까 그리고 뭐 카페니 블로그니 다
그 트래픽이 얼마나 많겠어요 메일
검색이란게 생각해 보시면 한 8억
개의 문서 뭐 5억개의 문서를 긁어
와서 그걸 다 인덱싱을 해 놓고
있다가 내가 어떤 단어를 집어넣어도
엔터만 치고 나오잖아요
음 그거는 거의 그거는 그 마법 같은
거예요 하락장의 문서를 갖고 와서
그거를 다 태깅을 하고 인덱싱을 해서
갖고 있다가 네가 어떤 단을 쳐도
네가 엔터 치면 내가 바로 결발 주마
와 그걸 레이버 하고 있는 거예요 그
정도 되니까 거대 AI 겨우겨우
따라가는 거예요음 그러니까 수석
과학자 뭐 세계 최고급의 수석
과학자가 다섯 명이 나갔다 허리가
부러지는 거예요 그게 수석 과학자
급이 뭐 저 AI 태동 기이다 보니까
몇 명 없을 거 아니에요 그렇죠 지금
뭐 우리가 늘리 알려지 데미스 사비스
일리아 커버 안드레이 카파티 뭐 이런
몇 명 있죠 그분들은 거의 신계의
영역에 있는 사람들을 봐야되는 거죠
그니까 그 욕심이 약간 과한 거
아니냐 샘 알트만의 욕심이 약간
회사의 앞길을 약간 흐리게 하고 있는
것 아닌가 하는 그런 느낌이 들어요
그래서 왜 왜 이거 여쭤 왔었냐는 세
아트만이 어떤 얘기를 했었냐
아시겠지만 그로 가려면 뭐 수년에서
10년 사이 정도 시간을 이렇게 뭐
보고 있는데 지금 가지고 있는
하드웨어로 agi 개발 가능하다
그러니까 이제 h 100이랑 h200
정도 얘기하는 거 같아요 그러면서
블랙에 없어도 가능한 거 아니냐라는
또 얘기들이 나와 가지고 또 어떻게
생각하시는지네 그 친구가 지금 걸로도
가능하다 하는 거는 10만장이 정요
그 마이크로프트 AS 클라우드 플랫폼
쓰는 거잖아요 거기에 10만 장 정도
있으면 그거로 말할 수 있죠 아
10만 장보다 훨씬 더 있을걸요 그죠
그죠네 그러니까 지금 하드웨어로
충분한 거죠 아 그 정도 있으면
물량으로
가능하다네 굳이 그니까 아 그 블랙이
있어야지만 되는게 아니라 어쨌든이
블랙은 더 효율 좋은 한 네배 정도
성능이 라더라 그요 그러니까 이제
이런 거니까 있으면 더 좋겠지만
없어도 양이 많으면 블랙이 아마
1초에
이경 계산할 거예요 그럼 agi
시대는 언제쯤 오실 거라 보세요 그게
그 과학자들 다 예측이 다른데 대체로
보면 가장 멀리 보는 사람이
2029년 어 빠르네요 생각보다네 그
세 말투만은 2026년이면
[음악]
저 테슬라 일런 머스크도 일론 머스크
원래 년이라 그랬다가 한에 더
좋더라고 그리고 그 제프 린턴 교수님
같은 경우가 진짜 저는 가장 신뢰할
만한 분이라고 생각하는데 번에 노벨
물리학상 받으시 그분도 2029년 아
그러면 대략 한 5년 정도 뒤에는
우리가를 볼 수 있지 않을까 그렇게
예측을 하시는 거죠 그래서에 대해서
아직 뭐 제가들은 걸로는 아직까지
정확한 정의가 내려진 것도 없다
그렇습니다 예 그러니까가 아티피셜
genal 인거 인공 일반 진행
번역하는데 그 전까지는 강
인공지능이라 그랬어요 인간의 지을
넘어서는 인공지능을 강 인공지능이라
그랬는데 3년쯤 전부터 갑자기 그
단어가 사라지고 전부 다 인공 일반
지원이라 불러요음 근데 특별한 이유가
없어요 안 적혀 있어요 제가 뭐
논문들 다 찾아보고 했는데 그걸
설명하는 글은 못 봤어요 그 제
짐작은 이런 거예요 그 인공지능이라고
했을 때 인류가 진흥에 대한 합의된
정의가 없습니다 갖고 있지 않아요
그리고 의식에 대해서도 합의된 정의가
없습니다 인간은 의식이 어떻게
발생하는지 몰라요 그러니까 강인공
지능이라고 했을 때 지능이 뭔데라고
얘기하면 아 몇 년도에 나온 어떤
논문에서 지능은 이렇게 정의하고
있는데 우린 그 정의를 따르겠다 뭐
이런고 시작할 수밖에 없거든요음
그런데 인공 일반 지능으로 정의를
바꿔서 부르기 시작하면 아주 좋은
점이 생겨요 뭐냐하면 지능의 모든
영역에서 인간의 진행을 넘어서는
진행이라고 정의를 했잖아요 그러니까
물리 올림피아드에서 몇 점 받았어
수학 올림피아드에서 몇 점 받았어
의사 자격 시험에서 몇 점 받았어
변호사 몇 점 받았어 이렇게 측정
가능한 어떤 걸로 바뀔 수가 있는
거죠 그러니까 인공 일반 지능이라고
고 하면 우리가 측정할 수 없는
추상적인 어떤 것을 얘기하는 대신에
각 부분에서 측정할 수 있는 어떤
개량할 수 있는 어떤 걸로 바뀌는
거죠음 그게 저는라 말을 쓰기 시작한
결정적 계기가 아닐까라고 생각하는
거고요 근데 그럼에도 불구하고 문제는
남는게 지금가 됐을 때 이게 인류에게
어떤 영향을 미칠 건가를 가지고
엄청난 강론을 받이 있잖아요 그
이유가 저는라는 개념의 태생적 한계
때문에 그렇다음 왜냐하면 부분의 합이
전체가 될 수 없어요 전체는 부분
합보다 크거든요 그러니까 제가 이제
자주 드는 얘가 수소와 산소를 아무리
들여다봐도게 물은 없는
거예요음 그러니까 이렇게 모호한
정의를 내렸기 때문에 agi 도달했을
때의 세상에 대해서 백이면 백이 다
다른 생각을 할 수밖에 없다 왜냐하면
정의 자체가 모하기 때문에음 그렇다고
생각합니다 그러면 아까 뭐 생성형
AI 고원 지대라 그랬잖아요 그러면여
여기서 개발하는 방식이랑를 개발하 는
방식이 다른 거네요 지금 그 그래서
이제 그 딜레마 중에 하나가 저는
오픈 AI 원이란 걸 내놓은 것에
있다고 생각하는데 자세히 보시면 최
GPT 예 GPT 4 GPT 4 터버
gpt4 오니 이렇게 GPT 계속
달고 나왔잖아요 그러서 갑자기 5원음
피를 안 달았어요 뭐냐면 얘는 곁까지
뜻이에요 그러니까 얘가 깊이 있는
추론을 하고 한 2 30초 뒤에 답을
내놓고 이렇게 했는데 일반 성능은
GPT 못 하는 거죠 아 왜냐면
추론에 특화해 그 말하자면 GPT
5가 되려면 51과 GPT 계열을
나이스하게 꼬맬 수 있어야 되는 거죠
그근데 아직은 꼬멜 방법을 못
찾았어요라는 그 실토 5원이
아니냐라고 저는 그렇게 불려지게
있다고 생각하는 거죠 그리고 제가
봤을 때는 이쪽은 강화 수리고 과연
이걸 정말 꼬맬 수 있을까 그래서
GPT 5는 아직 계획이 없다라고
얘기한게 아닐까라고 생각을 그래서
저도 이제 생각했던게 이게 생성형
AI 지금 방식대로 쭉 하면 계속
발전이 가는 걸 눈으로 받고이 가는게
맞는데 이거 agi이 방식대로 하는
구도로 가면 이게 도달하는게 맞는
건가 아니면 우리가 지금 하고 mvd
GPU 너무 의존하고 꼭 이걸 가지고
agi 만드는게 맞는 건가
말씀하신대로 이게 좀 방향성이 횡도
있고 종도 있을 건데 그래서이
방식으로 안 된다라고 강력하게
주장하는 그룹들도 있어요 아 있어요
예 그 페이스북에 야쿤 같은 분이
대표적인데 야 지금 그렇게 생청 AI
아무리 만들어 봐야 그걸로 h 못
까라고 주한 대표음 적인 과학자
뭐냐면 이분이 주장하는 건 이래요
지금 AI 학습하는 방식은 전부 간접
체험이다 남이 쓴 거 남이 본 거
남이들은 걸 가지고 학습을 하고 있지
않냐 그렇게 해서는 절대로 월드
모델을 가질 수가 없어 그이 세상이
어떻게 생겼고 이걸 물을 쏟으면
어떻게 되고 이걸 밀면 어떻게 되고음
그런 월드 모델을 가질 수가 없어
왜냐면 간접 처험 밖에 못 했으니까
그런 상황에서 월드 모델을 가질 수가
없는데 그 월드 모델이란게 바로 우리
상식의 기반을 이루는 거야 그러니까
AI 절대 상식을 가질 수가 없어
그래서 노콘이 주장하는 건 뭐냐면
ED AI AI 몸을 가져야 돼 아
직접 체험해야 돼 그 주장을 굉장히
강하게 하고 있어요 그 더 무서운데
더 무서운데 얼마 전에 페페리 교수가
그 그분도 AI 쪽에 대가인데 네스를
만드신 분인데 스페셜 AI 만들겠다
그 공간을 지각하는 AI 만들겠다
이게 그 얘기예요라고 발표하자 말자
그 몇 명 한 선명 톱티어 과학자를
모아서 발표하자 말자 회사 가치를 몇
조를 인정 받았어요 몇 닝을 받았어
그 그냥 말을 했는데 돈이 몇 천억이
들어오는 거죠 와 그만큼 최고 수준의
과학자의 가치가 큰 거예요 그래서
휴머노이드가 요새에 엄청 붐이아요 뭐
투자가 갑자기 이어지고 휴머노이드가
엄청 발전을 하고 일론 머스크가
테슬라의 오토 그 오토봇 픽시
발표하면서 막 휴머노이드 가지고 뭐
주수도 따라주고 뭐 생일 축하 노래도
부르고 막 그 이유가 인디드 AI이기
때문에 그거를 휴머노이드 부르는
것보다는 ED AI 부르는게 사실이
더 가까울 수 있어요 아 이게 실제로
로봇은 여러 가지지만이 로봇의 그
분해에 해당되는 거는 하나일 거
아니에요네 그게 다 클라우드로 연결돼
있으니까 그니까 그럼 전세계에 뭐
수십만대 뭐 수억 개의 로봇이
돌아다녀도 얘네가 다 경험을 하면서
하나로 모이는 거죠 뇌를 하나로 다
모아주니까 엄청난 경험을 하는 거네요
그게 이제 그걸 전의 학습이라고
하는데이
노이드 무서운 점이 그거예요 그러니까
뭐 구글의 알로아 같은 로봇이 있다
걔가 이제 모방 학습으로 뭐 동작을
기잖아 그러면 천대가 있어서 각각
하나씩 동작 켰다 그날 저녁에 모든
로봇이 천가지 동전 할 수
있겠 공유하니까 아 그 학습 속도가
엄청 학습 속도가 이렇게 올라가는
거야 예 인간과 로봇의 대결로 하면
따라갈 수 없는 속도가 될 거
아니에요 이렇게 그래서 제프 린턴
교수가 뭐라고 얘기하냐면 이제는
생물적 지능과 디스타일 지능이라는 두
개의 지능이 존재하게 됐는데이 지능은
자기가 배운 모든 것을 공유한다
그래서 우리가 그 속도를 따라갈
방법이 없다 그냥 완전히 다른 새로운
지능이 탄생했다는 것을 인정해야 한다
아 이렇게 얘기를 했어요 그러니까
이제 그런 위험한 순간들을 과학자들이
몇 가지를 얘기하는데 자기 개선이
가능해지는 순간 자기 복제가
가능해지는 순간 자기 학습이
가능해지는 순간을 AI 인간의 통제를
벗어나는 순간이라고 생각을 해요 근데
그 세 가지를 지금 다 하고 있죠
컴퓨터 코딩을 AI 하고 있잖아요 그
생산 라인 AI 들어가잖아요 예 그도
스마트 팩토리 물류로봇 다 그러니까
지금 재귀적인 그 흐름이 이미 시작이
된 거죠 그리고 또 하나의 문제가
있어요 이게 규모의 법칙 를
다르잖아요 그러니까 한 줌도 안 되는
슈퍼 엘리트들만 AI 대한 결정권을
갖고 있는 거예요 지금 그 몇백명이
인류의 미래를 좌지우지 않은 결정들을
다 내리고 있는 거죠음 그리고이
사람들이 우리는 AI 정말 윤리적으로
잘 개발하고 있어요라고 얘기하고
있지만 어떤 윤리를 가지고 가르치고
있는데라고 하면 대답하지 않아요
우리를 믿어 달라 우리는 착한
사람들이고 인간을 해치지 않는 윤리를
아주 제대로 가르쳐서 내놓고 있다
본인의 생각에서 옳다는 걸 넣겠죠
근데 그게 다른 사람 입에서 옳지 않
는 걸 수도 있는 거죠 그렇죠
그러니까 야이 한 줌도 안든 슈퍼
엘리트가 인류의 미래를 결정하게
두는게 오르냐이 친구들이 그러면
헷가닥 해버리면 어떡할 건데 그러니까
그 이런게 있어요 인류는 거대한
지능을 탄생시키기 위해서 필요한 부팅
프로그램이었다라고 말하는 과학자가
있어요 그럼 이제 디지털 지능이
그동안 생물학 지한테 수고했다 그렇죠
우리는 우주를 뒤덮을 만한 어마어마한
지능이 탄생하는 것을 돕기 위한 부팅
프로그램이었습니다 뿐이다라고 주장하는
과학자가 있어요 뭐지 시나리오대로
간다면 그런 말이 맞을 것 같아요
아니 그러니까 그 사람의 개인 신념이
그런 거는 관계 없는데 만약에 그런
사람들로 구성된 아 어떤 회사가 있다
그럼 인류 전체가 거기에 담보가
잡히는 거 아니에요 그러니까 위험한
거죠 아 그래서 인류 전체가 AI
대한 어떤 규제에 대한 합의를 해야
되는 시점인 거예요 그러니까 AI
회사들도 그렇게 얘기를 해요 그 국제
원자력기구 같은 국제 기구가
필요하다음 어 UN
같은데서 국제적인 합의를 통해서
규제를 만들어 음 그렇게 끊임없이
요구를 하는 척해요 요구를 하는
척하지만 막상 실제 규제가 나오면
반대합니다 단적인 얘가 얼마 전에
캘리포니아에서 AI 법을 만들었는데
그게요 학습 연산량이 10에 205
제곱을 넘어가는 초거대 AI 대상으로
하는 법이었네 그러니까 99%
과학자들 아무 관계가 없는 법이에요
그게 캘리포니 의회를 통과 하니까이
초거대 AI 회사들이 로비를 해
가지고 캘리포니 주지사가 거부권 행상
만들어버 그런 거예요 그러니까이
친구들이 말로는 우리가 정말
윤리적으로 개발하고 있습니다 그런기구
만들어 주세요 규제 만들어 주세요
해놓고 막상 나오면 로비 쓱 반대해
버리고요 그 얼마 전에 월스트 저널인
가에 그 기사가 실린 적 있는데이
초거대 it 회사들의 로비력이 그
총기 협회를 넘어서고 있다음 전
세계에서 가장 압도적인 로비력이 미국
총기협회 아아 그걸 넘어서고 있다는
기사를 했어 지금 거기다가 뭐 일로
모스크 터 시작해서 트럼프 주변인들이
또 이런 사람들이니까 다 그런 사람들
피터틸 뭐 먼스 그리고 이번에 부통
된 밴스 예 도와죠 예 또 피터틸
밑에 있었던 사람이에요 그 페이팔
마피아가 지금 트럼프를 거의 딱 쥐고
있는 거예요 예 그러면 당연히
통제보다는 자기들의 이익을 더
대변하는 정책이 더 나갈 수도 있을
거고 말씀하신게 더 약해 윤리성이 더
약해 수 있다는 거잖아요네 피터 틸이
그 가지고 있는 생각이이 사람이
공개적으로 말한게 뭐냐면 나는 정부에
대한 신뢰를 거 이상 갖지 못하고
있다음 뛰어난 소수의 it 회사들이
훨씬 더 운영을 잘할 수 있을 거라고
생각하는데 이걸 공식적으로 얘기한
사람이에요 그리고 이번에 일론머스크가
도지를 맡았아요 예 정부 뭐 개혁
어쩌고 얘기하고 있지만 사실은 미국
정부가 역사상 이렇게 약해진 적이
있냐 싶을 정도까지 저는 줄일 거라고
생각 왜냐면 피터 틸의 철학에 따르면
소수의 IT 기업이 세상을 바꿀
거니까 정부를 사실상 형해화할
수준까지 줄여 버릴 수도 있는 거죠
예 와 대변화가 나올 수도 있겠네요
이번에 예
저는 미국이 굉장한 변화를 겪게 될
건데 그게 좋은 방향일 거냐에
대해서는 저는 약간 회의적입니다
어떻게 보면 약간 디지털 메이지 유신
미국을 그걸 도전한 거잖아요 디지털이
체제를 바꿔 버리겠다 기존의
민주주의라 그가 이런 그 관료 제도를
다 디지털화하고 AI 해서 이거를 다
효율적으로 바꾼다는 명분이 한데이
과정에서 또 이제 아까 말한때 AI
제일 단점은 가장 정점에 있는
사람들이 권력을 쥐게 되더라 그럼
자기들이 권력을 쥐고 또 다음
대통령을 또 만들어 나갈 수도 있을
거고 그리고 가속 주의자들이 있거든요
가속주의 엑셀레이터 뭐 레이션인가 그
가속 주의라는게 있는데 이게 뭐냐
기술이 결 모든 걸 해결할 거다라는
확고한 믿음이에요 그래서 기술에 대한
어떤 규제도 악이다 그 가속 주인데
그 피터틸 등을 비 이런 사람들이
가속주의 쪽 철학을 갖고 있어요
그러니까이 고비를
없애겠다음 그런 흐름이 있는 거죠 아
지금 저 듣다 보니까 진짜 이게 AI
그냥 단순히 뭐 투자의 대상이 아니라
이거는 정말 세상을 바꾸는 어떻게
보면 시대의 또 하나의 물결 인 같
생 그렇습니다 예 이게 미디어가
나타날 때마다 세상을 엄청 바꿨거든요
pcga 세상을 바꾸고 인터넷 세상을
바꾸고 스마트폰이 세상을 바꿨는데 그
앞에 세 개하고 비교할 수 없는 세
미디어가 나왔죠 AI 아고 근데이
AI n 앞에 세계 합친 거보다 더
위력이 있을 것 같다라고 저는
생각합니다 걔네들은 그동안
소프트웨어에서 만들었지만 얘네들이
하드웨어까지 통제하는 소프트웨어는
거잖아요 우리 터미네이터에서 봤던 그
장면이 지금 계속이 현실화가 돼 가는
과정이다 보니까 다가 정말 한 줌도
안 되는 슈퍼 엘리트들이이 모든 걸
결정하고 있으니까 정말 위험한 거죠
그 슈퍼 엘리트들이 정치인도 아니고
그냥 어떻게 보면 하나의 이제 박사들
어떤 기업들 이렇게 된 거고 예전에
핵 같은 경우는 워낙 뭐 비슷한
과정이었지만 그래도 핵은 뭔가 되게
위험성이 크고 이걸로 인해서 경제적
이익이 막 큰 사업들은 아니었었다아요
뭐 할 수 있겠지만 AI 이거 가지고
돈 볼 수 있는 것도 너무 많으니까
아 말씀하신 대로 윤리성이 이런
국가의 통제를 받고 싶어하지 않는
상황이 된다죠 그렇죠 아 이제 정리가
됩니다 예 그러면 저희 마지막으로
이제 AI 시대에서 우리가 어떤 걸
좀 주의해야 되는지 좀 경각성을 좀
말씀해주시면 좋 것 같습니다 저는 그
사람들이 AI 리터러시를 가질 수
있도록 도와줘야 된다고 생각하고요
이게 뭔지는 알아야 토론을 할 거
아닙니까 그래서 AI 리터러시를 높일
수 있도록 교육을 하고 캠페인을 하고
알려주는 작업을 해야 된다 그다음에
AI 대한 합리적인 규제가 필요하다
그러니까 자동차 산업이 발전할 때
신호등과 횡단보도가 결정적인 역할을
했단 말이 말죠 신호등 횡단보도가
있었기 때문에 저 몇 토이나 되는
괴물이 도로를 질주하는 것을 인간이
용납 했단 말이죠 왜냐하면 걔가
빨간불일 때는 오지 않을 거다라는
확고한 믿음을 갖고 있으니까 개와의
공존을 인간이 선택한 것처럼 AI
인간을 해치지 않을 거라는 확고한
믿음을 줄 수 있는 합당한 규제가
필요하다 그거 없이는 AI 산업이
발전하는데 굉장한 자애가 될거다 그걸
합의를 하고 인류가 함께음 얘가
위험해지지
않도록음 규제해 가면서음 한점 나는
슈퍼 엘리트가 인류의 미래를 결정짓지
못하도록 견제해 가면서 이게 인류
전체의 공동 복지를 위해서 기능할 수
있도록 이끌면서 그렇게 가야 된다고
생각합니다 아 예 그 지금 내용 다
들어보니까 여러분도 이제 영상
보시면서 이해했던 거 같아요 책이
어떤 내용으로 들어 있나요 지금 제가
말씀드린게 여기 다 들어 있어 아
그래요 조금 남겨놨어요죠 아 아니요
그 훨씬 풍부하게 많이 들어 있으니까
이럴때 아까 그 피터 테일과 그
그룹들이 갖고 있는 사상들에 대해서도
여기 다 소 를 했는데 아마 그런 거
제대로 정리서 소개한 거는이 책이
거의 유일할 거라고 생각합니다 그럴
거 같아요 왜냐 저도 AI 책 많이
봤는데 그런 내용 제 못 못
들었었거든요 지금 말씀 뭐 효과적
이타주의 장기주 가속주의 그
트랜스휴머니즘 그런 것들이 지금
실리콘 밸리의 소수 슈퍼 엘리트들이
갖고 있는 사상들이 그든음 그러니까
우리가 그 친구들의 사상에 끌려가는
꼴이 되는 거예요음 그 사상의 자유가
없어지는 거죠 굉장히 위험한
순간이라고 생각합니다 혹시 뭐 피터
티랑 만나보신 적은 있으신 한번
만나시기 한번 따끔하게 하 그 팔란
티어라 회사 아시죠 알죠 알죠 거기
회장이 그게 국방 AI 접목시킨
회사잖아요 지금은 국방 외에 다른
영역에도 하고 있지만 AI 국방에
쓰는 압도적으로 쓰는 회사가 팔란티어
있죠 미국방부고 엄청난 규모의
프로젝을 하고 있고 거기서 얻던
노하우를 이제 다른 산업 분야에도
이렇게 적용해서 굉장한 돈을 벌고
있죠 예전에는 군산 복합 업체들이
이제 미국 정부와 좀 이거 커넥션으로
돈을 많이 벌었다면 이제는 이런
회사들이 되는 거고 예 머스크가
트위터에다가 F 35는 쓰레기다
네네네 드론이 더 낫다 이제 그이
방산 업체끼리 이제 신과 구가
나뉘어서 싸우는 시기가 되고 그
드론이 팔란티어 가는 거예요 아 지금
우크라이나의 그 드론들 가지고 굉장한
성과 내잖아요 그 뒤에 팔란 티어가
있어요 세상에 야 이게 시대 AI
모르면이 사람들이 왜 이런 메시지를
보낸지 이해가 안 되는 거예 그 그죠
다 이유가 있었던 겁니다 그러니까
트럼프가 아무게 정부가 있다 그래서
내가기에 제대로 못 했다라고 하잖아요
근데 제가 볼 때는이 암흑의 정부를
저 암흑의 정부가 대체해 가고 있다
결국은이 친구들한테 끌려다니는 일이
되지 않을까도 싶기도 하고 그런
그러니까 그 그런 마피아가 그냥
마피아가 바뀌는 거인 거죠이 AI
지금 어 우리 많이 경계도 해야
되지만 공부도 꼭 해야 된다 오늘
정말 소중한 시간 감사합니다 덕분에
정말 많이 배웠습니다 감사합니다
고맙습니다 예
[음악]
[박수]
[음악]
