아이언맨의 AI비서 자비스? 현재 AI기술로는 '구현'이 어려운 이유 | 정인성 작가 #2 [투자Insight]

증시각도기TV
44 팔로워
2024. 8. 18.
- 촬영일 : 2024년 8월 6일
- 진행자 : 곽상준 (증시각도기TV 각도기)
- 게스트 : 정인성 ('반도체 제국의 미래', 'AI 혁명의 미래' 저자)
아이언맨에서 나오는 자비스 같은
녀석은 못 나와요이 기술로 이걸로
이거 지금 인공지능 기술은 자비스를
만드는 기술은
[음악]
아니에요음 자 그러면은 사실은 가장
그 경쟁자 중에 지금 유력한
정자들은이 말씀을 해줬고 이번에 실척
발표도 얘기가 나왔습니다만 AMD
mi300 같은 경우는 그 서버
채택률이 좀 늘어나고 있는 거 같아요
판매가 늘고 있는 거 같은데 인텔은
이번 실적에서 폭망을 했습니다 인텔은
그러면은 GPU 이런 걸 만들 기술이
없다고 봐야 되나요 아니요 인텔도
기술이 있죠 가우디 3 이런 건
나왔잖아요 근데이 누구한테 파냐
문제겠죠 지금 mi 300이나 아니면
그 인텔 가우디 같은게 개인들이나
조그만 스타트업에 팔릴 가능성은
솔직히 높진 않아요음 제가 조그만
스타트업이 인공지능으로 뭐 하고
싶은데네 그러면 인공지능 하는 사람
뽑겠죠 근데 인공지능 하는 사람은
솔직히 컴퓨터 전문가도 아니고 반도체
전문가도 아니에요 그냥 대학원에
있거나 박사 했거나 기존 구글 같은
데서 인공지능 코드만 만지던
사람이지네이 사람들은 사실 디아랑
AMD GPU 차이도 정확하게 구분
못할 가능성이 있어요음 그근데 제가
하고 싶은 인공지능이 그이 회사들이
빨리빨리
돌아가려면 일단 뽑은 인력을 최대한
굴려야 돼요 그러면 기존 GPU m
GP 비율을 도입해서 쓸 수밖에 없는
거죠음 그러니까 큰 회사들 위주로
비즈니스가 성공하면 침 매출 늘고
그거 잘 안 됐으면 GPU 매출
폭망하고 이런 식으로 나올 거예요
계속음 뭐 그렇게 보시면 돼요 이거는
네네네음 큰 회사들 중심으로 돌아가면
인텔은 계속해서 어렵다 아 인텔도 뭐
하다가 어디 하나 뚫으면 갑자기
가우디 매출 하고 올라가고 하겠죠
네네네 어 근데 서버 시장에서는
아무래도 대형사들의 중심이고 서버
시장에서 계속 밀리는 거 봐가지고
어려 아 그니까 그런 서버 단일 서버
대수로 파는 건 큰 의미가 없고요네
어떤 그 AI 하는 큰 고객이 어
우리 인텔 가우디 3 도입할 거야라고
해야 그때서 가우디 들어간 서버
발주가 들어가는 구조 거죠음 그러니까
서버 만드는 회사 이런데 의미가 없고
인공지능 학습시킬 회사가 중요한
거예요 예 그 회사들이 가우디 같은
칩에 적응할만큼 개발자가 있고 규모가
돼야 그런 사람들이 그 사람들 마음을
딱 잡아야 매출이 확내는 구조죠 그럼
지금으로는 좀 다친 거네요 상황이 뭐
좀 봐야죠 그 안에서 마케팅이 뭘
하고 있는지 모르니까음 우리가 이제
그러면 결국은 호퍼 든가 엔비디아에서
만든 거는 인공지능 관련 수퍼
컴퓨터고 그다음에 이제 클라우드나
이런 데서 뭐 어떤 뭐 연구소나 이런
데서 쓰여지는 건 따지고 보면은 그냥
일반 스퍼
컴퓨터아이콘 하는 것도 이종에
슈퍼컴퓨터 아닙니까 아 사실 컨셉은
똑같아요 우리가 인공지능 슈퍼컴이라고
부르지만 실제로는 과거에 IBM 같은
데가 만들던 슈퍼 컴퓨터보다 훨씬
느린 연결로 많이 연결한 컴퓨터들에
가까워요 그러니까 예를 들면 제가
아마존 클라우드에 있는 서버도 한
번에 한 1천개 정 뭐 그만큼 안
빌려 주겠지만 저한테 한번에 한 개
100개 정도 빌리면 걔네들도 슈퍼
컴퓨터처럼 엮을 수 있어요 어
아마존에 그런 거 해 줍니다 그 슈퍼
클러스터가 뭐 이런 이런 식으로
묶어주고 그 스토리지까지 다 묶어
줘요 SSD 어 제가 인공지능 하는
회사 예를 들 네이버 같은 데가
a00 이런 걸 도입해서 데이터
센터에가서 MV 링크로 연결하는 거랑
큰 차이 안납니다
실제네네네 이게 내 데이터 센터에
있냐 상대 데이터 센터에 있냐 차이인
거지 네네 이제 아마존은 거기서
컴퓨터 몇 개나 하나씩 빌려 주기도
할 뿐인 거죠음 예전 고객이 똑같이
스개 빌렸는데 어떤 고객가 하나하나
별개 엔지니어가 쓸 수도 있고음 다른
고객 똑같이 스무개 빌렸는데 컴퓨터
를이 고객은 개 엮어서 쓰려고 할
수도 있고 그래요음네네 아 그게 이제
깜짝 놀라는 거는 뭐 직접 사 가지고
그 우리 건물에다 설치하는게 아니라
온라인에서 그걸 다 쓸 수 있다는
거예요 그러니까 그게 클라우드 간의
그 기술 격차 실제로 단순히 단일
컴퓨터를 빌려 주는 거는 옛날에 우리
AI 한참 유행하기 전에 앱 만들 때
있죠네 그때는 컴퓨터끼리 엮는 기술이
그렇게 중요하지 않았어요 왜냐하면
그때는 우리가 앱을 만들면
컴퓨터 그 서버 하나도 앱 하나가 다
못 썩었고 그거를 여러 명한테 빌려
줬다고요 컴퓨터 하나를네네네 근데
지금 AI 같은 거는 반대예요 컴퓨터
여러 개를 엮어서 큰 거 학습시켜야
되죠 네네네 그래 놓으니까 이제
데이터 센터 잘 만들었냐 아니냐가 좀
중요합니다음 그러니까 데이터 센터를
잘 만들어 놓은 거는 연결을 쉽게 해
가지고 자기 컴퓨터 여러 개 뭐 나
천배 갖고 있어 하는 건데 그 중에
어이 친구 봐라 좀 많이 쓰려고 하네
그 이 정도 돈 받고 10개 묶어서
줘야지 100개 100개 붙여야지
이게이 되게 유연하게 잘 된다
말씀이시죠 예 그러니까 예를 들면
제가 GPU 서버 이제 한 100개를
엮어서 슈퍼컴을 만든다고 하면 일종에
얘네들 물리적으로 가까이 있어야
되겠죠음 그렇죠 왜냐하면 물리적으로
멀리 있으면 엮지 않는게 훨씬나요 그
서로 데이터 주고받는데 시간 너무
걸려서 그 물리적으로 서버들이 비슷한
자리에 있어야 된다는 의미겠죠 그런게
잘 안 되는 클라우드도 있어요 서버시
어 제가 그런 잘 안되는 클라우드에서
a00 서버 100개를 빌리면네 그냥
컴퓨터 본체 100개 산 거랑
똑같아요
이거는음 네트워크로 연결할 수 있는데
굉장히 느리겠죠 음음 근데 좀 큰
클라우드에 가면은 제 사용 목적에
맞춰 갖고 클러스터를 만들 수 있죠
어네네 그게 차이예요 야 진짜 듣다
보니까 클라우드 시장이
어마무시하구나 그러니까 그게 기술력이
클라우드의 어 우리가 이제 요구하는
건 점점 많아지잖아요음 프로그래밍
하는 쪽에서 요구하는 거 옛날엔 그냥
내 데이터 센터 없이 그냥 세이브로드
되는 걸로도 만족스러웠지만 이젠
컴퓨터간에 물리적인 거리도 가까운
것처럼 해 줘야 되고 실제 효율도
나와야 되고 되게 중요한 포인트예요
그러니까 마이크로 소프트라인 뭐 예를
들어 구글이라 그가 이런 회사들이 뭐
GPU 못 사서 안 다리고 뭐 사려고
노력하고 하는 것들이 연산해서
프로그램 만드는 것도 있지만 자기네가
자체 자기네 프로그램을 만드는 것도
있지만 그걸 빌려주는
예 사실 그 수요도 굉장히 커요네
이제 마이크로소프트가 우리가 깔아서
우리가 쓰지 하고 슈퍼 컴퓨터를
아예음 만들고 클라우드에 올리지
않아도 되죠 다 우리 건데 근데
말씀드렸듯이 조그만 회사들 이런
회사들 좀 달라요음 심지어 원래 그
그림 그리는 인공지능의 원조 스테이블
디퓨전 이죠네 여기도 다 클라우드로
해요 GPU 지금은 어떤지 모르겠는데
여기 데이터 센터 없이 했어요 그런
것들이 이제 데이터 센터로 연결되
있군요 사이즈가 커가지고가 예 아마
아마존 이런 거 쓰겠죠 당연히
왜냐하면 회사의 규모가 애매하면
데이터 센터를 만들 일력과 관리할
인력 자체가 너무 골치 아파요
그렇죠네 왜냐면 서버 하나 죽으면
가갖고 서버 다시 발주하고 넣고 뭐
프로그램 깔고 해야 되는데 클라우드를
쓰면은 그런 절차가 싹 없어져요음 그
컴퓨터를 예전 원래 상태로 돌리고
싶다 그러면요 클라우드는 제 딸깍 한
번 하면 포맷 대고 예를 들면요
컴퓨터에 내가 뭔가를 하고 싶잖아
잖아요 뭔가 까는데 문제가 생길 것
같죠음 그러면요 컴퓨터 전체를 그
게임 세이브로드 하듯이 세이브를 해
놓을 수도 있어요네 그다음에 다시
불러오게 하면 어 잘 안 되네고
불러오면 원래대로 돌아와요 컴퓨터
상태가음 아 우리 뭐 저기 문서
작성하다 저장키 누르면은 딱 그
저장되는 거 그런 똑같아요네 그런게
다 클라우드 비용에 녹아 있는 거죠
아 그렇구나 근데 이제 그 이번에
테스토 렌트가 hbm 안 쓰고 g
DDR 쓴다고 했습니다 그래서 야
이게 이렇게 되면은 진짜 hbm
하려고 25년도 하이닉스는 어마무시한
공장 20조를 들여서 투자하고 있는데
이거 잘못되는 거 아닌가 뭐 이런
생각도 드는데 좀 차이나 이런 것들을
좀 말씀 뭐 사실 그거 어떻게 보면
소수 접근 방식이 아아 삼성 마하
같은 것도 잘 보시면 lpddr 터보
lpddr t 이런 거 씁니다네 그
뭐 lpddr 다 대역폭 높지만
hbm 비할 건 아니에요음 왜 그런
걸 쓰겠어요 우리는 대역폭을 줄일
자식 있다 인코딩 뭐 압축 그
암호화하고 압축해서음 보내면은음
실제로 대역폭 덜 써도 된다 텐
스토렌 마찬가지예요 우리는 hbm
만큼의 대역폭이 필요 없을 거다라고
생각을 하는 거죠네 말씀드렸듯 아까
hbm 쓰는 GPU 좀 비효율이
존재하긴 해요 그 당근에 후추 뿌리고
볶는 것처럼 한번 할 때마다이 제한된
대역폭에 잡아먹고 있죠 그거를 덜 쓸
거라고 생각하기 때문에 네네 네
어떻게 보면 사용자한테 좀 부담을
던진
거죠음 gddr 사용할 수 있었던
거죠음 그런면도 불구하고 거대 언어
모델이나 이런 쪽으로 가려면 HB
거의 필수적이라고 봐야 되지 않을까요
용량만 맞고 우리가 예를 들면 한
실제로 hbm 지금 비디아 GPU
봤더니 거의 80에서 90% 덜어낼
수 있더라 이런 방식을 쓰면 그러면
없어도 되죠음 그거는 고객마다 좀씩
다를 거예요 어떤 고객들은 돌려보면
우리가 아무리 효율적으로 짜도 이거
이상은 메모리를 접근 안 하면 안
된다 이런 고객이면 hbm 달린
GPU 써야 돼요네 근데 고객이 지금
내가 대역폭을 100을 쓰고 있는데
이걸 까봤더니이 중에 990은 아까
말했던 당근 복고 후추 치는 거에
가깝더라음 이러면은 텐 스토렌 거
쓰면은 그 비용이 좀 낮아질 수 있죠
그럼 결국 그건 파라미터 숫자하고
연결된다고까 패러미터 숫자뿐만 아니라
그 패러미터를 어떻게 연산하고 몇 번
건드리냐 이게 좀 음 그 하여튼 많이
건드릴수록 hbm 이라든가 대역폭이
커진 수 수밖에 없다 예 여러 군데를
자주 건드릴수록 hbm이 필요하죠
그러니까 지금 사실 AI 기술 l&m
모델의 기술을 따지고 보면 정말
데이터를 무한에 가깝게 갖다 쏟아
보고 그걸 컴퓨팅 파워로 그 많은
양을 그냥 노가다 식으로 다 한꺼번에
읽어 갖고 정리를 하는 그런 거라고
봐야 되겠네요네 뭐 되게 어떻게 보면
우리 일상에서도 비효율이 많잖아요
돌려보면 음 예를 들면 우리 어떤
비서한테 일을
시키는데네 커피를이 손님 열명이
있어서 커피를 타오라고 시켰더니네 그
커피 한 잔 따르고 한 잔 갖고 오고
두 번째 커피 가져오고 세 번째 커피
가져오고 이런다고 생각해 보세요 그
이런 거 고치고 싶잖아요 텐스 토렌트
칩도 이제 메모리에서 그런 식으로
왔다 갔다 하는 걸 줄이고 한 번에
다 하지 요런 식으로 고치는 거예요음
그러면은 메모리에 덜 가도 되니까
왜냐하면 한번 들어온 데이터가 제가
지금 여기 데이터를 요만큼 패키지를
받아 왔어요음 그 내가 계산을 해
봤더니 GPU요 녀석을 스무번
건드려야 되더라 계산해 보니까네네네
근데 지금의 GPU 그래는요 녀석을
스무번 건드려야 되는데 읽어오기 한
번 한 번 건드리고 다시 쓰고네 또
가져오고 건드리고 쓰고 해서 메모리
읽기 20번 쓰기 스무번을 하더라음
이런 생각을 하는 거예요 그러니까 어
그러면 한 번 가져와서 스무번 다
건드리고 내보내면 되지음 이게 텐스
토렌트 접근인
지금 이게 사실이면 데어포 12로
줄일 수 있죠 어 원래는 제가 이거
무번 건드려야 되면 메모리에 일고
쓰기 스무번 연산 스무번 했는데 텐
스토렌 이거를 내가 스무번 쓸게
확실하다면요 치안에 두겠다는
거거든요음 그러면 당연히 그만큼
대역폭을 아끼겠습니다 그러면은 그
SD 램의 개수가 어마무시하게
많아지면 좀 빨라질 수 있겠네요 그
프로 어 그니까 예 그니까 램
그러니까 그
프로그램을 그 고정시켜 놓는 거를 이
컴퓨터에는 요거요 컴퓨터 아 컴퓨터를
붙일 수 있다 그랬잖아요 그 그
이더넷을 통해서 여러 개를 붙일 수
있다고 아 근데 물론 그 램 자체는요
제가 칩을 하나 놓으면 램은 칩
안에서만 빠르고 이거 이더넷으로
연결해 봤자 효율은 안 나와요 그래서
제가이 뭐 엔비디아 MV 링크도
마찬가지인데 GPU 여러 개 연결
하면요 그 특정 칩 안에 무엇을
넣을지도 되게 중요해요음 그러니까
칩과 칩을 이더넷 시가 MV 링크
연결 했으면 둘 사이 주 받는 건
최소화를 해야
됩니다음 그러니까 이렇게는 할 수
없어요 제가 여기 웜홀 두 개가 있고
둘을 이더넷으로 연결을 해 놨죠 제가
옆에 이더넷으로 연결된 녀석의
메모리를 내 것처럼 쓸 순 없어요
옆에 있는 애가 엄청 느립니다 그런
짓은 하면 안 되죠 어어 그렇구나 그
지금 뭐 프로그램이 할때 힘든 점
그럼 프로그램이 그냥 컴퓨터가 여러
개 10열 개 달려 있으면 열 개가
제 그 병렬로 따르게 들어가야
빨라지는 거지 하나 처리하고 하나
처리하고 하나 처리하고 하려면 이더넷
완전 꽉이네
대신에 이제 이더넷을 줬을 잘 써라
이런 거예요음 그까 이런 특징을 가진
칩이기 때문에요 특징에 맞춰서 너희가
잘 써야지 이런 겁니다 다 그래 MV
링크도 마찬가지예요 이더 넷보드
대역폭 이점은 있죠 대신에 MV 링크
자체가 칩에서 차지하는 면적이 좀
커요음 그리고 이제이 텐 스토렌 칩
같은 건 아까 그 메모리 가격은
느꼈잖아요 그 칩이 좀 클 가능성이
높아요음 이게 말씀드렸지만 최대한 칩
안에서 디램 접근 안 하고 할 수
있는 걸 다 하는 컨셉이잖아 칩이
처음에 gddr 한번 데이터
받아오면요 녀석 안에서 막 스무 번씩
핑핑핑핑 쳐 갖고 결과값을 딱 내놓는
조아요 그래도 칩 안의 용량 부족하면
램을 접근해야 되겠죠 그럼 그
접근해서 줄이는 법이 뭐야 램을
키우는 거죠 그렇죠 근데 램은 많이
비쌉니다 그렇죠 많이 비싸고 한 너무
비효율이 그 용량이 굉장히 적어요
그래서 제가
알기로이 칩이음 얘도 거의 일반
CPU 칩에 한 세 배 가까이 될
거예요 그 사이즈가 예 보통 우리가
만들 수 있는 칩의 크기가 800mm
정도 되거든요음 얜 근데 제품이
모르겠어요 제가 다른 제품과 헷갈린
건지 모르 거의 600mm 가까지
나오는 걸로 알아요 좀 많이 크죠
일반 GPU 칩보다 많이 큽니다
이게음 엔비디아 칩 중에 그 정도
크기 나오는 건 하이엔드 모델밖에
없어요 v00 a200 h00 이런
애들이 800 사이즈가 나와요음
왜냐면이 다이 사이즈를 아끼겠다고
너무 램을 줄이면음 결국 디램 적금
많이 해야 되잖아요 그러니까 램을
적게 쓰려고 다이를 키웠다고 봐도
되겠네요 어떤 측면에서는 그렇죠
그러니까 이런 제품들은 어떻게 보면
자신들이 생각했던 것다 인공지능이
너무 크게 발전해 버리면 되게 그
아플 수도 있어요 hbm 늘리는
것보다 훨씬 어렵거든요 어어 처리가
안 된다 자기 한도를 벗어나는 순간
안 들어가니까이 칩 두 개 웜홀 칩
예를 들면 두 개를 연결해서 써야
되는데 엔비디아는 hbm 쓰지만
판화로 들어갔더라 그러면 효율이
역전될 가능성 높아음 그렇구나 아
그런 그런게 열려 있군요 네네네 향후
그 gddr 운명과 그다음에 hbm
운명 어떻게
전개될까 저는 gddr 하던 거 잘
할 거라고 생각해요 사실은 대려
hbm 수요가 뭐 회사마다 두 세
배씩 예측이 차이나는게 문제죠
네네네 저는 이제 이건 되게 인공지는
어떻게 발전하 있냐에 따라 다른데 1
2년은 이미 수요가 정해져 있잖아요
r&d 페이지니 그렇죠 25년까지
이미 선 주문에서
끝났다네네데 저는 이제 뭐 올해 내년
중에 AI 좀 진짜 세상 바꿔
놓거나이 스마트폰이라는 물건의 용도
자체를 바꿔 놓을 레벨로 안 나오면
hbm 설치해 놓은 거 한참 써야 될
거 같아요 어 아 물건이 바뀌는게
핵심이에요 뭐 엔비디아 실적이
빅테크가 팩스를 하고 있는 이상
꺾이진 않겠죠음네네 근데 지금의
케펙스 수준이 계속 매해 늘어날 수
있는 스냐 고민을 해 봐야죠
최종적으로 누군가는 지갑을 열어서
돈을 넣어 줘야 그러니까 그 핵심은
그러면 이번에 이제 그 소비자들
단에서 주머니에 돈을 털어갈 수 있는
존재가 애플이 애플이 온디바이스 향의
어떤 식의 AI 만들어 낼지
모르겠지만 소비자향 AI 드디어
만드는 거잖아요 그게 무슨 AI
어시스턴트가 될지 뭐가 될지는 가봐야
알겠지만 근데 일단 요번에 나온 그
새로운 AI 좀 그렇죠 갸우뚱하고음
그렇게 새롭진 않았잖아요 솔직히음
그러면 그다음에 뭐가 나올 거냐 제가
이제 좀 확실히 말할 수 있는 건
우리가 아이언맨에서 나오는 자비스
같은 녀석은 못 나와요이 기술로
이걸로 이거 지금 인공지능 기술은
자비스를 만드는 기술은 아니에요음
예를 들면 지금 제가 이제 각도기
님을 만나면 저랑 옛날에 했던 대화들
이런 거 가끔 떠오르고 그렇죠 제
취향도 떠오르고 언제쯤 오지 다 기억
하고 있잖아요 지금 인공지능은
그렇게음 개인에 대한 기억을 가진
인공지능이 아니에요 그지 그러니까
진짜 의미로 맞춤형 비서가 될 수는
없죠 아 예를 들면 제가 음식점을
검색을 했는데 어 너 당뇨병 걸렸잖아
이건 먹지 마라고 할 수 있는
인공지능은 아니에요 그러니까 새로
그냥 소위 말하는 백가 사전을 매번
새 새 마음과 빈마음으로 백지에서 터
시작해 갖고 한 번에 쫙 백가 사전
읽어 갖고 답을 주는 거지 어 너
나한테 거 가고 이렇게 했으니까 나
그 기억을 다 갖고 있어 그걸 근
거로 찾아줄게 이게 안 된다는
거잖아네 그게 안 되죠 왜한테 아
그거는 지금 인공지능이 성공하기 위해
전략적으로 한 선택이에요 LM LM
LM뿐만 아니라 이제 힌튼 박사가
개발한 그 인공지능 학습 방식
자체가음 학습이 느린데 학습을 끝내면
굉장히 포텐셜이 높다라는 장점을 가진
거예요네 이제 7 80년대부터 계속
인공지능 연구를 했는데네 핵심은
인공지능 알고리즘이 얼마나 그
똑똑하냐 마나 하나 빨리 학습되는
였어요음 그 시절에 빨리 학습되는
인공지능 많았어요 그 KNN 이런 거
학습 시간이 빵 초예요 실제로는음 그
단점이 뭐예 아무것도 못 한다는
거죠음 그래서 이제 어 그런 건 좀
아니잖아 해서 쭉쭉 찾은게 지금 있는
인공지능인 이거 학습 속도가 너무
느립니다 그러니까 GPU 천개 만 개
엮어야 학습이 되는 거죠 그렇지
GPU 천개 만 개 엮어 갖고
데이터를 테라바이트 단위로 넣야
학습되는 애가 어떻게 저의 개인
기억을 콕 집어서 기억하겠어요 음 안
되죠음 저라는 사람에 대해 이해하기엔
제가 만든 데이터도 너무 적고네
심지어 저의 어떤 데이터를 본다고
해서 얘가 걸 콕 집어 기억한다는
보장도 없어요 지금 인공지는 학습이
어려운 점이고 저는 이제 이제 조금
벗어난 거지만 우리 인공지능의 학습
추론 얘기를 할 때 일상 언어랑
기술의 언어를
구분하기네 우리가 학습이라고 하면
제가 각도기 님한테 뭔가 말씀드리고
여기 시청자분들께 뭔가 말씀드리면음
아 이런 말을 했지 어 그런 거네라고
얘기를 하겠죠 근데 인공지능의 학습
지금 인공지능의 학습은 그런 건
아니에요 제가 백과 사전 뭐 수십만
개 분량이라 수 테라바이트 이미지를
넣으면 얘가 뭔가 능력은 오르는데음
제가 예를 들면 완전히 새로운 지식
딱 한 줄 정인성 뭐 키가 얼마다
이런 지식을 딱 한 줄 넣고 합접
시키잖아요 한 바퀴 그걸 기억한다
보장이 없어요 지금 학 데이터가 너무
작으니까 예를 들자면 그 뭐 정작
키가 몇 센다 이런 데이터가 수천만
개가 딱 있으면 인식을 하는 거죠
그거에 관련된 비슷한 거 뭐 이런
기사를 잔뜩 넣어 주면 인지하는데
제가요 요만큼 학습 데이터 있는 걸로
AI 하나
학습시키고음 동일한 데이터에가 제 키
한 줄만 넣고음 동일한 인공지
학습시키면 대답 판단 보장이 없어요
아 그니까 데이터 양이 너무 작기
때문에 예이 l&m이라는 건 데이터
양이 작으면 유효성이 있는 정답을 못
얘기해 주고 오히려 데이터가 많았을
때 그중에 뭐 중간값을 취한다가 유사
값을 취하는 좀 자주 봐야 돼요네
그러니까 인간마다 스마트폰의 사용
패턴이 다르잖아요 그렇죠 그니까
누구는 채팅에 많이 쓰고 누구는
유튜브 많이 보고 할 텐데음 그러면
제가 개인화된 인공지능 만들겠다고
학습 시켰을 때 제대로 기억한다는
보장이 없어요 아 그럼 이건
어떻습니까 l&m 어느 정도 되면은
그게 올라올 거잖아요 그럼 그거는
이미 한번 정재된 거니까 그다음에
이걸 가지고 인공지 돌리면 되게
빠르게 쉽게 뭐 연산 부하 없이
휙하고 나올 수 있지도 않을까요 아
근데 어차피 우리 엣지를 생각하는
거잖아요 여기 돌릴 수 있는 애
크기는 정해져 있죠 그렇죠 그렇게
좋은 놈이 들어가지도 않을 거고요
심지어 큰 녀석한테 던져도
마찬가지예요 얘가 제 기억이 없는
거는 그렇지 아무리 해도 바뀌지 않는
사실이에요 그렇지네네네 얘가 할 수
있는 건 단기 기억 조금 있는 거음
단기 기억 몇 천 단어 정도 그
안에서만 맥락을 찾을 수 있지음 근데
우리가 생각하는 뭐 나를 따라다니는
비서 이런 건 안 돼요 저는 되려
지금 AI 혁신 이 좀 더
지속되려면 랩탑이나 이런 데서 생산성
앱들이 좀 더 나와야 된다고 봐요
예를 들면 그 AI 하는 일 중에
기억력이 없어도 할 수 있는 일이
있어요음 예를 들면 제가 파워포인트를
잔뜩 만들어 놓는데 강연하고 이런
출연하니까 그 이런 거를 찾고 싶을
수 있어요 내가 예를 들면은 증시
각도 기에서 뭐 뭐지 그 gddr
얘기했던 PPT 뭐였지 이렇게
물어보면 파일을 다 읽으면서음 가
찾을 수 있죠 그렇죠 그런 쪽 위주로
뭔가 돌파구가 열려서 생산성 혁신을
해 주는게
맞지음 기대치는 어떻게 보면 좀
생각보다 낮을 수도 있어요이 AI
발전은 야 어떤 측면을 보면 지금
LM
모델이라는게 영어 무능이 계속 간다고
보장할 수가 없겠고 그렇게 되면은
컴퓨 만약에 LM이 길게 가면 갈수록
컴퓨팅 파워가 지나치가 많이 필요하고
사실은 상당한 비율이 지금 상황에
아까 말씀드린 그 기억을 잘하는
인공지능은 컴퓨터 파워랑 좀 무관하죠
예전 GPU 만 배 준다고 해서 그게
가능해지는 건 아니에요 그음 GPU
만 배 있으면 서버에서 학습은 만배
빠르겠죠 그 그래 봤자 여기서
돌아가는 애는 어차피 여기 있는
조그만 mpu 의존할 텐데 얘가
어떻게 내 기억을 하겠어요 못
하겠죠음 그러니까 그런 건 우리가 좀
항상 고민을 해 봐야 돼요음 과거에
80년도 그 IBM이 체스 인공 지능
만들었을 때도네 어 드디어 인간을
이겼네 했는데 체스에서 인간을이긴
다음에 한참
겨울이었어네 왜냐하면 어 체스에서
인간도 이겼어 바둑도 이기고 이렇게
했네 하는게 우리 많은 일반인들의
생각이에요 근데 사실은 기술에 이쪽에
절벽이 있는 거예요음 당시에 IBM
했던 인공지능은 거기까지 인공지능인
거죠 그러니까 그 지금의 인공지능도
그런 한계가 없을 거라고 생각하지
말라는 거죠 과거보다 훨씬 말도
잘하고 인간처럼 대답도 하지만음
그러니까 이게 계속 발전하다 보면
GPT 2는 별로였고 3는 엄청나고
포는 끝내주고 이미지까지 보니까음
파는 더 좋고 6에 가면은 드디어
터미네이터가 나오는 거 아니야 아닐
수도
있습니다음이 기술을 이루고 있는
기초적인 이론이 가지고 있는 한계가
있어요 LM이라는네 LM 말고 이거는
LM 이전에 80년된 아던 그 힌튼
박사의 역전파 인공지능 학습시키는
기본적인 방법 LM 사물인식 뭐 그림
그리는 인공지능 모두가 공유 하고
있는 학습 방식이에요 이거는 그
녀석이 갖고 있는 한계가 존재한다는
거죠 예네네네네 아 아주 중요한
얘기를 많이 해 주신 거 같습니다
굉장히 그 우리가 그동안에 항상 이런
걸 생각할 때 근원적인 생각을 안
하고또 잘 모르니까 남들이 이렇게 아
그런가 하고 이렇게 쭉 따라가게 되는
경우이 있는데 우리 정작가님 제가
이렇게 만날 때마다 깜짝깜짝 놀라는
건 근원적인 기술을 봤을 때 이게
어떻게 생각 흘러갈지에 대해서
근본적으로 고민해야 된다
그러면 이제 결국 핵심은 그거네 지금
우리가 이제 이제 지금 기술의 도정에
대해서 생각해 봤고이 도정의 한계점이
어떤 것인지도 우리가 지금 덕분에
이제 저희가 생각을 해 보게 됐는데
요거를 또 잘 쓰려면 여기다 인간이
뭔가를 딱 덧붙이는 것을 어떻게
기술화 키느 어떤 기업이 이것도 되게
중요하겠네요네 그렇죠 그거 하려면
지금 있는 오픈 데이터들로 안 되고
이제 자기들이 좀 가공하거나 그래야
될 거예요 이제 언어 모델 중심으로
그런 거 많이 하는 회사들이 보이기
시작해요 이제 해외에 사람들이 많이
해보고 결과가 나오면 그때 가서 AI
더 갈지 아닐지 알겠죠 그게 그러면
소위 말하는 킬러 앱이라 그가
애플리케이션으로 승화할 수 있는
겁니까 아니 그렇죠 예를 들면 제가
포토샵이 지금은 인공 지능에 딸깍딸깍
조금씩 이미지 바꿔
주는데음 아예 그 게임 일러스트로
쓸만큼 얘가 잘된다 예전 게임
일러스트로 쓴다는게 동일한 주인공
얼굴을 뭐 복장만 바꿔서 계속 그려줄
수 있다 그게 의외 안 돼요 잘
보시면 그 소라 같은 영상 만드는
인공지능도 보시면 막 사람이 생겼다가
막 배경으로 쓱 사라지고 그러죠 그거
해결하는게 많이 어렵거든요 네네네네
근데 그래서 마찬가지로 일러스트
그리는 그 인공 지능들 일러스트 다
잘 뽑는데네 동일한 캐릭터로 복장과
자세 뭐 나이 뭐 요런 거만 바꾸도
잘 안 돼요 그게 어렵습니다 사실
그런 거 근데 그런게 이제 데이터
문제가 훨씬 크기 때문에네 해결은 좀
힘들죠 해결하면 그런 것 들 이제
생산성 분야에서 킬러 앱이 되는
거죠음 그러면 이번에 이제 우리 이번
10월 달에 어
wwdc 얘기했던 애플의 인텔리전스가
10월 달이 되면 구체가 될
텐데 사실 이거 삼성 AI 비슷할
거예요음 지금 기술 수준은 그쪽에서는
둘이 차이 없다고 생각해요 저는 그냥
만듦새의 차이는 날 수 있는데음 애
들면요 정도는 할 수 있죠 그래도
LM이 발전하면서 옛날보다는 좀 짧은
맥락을 기억을 해요음 예전에 그
체포에 이런 것도 안 됐어요 예를
들면 오늘 날씨 어때음 말씀 어제는
이렇게 물어보면 그거를 대답 못
했어요 왜냐면 한 줄만 보거든요
어제는이라는 글자만 봐요음 그러면
갑자기 이제 AI 멋있는 어제는
어제는 어제는 어제는 한 건
예스터데이 예스 예스터데이를 도대체
어 7월 31일 어 뭘 물어본 거지
이렇게 된다는 얘기죠 근데 지금
LM은 앞에 있는 대화도 다눌 수
있죠 음음 위에 대화를
벗더니 오늘의 날씨가 뭐였지라고 해
어 어제는 물어보면 어제 날씨
있구나음 그렇지요 정도는 할 수 있죠
예 그래서 이제 기사 요약도 옛날보다
잘 되는 거잖아요 그게음네 딱고 정도
개선을 좀 더 어떻게 이쁘게 잘
붙인다 요렇게 나올 거예요음 왜냐면
지금 당장요 기계에 들어가는 AI
수준은 다 알아요 뻔하죠 애플도 8
빌리언이 정도 쓰겠죠 채치 피티 한
1분 정도 되는 거음 그러면 뭐 얘가
할 수 있는 능력은 뻔한 거 어어
그럼 안에서 이제 이제 소소한
이익들을 좀 줘야죠 우리가 폰을 쓸
때 옛날엔 폰을 열어서 키보드를
두드려야 되는데 두드릴 필요가 없게
좀 해
준다든지 혹은 방금 전에 했던 조작은
빠르게 취소해 준다든지 좀 그 정도
개선은 일어날 수 있다고 생각해요
저는 그럼 어떻게 보십니까 저는 이게
혁신적인게 아니고 조금만 사용 편하게
해주면 사람들의 얘기의 접근성 확
좋아질 수 있을 것 같아 예 전는
그래서 대려 이런 쪽에 만듦새를
인공지능으로 완전히 사람처럼 움직이는
비서를 한다 어떻게 한다기보다는
기존에 좀 원래
스마트폰을 쓰면 좋은데 너무 어려워서
못 쓰던 계층들의 스마트폰 보급을
늘리는 방향으로 시장 확장하는게 좋지
않나 예를 들면 어르신들 이런 쪽이죠
뭐 문자 앱 이런 것도 잘 몰라요
근데 예를 들면 증인 승희한테 뭐
보내라 이러면 이제 그렇게 보내주는
거죠음 예를 들어 뭐 저기 음악 좀
틀어 줘 이러면 음악 갑자기 구동
되고 뭐 이런 거 예를 들 그 음악
뭐냐 막 이런 어 어어 그럼 이제
컴퓨터 스마트폰 안에 있는 정보면
스마트폰 안에 찾아 갖고 그 음악
틀어주고 그 정도는 어떻게 갈 수
있겠죠음 음성 인식이라 그가 그
인터페이스 그러니까 입력 인터페이스의
전환까지 가능하다네 그렇게 보시는
거예요 어떻게 보면 옛날에 우리 그
인공지능 스피커 테 원했던 걸 훨씬
잘하는 정도 그 정도는 되지 않을까
오늘 좀 내용이 좀 어려웠을 수도
있을 것 같은데 우리 조금 칩
공부하고 또 그다음 사상 최대 난이도
아닐까 이게 지금 오늘 진짜
어려웠습니다 진짜 어렵고 그 우리 정
작가님이 얼마나 그 어 하드웨어에도
정통하지 소프트웨어에도 얼마나
정통하고 그 하드웨어와 소프트웨어
연결되어서 구동을 하는 부분에서
얼마나 정통한 분이신지 아는 그런
시간이 됐었고 그다음에 근본적으로
지금 엔비디아를 중심으로 만들어낸 그
AI 시장과 그것들이 방향성이 어떻게
갈지에 대한 뭐 또 다른 길들이 열릴
수 있다라는 거 그러니까 이거는
토대를 깔아 놓은 거고 테스토레들은
초대를 깔아놓고 이걸 더 키울 수
있느냐 그런 여부이고 그거 시간이
지나야 봐야 그게 구축이 되는지
여부가 확인되는 그런 내용이었습니다
그래서 어 단순하게 우리가 겉으로
봤을 때 어 뭐 GPU 경쟁자가
나왔어 뭐 이렇게 하면 해석이 안
된다는 거 보셨 보신 분들은 좀
이해가 되실 것 같고 그다음에 또 그
l&m 앞으로 미래가 우리가 그냥
생각하는 거 인공지능이 하면 막 마치
이제 곧 인공지 로보트가 나오겠어
하는 부분도 사실상 지금의 lmm
모델 가 기본적인 그 ln 모델을
깔고 있는 기초 어떤 과학 이론에
의하면 쉽지 않고 전혀 다른 리그가
펼쳐져야 이제 우리가 생각하는 사랑
같은 인공지능이 나온다라는 것도 오늘
배우게 대해 아주 귀 이렇게
생각하시면 좋아 로봇도 나올 수
있는데 로봇이 할 수 있는 일은 그
단기 기억 뭐 몇십초 정도 그 정도
작업들만 할 수 있다고 생각하시면 돼
단순 반복 작업은이 LM 모델에서 할
수 있는 거잖아요 예 류 같은 거예면
예를 들면 자율 주행은 왜 되겠어요
우리가 주행할 할 때 그 뭐 세네
시간짜리 주행 기억이 필요 없어서
그래요 왜냐하면 이렇게 생각하시면
돼요 자유주행 같은 거 왜 되냐음
저는 핸들 움직일 줄 알죠 엑셀 밟을
줄 알고 브레이크도 밟을 줄 알죠
내비게이션도 볼 줄 알아요 어떠냐면
이렇게 생각하시면 돼요 제가 인간인데
갑자기 자다가 눈을 떴더니 제가
운전대를 잡고 있는 거예요 그리고
저한테 10초만 운전을 하라는 거야음
10초 뒤에 딴 사람한테 맡길거다
그러면 전 내비게이션 보고 차선 보고
운전할 수 있죠 네네네 초마다 사람
교대하면 목적지 갈 수 있죠 네네
그런 건 지금 인공지능이 할 수
있어요음 음음네네네 근데 기억이 뭐
한 20년치 기억이 필요하다 이런
것들은 잘 못합니다네네네 예 어
도움이 되셨으리라 믿고 그 l&m
대한 마지막 설명은 LM 구조적 그
어떤 한계를 말씀해 주신 거다라고
보시면 되겠습니다네 오늘 귀한 시간
아주 좀 저는 개인적으로 아 저도
어려웠어요 저도 오늘 어려웠는데 어
어떤 어 밑그림을 그릴 수 있었던 거
같습니다 그래서 여러분들에게도 도움이
되셨으면 좋겠고 조금 전문가들은 더
신나는 시간이 아니었을까 싶습니다
오늘도 귀한 시간 만들어 주신 우리
정작가님께 감사드리고 함께 하신 모든
분들께도 감사드립니다 인사드리겠습니다
[음악]
고맙습니다 y
