GPU와 인공지능. 엔비디아 2023년 주가 폭등의 이유
엔비디아(NVIDIA)는 그래픽 카드를 만드는 회사입니다. 이 회사의 주식이 2023년 폭등하고 있는데요. 이번 포스팅에서는 엔비디아 2023년 주가 폭등의 이유를 GPU와 인공지능의 관점에서 살펴보겠습니다. GPU가 무엇인지, 인공지능 시대에 엔비디아가 구축한 생태계가 어떻게 작동하고 있는지를 이해하는 것이 이 포스팅의 목적입니다.
글의 순서
2023년 엔비디아 주가 폭등
그래픽 카드, GPU (graphics processing unit)
엔비디아 GPU의 기회
GPU 병렬계산
GPU와 인공지능
엔비디아 GPU와 인공지능
엔비디아 GPU와 인공지능의 핵심 CUDA
쿠다(CUDA)는 엔비디아 CEO 젠슨황의 업적
CUDA 생태계와 엔비디아 주가 폭등의 주요 이유
2023년 엔비디아 주가 폭등
엔비디아 2023년 주가는 1월3일 143달러였는데, 8월23일 오후 5시에 511.6달러를 찍었습니다. 무려 257%의 폭등입니다. HSBC는 엔비디아에 대한 목표주가를 기존 600달러(약 80만5020원)에서 30% 올린 780달러(약 104만5200원)로 제시하기도 했습니다.
엔비디아 주식은 왜 이렇게 뛰는 것일까요? 엔비다아의 시가총액은 1.14조 달러, 순이익은 23년 회계 2분기(7월 종료) 기준 61.88억 달러에 이릅니다. 환율 1300원을 적용해서 원화로 바꿔보면 시가총액 1482조원, 순이익은 8조 4백억원 정도입니다.
참고로 삼성전자자는 시가총액 445.43조원, 순이익은 23년 회계 2분기(6월 종료) 기준 1.55조원입니다.
그렇다면 엔비디아 2023년 주가 폭등의 이유는 무엇일까요? 엔비디아 주가는 인공지능과 관련이 있습니다. 지금부터는 GPU와 인공지능에 대해 살펴보겠습니다.
그래픽 카드, GPU (graphics processing unit)
엔비디아는 그래픽 카드를 만드는 회사입니다. 그래픽카드에는 GPU가 장착되어 있는데, GPU는 컴퓨터 시스템에서, 그래픽 연산을 빠르게 처리한 후 그 결과 값을 디스플레이(display)에 출력하는 연산 장치입니다. GPU는 graphics processing unit을 줄여 쓴 용어이며, 그래픽 카드를 구성하는 핵심 요소입니다.
GPU의 주요 기능은 그래픽 연산을 빠르게 처리한 후 디스플레이 출력하는 것인데, 여기서 더 주목해야 할 것은 그래픽 연산을 빠르게 처리할 수 있다는 점입니다. 모니터 디스플레이에 출력하기 위한 연산 과정을 살펴보겠습니다.
▶HD 디스플레이
HD 화면의 해상도는 1024 × 768입니다. 이는 디스플레이가 가로 1024개의 화소, 세로로 768개의 화소로 구성되어 있다는 의미입니다.
▶FHD 디스플레이
FHD 화면의 화소는 가로 1920개, 세로 1080개입니다. 그러니까 Full HD 화면의 총 화소수는 207만개 정도입니다. 이를 초당 60번씩 바꿔서 보여주면 동영상이 나옵니다. 디스플레이에 한 번 보여주는데 207만개, 이를 60번 보여주는 데는 207만개 × 60 = 1.242억개의 화소수를 처리해야 합니다. 그러니까 1초에 1억2천4백2십 만개의 화소를 계산해야 합니다.
▶4K 디스플레이
4K 화면이면 어떨까요? 4K 화면의 화소수는 FHD 화면보다 가로, 세로방향으로 각각 2배씩 많아 가로에 3,840개, 세로에 2,160개로 총 830만 개입니다. 똑같은 방식으로 계산해보면, 디스플레이에 한 번 나타내는데, 829만개, 이를 60번 보여주는 데는 4억9천7백여개 정도의 화소를 계산해야 합니다.
엔비디아 GPU의 기회
실감나는 영상을 구현해 주는 것은 GPU이고, 위에서처럼 GPU는 많은 화소를 처리하기 위한 연산을 수행합니다. GPU를 만드는 엔비디아(NVIDIA)는 이처럼 많은 계산을 처리하는데 특화된 기술을 가지고 있습니다.
본격적인 그래픽 카드는 VGA(Video Graphics Array) 카드로부터 시작되었습니다. 한때 VGA 카드는 640×480을 표준으로 처리하던 때가 있었습니다. VGA 카드에서 핵심부품도 GPU이었습니다만, 그때는 VGA 카드로 불렀습니다. 그런데 그래픽을 처리하는 그 핵심 부품인 GPU에 초점이 맞춰져 있습니다.
지금도 그렇지만 엔비디아의 그래픽 카드는 게임을 위한 중요한 장치였습니다. 좀더 실감나는 게임을 위해서 그래픽 카드의 사양도 높아졌고, 가격도 비싸졌습니다. 가격이 오르면 판매량이 줄기 때문에 그만큼 기업에게는 부담입니다. 그러던 차에 암호화폐가 세상에 나왔고, 암호화폐 채굴에 그래픽 카드가 사용되었습니다. 여기서 채굴한다는 것은 계산한다는 것을 의미합니다. 비트코인의 작업증명을 하는데 엄청난 계산이 필요했고, 엔비디아의 그래픽 카드는 여기에 유용하게 활용되었습니다. 엔비디아는 암호화폐 덕분에 많은 이익을 남겼습니다. 이 이익을 인공지능 칩 개발에 썼고, 2023년에 인공지능이 주목받으면서, 엔비디아 GPU는 약 90%의 시장을 차지하고 있습니다.
GPU 병렬계산
GPU가 원래는 게임용 컴퓨터에 붙이던 병렬 계산기였는데, 인공지능에서 이 수요가 폭발해 버렸습니다. 인공지능 모델을 만드는 데는 디스플레이에 동영상을 뿌려주는 것처럼 많은 계산이 필요하며, 병렬 계산으로 효율을 높이고 있습니다.
병렬계산을 삽질에 비유하면 이해가 빠릅니다. 참호를 파는데는, 100명의 군인이 삽질할 수도 있고, 1대의 포크레인을 동원할 수도 있을 것입니다. 100명의 군인이 한 삽씩 뜨는 것이 바로 병렬계산이라고 보시면 되겠습니다. 각자 한 삽씩 떴지만 총 100삽이 동시에 떠 진 것입니다. 이처럼 나눠서 작업하는 것은 병렬계산과 대응됩니다. 또한 포크레인으로 하는 작업은 CPU와 대응된다고 보시면 되겠습니다. 그래픽 카드는 병렬계산을 잘 할 수 있게 만든 물건입니다.
GPU와 인공지능
딥러닝, 머신러닝으로 인공지능을 만들기 위해서는 수많은 계산이 필요합니다. 컴퓨터에서 계산을 담당하고 있는 부품은 CPU와 GPU입니다. CPU는 순차적 계산을 잘 할 수 있도록 만들어진 것이고, GPU는 병렬계산을 잘 할 수 있게 만들어져 있습니다. CPU는 포크레인, GPU는 삽질과 대응될 수 있습니다. 인공지능을 만들 때 쓰는 딥러닝은 병렬계산용 GPU가 월등하게 유리합니다.
엔비디아 GPU와 인공지능
현대 인공지능의 가장 큰 특징은 규모의 법칙이 적용된다는 것입니다. 컴퓨팅 파워를 많이 넣으면 많이 넣을수록, 학습 데이터 량을 많이 입력할수록, 매개변수를 많이 잡을수록 인공지능의 성능은 더 좋아집니다.
ChatGPT를 학습시킬 때 사용한 GPU가 엔비디아의 A100입니다. 엔비디아 A100은 1초에 312조번 연산할 수 있습니다. A100을 이은 최신형 GPU가 엔비디아 H100입니다. 엔비디아 카탈로그에 따르면 H100은 ChatGPT를 학습시키는 속도가 A100에 비해 12배 빠르고, GPT4를 학습시키는데 9배가 빠릅니다. 연산의 수로 비교하자면, H100은 1초에 3744조번 연산이 가능합니다. ChatGPT을 학습시키는데 A100을 1만대 썼고, 100일간의 연산시간이 필요했습니다. GPT4는 A100을 2만 5천대 사용하였습니다.
이들 칩을 엔비디아가 만듭니다. 엔비디아의 시작은 게임을 뒷받침하는 것이었는데, 하다 보니 암호화폐 채굴, AI 학습으로 이어진 것입니다. 현재는 거의 90%의 GPU 시장 점유율을 차지하고 있으니, 사실상 독점상태입니다.
엔비디아 GPU와 인공지능의 핵심 CUDA
왜 이런 독점이 가능했을까요? 엔비디아가 CUDA라는 개발 툴을 만들었기 때문입니다. CUDA는 Compute Unified Device Architecture를 줄여 쓴 용어입니다. 장치(device)들을 합쳐서 마치 하나인 것 처럼 계산할 수 있게 해준다는 뜻입니다. 그러니까 엔비디아는 하드웨어만 만든 것이 아니라 쿠다라는 개발자 툴(tool), 즉 개발자용 언어를 만든 것입니다.
우리가 CPU 사양을 보면 8코어, 16코어라는 용어를 발견할 수 있습니다. 코어는 연필심처럼 핵심을 뜻합니다. 8코어는 8개를 묶어서 하나처럼 돌아가게 만들었다는 것, 16코어는 16개를 묶어서 하나처럼 돌아가게 만들었다는 것을 의미합니다.
GPU는 수천 코어를 가지고 있습니다. 몇 천개가 묶여있는데 쿠다(CUDA)와 같은 개발 툴을 주지 않으면 수천 개의 GPU 각각에 일일이 작업을 할당해 줘야 합니다. 이 부분은 전문개발자의 영역이며, 상당한 노하우와 많은 시간을 필요로 합니다. 쿠다는 누구든지 그런 개발을 할 수 있도록 만들어준 것이라고 할 수 있습니다.
쿠다(CUDA)는 엔비디아 CEO 젠슨황의 업적
엔비디아 CEO 잰슨 황이 대단한 일을 한 것입니다. 처음에는 CUDA 개발에 많은 개발자들이 반발했습니다. 게임용 보드 만드는 일이 잘 되고 있었으니까요. 게임보드 팔면 되는데 개발비만 들어가고 매출도 오르지 않는 쿠다를 왜만드냐? 하면서 말입니다.
그렇지만, 잰슨 황은 개발자 커뮤니티를 만들지 않으면 미래가 없다고 하면서 쿠다 개발을 계속 밀어 부쳤습니다. GPU 생태계에 대한 이해가 있었던 것입니다. 인공지능으로 돈 벌 수 있겠다는 분위기가 조성되면서 엔비디아 GPU와 쿠다는 인공지능 개발자와 개발사에 필수적인 플랫폼이 되어버렸습니다.
CUDA 생태계와 엔비디아 주가 폭등의 주요 이유
구글 텐서플로우(TensorFlow), 페이스북 파이토치(PyTorch)는 AI를 만들 수 있는 최고의 플랫폼입니다. 텐서플로우나 파이토치는 쿠다 위에서 작동됩니다. 쿠다를 만들었다는 것은 애플이 아이폰을 만들면서 앱스토어 만들고, 스마트폰 생태계를 만든 것과 비슷한 일입니다.
쿠다 위에서 돌아가는 알고리즘과 프로그램이 수천 개에 이르니까 인텔, 삼성과 같은 다른 반도체 개발 회사들은 시장을 뺐어올 수가 없습니다. ‘선생님 GPU 코어 하나하나에다가 직접 작업 할당하시게요?’ 라고 물어보면 뭐라 할 말이 없는 상황입니다. 이미 만든 프로그램이 엔비디아 쿠다 위에서 잘 돌아가고 있는데, 다른 GPU 환경으로 옮기려면 쿠다에서는 자동으로 되던 것을 새로운 GPU 환경에 맞게 병렬계산을 위해 하나하나씩 포팅해 줘야 합니다. 엔비디아 GPU보다 웬만큼 저렴해서는 엔비디아와 경쟁할 수가 없습니다. 그래서 시장에서는 엔비디아를 따라가지 못할 것으로 보고 있습니다. 적어도 수년은 엔비디아 독점체제가 유지될 것으로 보이니까 엔비디아 주가가 폭등하는 것이라고 이해하시면 되겠습니다.
마치며 …
이번 포스팅에서는 엔비디아 2023년 주가 폭등의 이유를 GPU와 인공지능의 관점에서 살펴보았습니다. GPU가 무엇인지, 인공지능 시대에 엔비디아가 구축한 생태계가 어떻게 작동하고 있는지를 이해하시는데 도움이 되었길 바랍니다.
함께 참고하면 좋은 글
▶ NPU, GPU, CPU 비교. 각 프로세서의 역할은?
▶ 윈도우용 퀄컴 스냅드래곤 X 시리즈 칩
▶ 애플 티비 4K HDR과 디스플레이 용어 이해
▶ WWDC 2023 전망 : MR 헤드셋 디스플레이 스펙
▶ 초 거대 인공지능 ChatGPT
▶ 컴퓨터 구성요소의 핵심, CPU (중앙처리장치)
▶ CPU 코어, 쓰레드, 클럭, 캐시메모리의 의미
▶ 애플 M1 칩, 그리고 컴퓨터 기본 구조
▶ 알아두면 좋을 컴퓨터 작동원리. 폰 노이만 아키텍처
참고자료
[1] 김어준의 겸손은힘들다 뉴스공장, [김어준의 다스뵈이다] 250회 수익창출 당했다, 2023년 8월 23일 수요일 [이광수, 박주민, 정규석, 정형준, 성기선, 안진걸, 박시동, 이상민, 박태웅(1:38:37~1:50:46), 최충훈, 김아영, 곽창훈, 서일주]
[2] TensorFlow
[3] PyTorch