딥시크, 뭔데 이렇게 난리야?

여기, 동글동글 친근하게 생긴 푸른 고래가 묻습니다.

"안녕하세요, 저는 딥시크(DeepSeek)입니다. 무엇을 도와드릴까요?"

마냥 순해 보이는 이 작은 고래가 제대로 일냈습니다. 뉴스만 틀면 죄다 '딥시크' 이야기입니다.

딥시크, 도대체 뭔데 이렇게 난리일까요?

■ 중국 스타트업 '딥시크'가 만든 생성형 AI '딥시크'

딥시크에게 딥시크를 묻다.

딥시크가 직접 설명해 준 대로, 딥시크는 중국 스타트업 '딥시크'가 개발한 생성형 인공지능(AI) 서비스입니다. 회사 이름과 서비스 이름이 같습니다.

생성형 AI는 텍스트나 이미지, 비디오 같은 새로운 콘텐츠를 말 그대로 '생성'하는 인공지능 기술을 말합니다. 가장 잘 알려진 게 미국 오픈AI사가 개발한 '챗GPT'죠.

딥시크를 찾아보세요(힌트 : 푸른 고래)

왼쪽이 챗GPT, 오른쪽이 딥시크 첫 화면입니다. 어떻게 보이시나요? 비슷하지 않나요?

생김새만 비슷한 게 아닙니다. 성능도 비슷합니다.

하지만 여전히 이해가 잘되지 않습니다.

생성형 AI에 챗GPT만 있는 것도 아닌데, 성능이 비슷한 AI가 하나 더 나온 게 그렇게 대수인가요?

그걸 설명하려면 조금 더 깊이 들어가야 합니다. 챗GPT와 딥시크의 '추론' 모델에 대해서요!

■ 한국인듦은 쉽게 앗랍볼 숫 있는 한끌의 암혼화 방펍잇 잊댜

참고로 저는 챗GPT 유료 사용자입니다

생성형 AI는 여러 모델이 있습니다. 챗GPT도 그렇죠. 그중에서도 현재 범용적으로 가장 많이 쓰이는 건 'GPT-4o' 모델입니다.

그 아래, 'o1' 모델이 보이시죠. 논리적 설명이 가능하다고 적혀있는데, 이걸 줄여서 '추론' 모델이라고 부릅니다.

범용 모델과 추론 모델, 이 두 개가 어떻게 다른 걸까요? 저는 아래 실험이 가장 쉽게 이해되더라고요.

챗GPT 범용모델 ‘GPT-4o’ (출처 : OpenAI 공식 유튜브 中 ‘Korean Cipher with OpenAI o1’)

'직우상 얻떤 변역깃돋…' 무슨 말인지 아시겠나요? 한 번 봐서는 무슨 뜻인지 이해하기 어렵습니다. 그건 AI도 마찬가지입니다.

챗GPT 범용 모델인 GPT-4o에 맞춤법이 틀린 문장을 주면, 답이 저렇게 돌아옵니다. 잘못된 표현이 많아서 제대로 번역하기 어렵다고요.

그런데 추론 모델 o1은 다릅니다.

챗GPT 추론모델 ‘GPT-o1’, 그저 놀라울 뿐 (출처 : OpenAI 공식 유튜브)

갑자기 맞춤법이 엉망인 문장을 분석해 내더니,

챗GPT 추론모델 ‘GPT-o1’, 그저 놀라울 뿐 2 (출처 : OpenAI 공식 유튜브)

30초도 안 돼 영어 번역까지 뚝딱 해냅니다.

저는 처음 이 영상을 접하고 사실 소름이 돋았습니다. 추론하는 AI, 마치 사람 같지 않나요?

기존에 이런 추론 모델을 상용화해 낸 건 오픈AI의 챗GPT뿐이었습니다. 구글도, 날고 긴다는 일론 머스크도 하지 못했죠.

그래서 이 추론 모델의 존재는 일종의 상징 같은 거였습니다. AI 업계에서 우리를 따라올 자는 없다, 같은 느낌이죠.

하지만 웬걸, 중국의 한 스타트업이 GPT-o1에 상응하는, 심지어 수학 같은 분야에선 오히려 뛰어넘었다는, '딥시크-R1'을 세상에 내놓습니다.

그것도 오픈AI를 비롯한 미국의 빅테크 기업들이 AI 개발에 썼을 것으로 추정되는 금액 대비 터무니없게 저렴한 비용을 썼다면서 말이죠.

모두가 놀랄 수밖에 없습니다.

■ 개발비 10분의 1? 그게 가능해?

딥시크 앞에 늘 붙는 수식어, '가성비'입니다. 성능도 성능이지만, 이 성능을 저렴한 비용으로 구현해 냈다는 게 핵심입니다.

딥시크가 ‘패기 있게’ 공개한 V3 모델의 기술 보고서

딥시크는 지난달 추론형 'R1' 모델을 출시하기 한 달 전에 범용 모델인 'V3'를 공개했고, 뒤이어 당당히 기술 보고서도 내놨습니다.

바로 여기에 개발비 부분이 나오는데, 비용 관련해선 크게 3가지로 요약할 수 있습니다.

① AI 훈련에 엔비디아의 저사양 칩인 H800 2,408개 사용 ② 278만 8천 GPU 시간 훈련, 시간당 임대 비용을 2$로 가정하면 557만 6천 달러(우리 돈 약 80억 원) ③ 알고리즘이나 데이터 관련 연구 비용 등은 제외

기사에서 많이 접하셨을 '80억 원'이 여기 등장하는데, 이 금액은 미국 빅테크 기업인 오픈AI나 메타가 AI 개발에 쓴 것보다 10분의 1 이상 적은 비용으로 알려져 있습니다.

278만 8천 H800 GPU 시간 × 2$(시간당) = 557만 6천 달러 (출처 : 딥시크 V3 기술보고서)

결론부터 말하면, 딥시크 역시 이것보단 더 썼을 것이다, 하지만 그렇다 하더라도 빅테크 기업이 쓴 것보단 적을 것이라는 게 대체적인 관측입니다.

일단 딥시크도 스스로 밝힌 것처럼 80억 원이라는 돈에는 훈련 비용을 제외한 다른 비용은 빠져있으니, 인건비 등 다른 비용이 얼마나 들어갔을지는 사실 아무도 모릅니다.

더욱이 저 보고서는 이번 돌풍의 주인공인 추론 모델 'R1'에 대한 게 아니라 그 전신인 'V3'에 대한 기술 보고서입니다. 즉, 더 고급 모델인 R1에는 더 많은 돈이 들어갔을 거라고 보는 게 합리적입니다.

R1의 기반이 된 V3 역시 전신인 V2, 그리고 그보다 앞선 모델을 기반으로 시행착오를 거치면서 개발된 건데, 딥시크의 모기업은 엔비디아의 고성능 칩을 다수 보유한 것으로 알려졌습니다.

그러니 딥시크가 저사양 칩인 H800 칩만으로 개발됐고, 비용이 빅테크 기업의 10분의 1 수준인 80억 원에 불과하다고 속단하긴 이릅니다.

그런데도 전문가들이 '싸게 개발한 게 맞긴 하다'고 말하는 이유, 거기에는 마지막으로 딥시크의 '기법'이 있습니다.

■ '갓성 비', 딥시크는 어떻게 해냈을까?

인터넷에서 회자되고 있는 풍자만화(딥시크가 실제 저 고양이처럼 했다는 건 아니고요!)

딥시크 기법 관련해 가장 '핫'한 인터넷 만화입니다.

크고 넓은 데이터 바다에서 '오픈AI' 고양이가 낚시를 해서 양동이에 챗GPT를 담아놨더니, '딥시크' 고양이가 그 안에 담긴 물고기를 낚아채 버립니다. 당연히 시간도, 돈도 적게 들겠죠.

물론 이해를 돕기 위한 비유일 뿐, 실제로 딥시크가 그랬다는 건 아닙니다. 일각에서 이른바 '베끼기' 의혹이 있지만 확인되진 않았습니다.

그런데 AI를 개발할 때 실제 이 만화와 비슷한 개념이 있습니다. 영어로 Distillation, 증류라고 하는데요.

와인을 증류시켜 코냑을 만드는 느낌이랄까요? 연산의 효율성을 높이기 위해, 더 크고 무거운 AI 모델의 지식을 더 작고 가벼운 모델에게 학습시키는 겁니다.

그렇게 하면 더 큰 모델의 성능을 비슷하게 구현하면서도 더 가벼운 기기에서, 더 빠른 속도로 AI를 가동할 수 있게 됩니다.

딥시크는 이런 증류 기법 외에도, AI를 훈련할 때 기존처럼 사람이 피드백하는 게 아니라 다른 AI가 훈련을 시키는 강화 학습법을 사용해 비용을 아꼈습니다.

이와 관련해 최병호 고려대 인공지능연구소장은 "딥시크가 비용을 아끼면서 퀄리티를 내려고 하다 보니까 그 최저점을 찾기 위해서 엄청나게 노력한 게 보인다"고 설명했습니다.

■ 딥시크가 있기 전과 후

딥시크는 최근까지만 해도 챗GPT를 제치고 애플 앱스토어 무료 앱 순위 1위였습니다.

또 하나 딥시크 관련 기사에서 많이 등장하는 표현, '스푸트니크 순간'입니다.

1957년 소련이 세계 최초의 인공위성 '스푸트니크 1호'를 발사하는 데 성공하자 미국 전역이 충격에 빠집니다. 우주 분야에서 소련은 자신들을 절대 따라올 수 없을 거라고 자신했거든요.

그리고 이듬해 미국은 우리가 잘 아는 미국 항공우주국, 나사(NASA)를 설립하고 12년 후 인류 최초로 달에 사람을 보내는 데 성공하죠.

딥시크가 AI 업계, 특히 미국에 던진 충격은 이 스푸트니크 순간과 비슷합니다.

딥시크 쇼크, 한국은 어떻게 대응해야 할까요?

2022년 오픈AI가 챗GPT를 대중에 공개한 이후 전 세계는 충격에 빠졌고, 모든 산업과 경제가 AI 위주로 재편됐습니다. 그 선두에는 오픈AI를 비롯한 미국이 있었고요.

다들 미국 뒤에 서서 열심히 달렸지만, 선두와의 차이는 잘 좁혀지지 않았습니다. 오히려 점점 벌어지기만 했죠.

AI 개발은 돈이 많이 든다는 게 기존 업계의 정설이었습니다. 후발 주자들은 '그래, 난 돈이 없잖아. 난 안될 거야' 하며 벌어지는 격차를 멍하니 바라볼 수밖에 없었습니다.

그런데 이때 등장한 게 바로 딥시크입니다. 챗GPT와 성능이 비슷한데, 더 빠르게, 더 싸게 AI를 만들었고, 자신들이 어떻게 개발했는지 떡하니 공개까지 했죠.

딥시크는 완벽하지 않습니다. 개발비 축소, 베끼기 의혹에 더해 최근엔 개인정보 유출 우려로 곳곳에서 '금지령'까지 이어지고 있습니다.

하지만 미국의 독주를 무기력하게 바라보기만 해야 했던 AI 업계에 딥시크가 유의미한 변화구를 던진 건 확실합니다.

푸른 고래를 그려 넣은 '딥시크'호는 AI라는 드넓은 우주에 이미 올라갔습니다. 무려 AI 3대 강국을 꿈꾸는 우리에게 중요한 건 딥시크를 '신 포도'가 아닌, 반전이나 도약의 기회로 삼는 게 아닐까요?