중국 AI 개발사 딥시크, 4억 원으로 차세대 모델 ‘R1’ 학습 < 경제/사회 < 기사본문 - K뉴스통신
[K뉴스통신=박정길 기자] 중국 인공지능(AI) 개발사 딥시크(DeepSeek)가 자사 차세대 모델 'R1'의 학습 비용을 전격 공개했다. R1은 복잡한 문제 해결과 추론 능력에 특화된 차세대 대형 언어 모델이다. 금액은 29만4천 달러(약 4억 원)로, 미국 경쟁사들이 수억 달러를 투입했다고 알려진 것과 비교하면 파격적으로 낮다. 비용 효율성과 오픈소스 개방성을 앞세운 딥시크의 등장은 오픈AI, 구글, 앤트로픽 등 글로벌 빅테크 기업들을 긴장시키는 계기가 되고 있다.
이번 발표는 17일 학술지 네이처(Nature)에 실린 논문을 통해 처음 공개됐다. 논문에 따르면 추론 능력에 초점을 맞춘 R1 모델은 엔비디아 H800 칩 512개를 활용해 총 80시간 학습됐으며, 훈련 비용은 29만4천 달러였다. 엔비디아 H800 칩은 미국의 첨단 수출 규제를 피하기 위해 중국 시장 전용으로 설계된 고성능 AI 가속 칩이다. 이는 올해 1월 발표된 초기 논문에는 없었던 내용이다.
딥시크는 지난 1월 '저비용 AI 시스템'을 발표했을 때 이미 증시에 충격을 준 바 있다. 당시 투자자들은 엔비디아 같은 반도체 기업의 지배력이 흔들릴 것을 우려해 기술주를 대거 매도했다. 그러나 창업자 량원펑(梁文峰) 대표를 포함한 회사 측은 이후 신제품 업데이트를 제외하고는 대중 앞에 거의 모습을 드러내지 않았다.
AI 챗봇을 구동하는 대형 언어모델(LLM)의 훈련 비용은 수주에서 수개월 동안 고성능 칩 클러스터를 가동해 방대한 텍스트와 코드를 처리하는 데 들어가는 막대한 비용을 의미한다. 오픈AI의 샘 올트먼 CEO는 2023년 "기초 모델 훈련에 1억 달러 이상이 들었다"고 밝힌 바 있으나 구체적 액수는 공개하지 않았다.
딥시크의 발표를 두고는 의문도 제기된다. 미국은 2022년 10월, AI 개발에 쓰이는 고성능 칩 H100과 A100의 대중 수출을 금지했다. 그러나 딥시크는 H800 칩을 중심으로 R1을 훈련시켰으며, 개발 초기 단계에서는 실제로 A100 칩을 사용했다고 네이처 부속 문서에서 처음 인정했다. 미국 당국은 지난 6월, 딥시크가 제재 이후에도 "대량의 H100 칩"을 확보했다고 주장했다. 하지만 엔비디아는 "딥시크가 사용한 것은 합법적으로 확보한 H800 칩"이라고 선을 그었다. 앞서 로이터는 딥시크가 중국 내 최고 수준의 인재를 끌어모을 수 있었던 이유 중 하나로 A100 슈퍼컴퓨팅 클러스터 운영 경험을 지목하기도 했다.
딥시크는 또한 올해 초 미국 정부 고위 인사와 일부 AI 전문가들이 제기한 "오픈AI 모델을 증류(distillation)했다"는 의혹에도 간접적으로 입장을 밝혔다. 증류(distillation)란 기존 대형 모델이 학습한 지식과 결과물을 더 작은 모델이 다시 학습해 성능을 끌어올리는 기술을 뜻한다. 딥시크는 증류 기법이 적은 비용으로 더 나은 성능을 구현할 수 있고, 에너지 소모를 줄여 AI 접근성을 확대한다고 주장한다. 딥시크는 이미 메타(Meta)의 오픈소스 모델 '라마(Llama)'를 일부 자체 모델 증류 과정에 활용했다고 공개한 바 있다.
이번 네이처 논문에서도 딥시크는 V3 모델 훈련 데이터가 크롤링한 웹페이지 기반이었으며, 이 안에 "오픈AI 모델이 생성한 답변이 상당수 포함돼 있어 다른 모델의 지식을 간접적으로 학습했을 가능성이 있다"고 인정했다. 다만 이는 "의도적이 아니라 우연적 결과"라고 해명했다.
딥시크의 학습비용 공개는,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,
출처 : K뉴스통신https://www.knewstv.kr