DeepSeek V4 공개: 1조 파라미터 오픈소스 MoE 모델, Apache 2.0으로 전면 개방

DeepSeek V4: 오픈소스 AI의 새로운 기준

중국 AI 연구소 DeepSeek이 1조(1 Trillion) 파라미터 규모의 혼합 전문가(Mixture-of-Experts, MoE) 모델 DeepSeek V4를 Apache 2.0 라이선스로 전면 공개했습니다. Apache 2.0은 상업적 활용까지 허용하는 가장 개방적인 오픈소스 라이선스 중 하나입니다.

핵심 스펙

• 총 파라미터: 약 1조 개
• 활성 파라미터: 토큰당 약 370억 개 (MoE 특성)
• 컨텍스트 윈도우: 100만 토큰 (Engram 조건부 메모리 활용)
• 멀티모달: 텍스트, 이미지, 영상 네이티브 지원
• 라이선스: Apache 2.0 (상업 사용 가능)

성능 벤치마크

누출된 벤치마크에 따르면 HumanEval 90%, SWE-bench Verified 80%+를 기록해 Claude Opus 4.6 수준과 경쟁합니다. 훈련 비용은 약 520만 달러로 추정되며, 이는 미국 최전선 모델 대비 극도로 낮은 수준입니다.

3대 아키텍처 혁신

• Manifold-Constrained Hyper-Connections: 레이어 간 연결 구조 최적화
• Engram 조건부 메모리: 100만 토큰 컨텍스트를 효율적으로 처리
• DeepSeek Sparse Attention: 스파스 어텐션으로 추론 효율 극대화

소비자 하드웨어에서도 실행 가능

MoE 구조 덕분에 추론 시 전체 파라미터의 약 3.7%만 활성화됩니다. DeepSeek은 양자화(Quantization) 시 소비자 하드웨어에서도 실행 가능하다고 강조했습니다. 이는 1조 파라미터 모델을 일반 개발자가 로컬에서 활용할 수 있는 길을 열어줍니다.

오픈소스 AI 생태계에 미치는 영향

DeepSeek V4의 전면 개방은 고성능 AI 모델에 대한 접근성을 민주화하며, 독점 API에 의존하지 않는 자체 AI 인프라 구축에 새로운 가능성을 제시합니다.