어드밴텍, NVIDIA® 가속 엣지 AI 플랫폼 전 제품군으로 오픈소스 LLM 성능 극대화
2025-04-03

산업용 엣지 AI 플랫폼의 선도 기업인 어드밴텍은 최신 NVIDIA 가속 엣지 AI 컴퓨팅 플랫폼으로 오픈소스 대형 언어 모델(LLM) 배포 방식에 혁신을 일으키고 있습니다.
DeepSeek, Llama 등 다양한 오픈 LLM을 지원하는 어드밴텍은 NVIDIA의 풀스택 가속 컴퓨팅 플랫폼, NVIDIA TensorRT-LLM 최적화 기술, NVIDIA Jetson 플랫폼을 활용해 엣지에서 확장 가능하고 지연 시간이 짧은 AI 추론을 제공합니다.
오픈소스 LLM 배포를 위한 통합 엣지 AI 시스템
어드밴텍은 가벼운 추론부터 대규모 AI 모델 학습에 이르기까지 다양한 LLM 배포 요구를 충족할 수 있도록 설계된 NVIDIA 가속 엣지 AI 플랫폼을 폭넓게 제공합니다. 온디바이스 챗봇, 도메인 특화 AI, 대규모 LLM 라이프사이클 관리까지 어드밴텍의 엣지 AI 솔루션은 다양한 AI 워크로드에 최적화된 성능과 효율성, 확장성을 제공합니다.
Llama & DeepSeek를 위한 고성능 LLM 추론 제공
어드밴텍의 NVIDIA 가속 엣지 AI 컴퓨팅 플랫폼은 Llama, DeepSeek 등 오픈소스 LLM에 확장 가능하고 고속 추론 성능을 제공하여 소형 엣지 디바이스부터 고성능 AI 서버에 이르기까지 효율적인 AI 워크로드를 구현할 수 있도록 지원합니다.
어드밴텍 엣지 AI 시스템별 LLM 성능 개요
MIC-711-OX (NVIDIA Jetson Orin™ NX 16GB) – 경량 엣지 AI 추론 (100 TOPS)
-
주요 이점:
- 저전력·소형 AI 추론으로 실시간 엣지 처리 구현
- 주요 적용 분야:
- AI 기반 스마트 기기 (IoT 어시스턴트, 로봇에 내장된 AI)
- 고객과 상호작용을 위한 엣지 AI (소매 키오스크, 자동 콜 시스템)
- 산업용 AI 모니터링 (예지 보전, 품질 관리)
- 모바일 및 오프라인 사용을 위한 경량 AI 어시스턴트
MIC-770V3 + MIC-75M20 (Intel® Core™ i7-12700E + NVIDIA RTX™ 4000 SFF Ada Generation) – 최적화된 LLM 추론 (300 TOPS)
-
주요 이점:
- 더 빠르고 효율적인 LLM 추론을 위한 향상된 컴퓨팅 성능
-
주요 적용 분야:
- 생산성 향상을 위한 엔터프라이즈 AI 어시스턴트 (AI 기반 이메일 및 문서 요약)
- AI 기반 고객 지원 (챗봇, 음성 인식 AI)
- 코딩 및 생산성 도구를 위한 온디바이스 AI
- 사이버 보안 및 이상 거래 탐지용 AI
.jpg)
SKY-602E3 (AMD EPYC™ 8534P+ 2x NVIDIA RTX™ 4500 Ada Generation) – 도메인별 AI 학습 (1000+ TOPS)
-
주요 이점:
- Llama 모델의 파인튜닝 및 도메인 적응 지원
- 전문 산업에 특화된 맞춤형 LLM 지원
-
주요 적용 분야:
- 생산성 향상을 위한 엔터프라이즈 AI 어시스턴트 (AI 기반 이메일 및 문서 요약)
- AI 기반 고객 지원 시스템 (챗봇, 음성 인식 AI)
- 코딩 및 업무 효율 향상을 위한 온디바이스 AI
- 사이버 보안 및 이상 거래 탐지용 AI
.jpg)
풀스택 NVIDIA 추론 가속, 최적화된 메모리 할당, 전력 효율적인 컴퓨팅을 기반으로, 어드밴텍의 엣지 AI 플랫폼은 다양한 산업 분야에서 빠르고 확장 가능한 LLM 추론을 안정적으로 제공합니다.
엣지 AI의 미래를 선도하다
NVIDIA Jetson 기반의 어드밴텍 풀스택 엣지 AI 컴퓨팅 플랫폼은 Jetson을 포함한 다양한 데이터 센터용 NVIDIA 가속 컴퓨팅 기술과 함께, 산업 현장에서 실시간·저지연 처리가 가능한 AI 네이티브 애플리케이션의 구현을 가능하게 합니다. NVIDIA 기술과 함께 어드밴텍은 엣지 네이티브 AI를 가속화하고 오픈소스 LLM 배포의 한계를 뛰어넘으며, 산업 전반에 걸쳐 AI 기반 혁신의 잠재력을 극대화하고 있습니다. 어드밴텍 엣지 AI 컴퓨팅 플랫폼에 대한 자세한 정보를 원하신다면, 어드밴텍 웹사이트 방문 혹은 어드밴텍 영업 담당자에게 문의해주시기 바랍니다.