Backend.AI + Intel Arc Pro B70: 더 큰 메모리로 완성하는 에이전틱 AI
벤치마크로 알아본 에이전틱 워크로드에서의 Arc Pro B70의 메모리 우위
Backend.AI가 Intel Gaudi 가속기에 이어 Intel Arc 그래픽으로 지원 범위를 확장합니다. 컨텍스트 길이와 동시 요청 수가 늘어나는 에이전틱 워크로드에서 Arc Pro B70의 32GB 메모리가 어떻게 처리량을 유지하는지, 그리고 Backend.AI의 단일 컨트롤 플레인과 모델 서빙 스택으로 스택 변경 없이 동일한 환경을 확장하는 방법을 확인해보세요.
리소스 다운로드
아래 양식을 작성해 주세요.
에이전틱 AI가 실제로 실행되는 구간에서 유지되는 처리량
Arc Pro B70은 32GB GDDR6 메모리와 608GB/s 대역폭을 $1,099의 가격에 제공합니다. NVIDIA RTX PRO 4000 Blackwell과의 vLLM 벤치마크에서 B70은 평균 약 2.1배 더 많은 KV 캐시를 수용했고, 부하가 늘어나도 처리량이 꾸준히 증가해 Qwen3 8B 기준 8K 컨텍스트와 동시 요청 16개 구간에서 2.24배, 32K 컨텍스트에서는 최대 4.4배의 우위를 기록했습니다. 데스크톱의 B70 한 장부터 공유 추론 클러스터, 데이터센터의 Gaudi까지, Backend.AI의 단일 컨트롤 플레인과 모델 서빙 스택으로 동일한 플랫폼에서 운영해보세요.
관련 서비스
Backend.AI는 자체 개발한 오케스트레이션 및 작업 스케줄러를 기반으로 하는 벤더 중립적 가속 워크로드 호스팅 플랫폼으로, 클라우드 또는 온프레미스(에어갭) 클러스터 위에서 실행됩니다.
서비스 살펴보기 →
인텔® Arc™ Pro B-시리즈로 더 큰 모델을 실행하고, 더 풍부한 데이터를 처리하며, 안정적인 워크스테이션 성능을 확보하십시오. 대규모의 전용 메모리, 강력한 그래픽 전력, 최신 XMX AI 엔진을 결합한 인텔® Arc™ Pro B-시리즈는 렌더링, 비디오 프로세싱, AI 워크로드를 가속화합니다.
자세히 보기 →
