Backend.AI®의 강력한 인프라 관리 능력에 Tenstorrent Wormhole™ AI 가속기의 성능을 더하다.
래블업 Backend.AI와 텐스토렌트 Wormhole이 함께 구축하는 AI 환경의 미래
엔터프라이즈 생성형 AI 솔루션을 개발, 배포, 관리 및 확장하는 모든 과정을 그 어느 때보다 쉽고 효율적으로 수행할 수 있는 하드웨어와 소프트웨어의 조합에 대해 알아보세요.
Lablup Backend.AI와 Tenstorrent Wormhole™을 소개합니다
현대의 AI 워크로드는 대규모 병렬 처리, 높은 메모리 대역폭, 낮은 지연시간을 요구하며, 이러한 요구는 오직 설계 단계부터 AI 워크로드의 특성을 고려하여 설계된 전용 칩만이 충족할 수 있습니다. Teenstorrent Wormhole을 비롯한 AI 전용 칩의 도입은 변화하는 AI 시장에서 경쟁력을 유지하고, 지속적으로 혁신하기 위한 필수 요소입니다.
Backend.AI의 Sokovan 오케스트레이터는 엔터프라이즈 환경의 데이터 파이프라인 및 CI/CD 워크플로우와 통합되어, 대용량 데이터셋을 필요한 위치로 자동으로 이동시키고, 분산 학습이나 추론 환경에서 지연 시간을 최소화합니다. 이를 통해 조직이 인사이트를 효율적으로 도출하도록 지원하고, 모델 배포에 소요되는 시간을 단축할 뿐만 아니라, 운영의 복잡성과 잠재되어 있는 리스크를 줄여 조직의 혁신을 실현할 수 있도록 돕습니다.
관련 서비스
Backend.AI는 자체 개발한 오케스트레이션 및 작업 스케줄러를 기반으로 하는 벤더 중립적 가속 워크로드 호스팅 플랫폼으로, 클라우드 또는 온프레미스(에어갭) 클러스터 위에서 실행됩니다.
서비스 살펴보기 →Tenstorrent는 Wormhole 아키텍처 기반의 고성능 AI 가속기를 설계하여, 엔터프라이즈 AI 워크로드를 위한 대규모 병렬 처리와 낮은 지연시간을 제공합니다.
자세히 보기 →
