2024년 Backend.AI의 두번째 정기 릴리스인 24.09가 출시되었습니다. 이번 업데이트에서는 Backend.AI Core를 중심으로 대규모 아키텍처 개선이 이루어졌으며, 다양한 AI 가속기와 엔터프라이즈 인프라 환경을 위한 통합 기능이 대폭 강화되었습니다.

새로운 기능

• NVIDIA NGC 및 NIM 실행 지원: Backend.AI는 이제 NVIDIA NGC(NVIDIA GPU Cloud) 및 NIM(Nemo Inference Microservice) 의 핵심 기능을 지원합니다. 라이선스 기반 컨테이너 이미지를 직접 로드할 수 있어, NVIDIA 생태계와의 완전한 호환성을 제공합니다. 이를 통해 고성능 AI 모델 배포와 관리가 한층 매끄러워졌습니다.
• 신규 가속기 지원 대폭 확대: Backend.AI 내에서 고객의 워크로드 특성에 맞는 최적의 AI 가속기를 유연하게 선택할 수 있습니다. 이번 24.09 업데이트를 통해 Intel Gaudi2, Rebellions ATOM+, Furiosa RNGD 등 신규 가속기가 지원됩니다.
• Backend.AI 모델 스토어, 브라우저, 서빙 기능 정식 출시(GA): 기존에 베타 혹은 선택기능으로 공개되었던 모델 스토어, 모델 브라우저 및 서빙 기능이 정식 출시되었습니다. 해당 Suite는 MLOps의 핵심 기능을 아우르는 원스톱 솔루션으로, 고객이 손쉽게 AI 모델을 검색하고, 자신의 워크로드에 바로 배포할 수 있도록 합니다.
• 향상된 작업 스케줄링과 인증 체계: 우선순위 기반 스케줄러가 도입되었습니다. 이제 Priority Scheduler가 중요 작업을 더욱 빠르고 안정적으로 처리합니다. 또한 OpenID Connect(OIDC) 를 기반으로 한 통합 인증이 구현되어, 여러 인프라 서비스 간의 계정 관리가 간소화되었습니다.
• 네트워킹 및 성능 개선: Backend.AI 24.09부터 Cilium 기반 네트워킹 스택을 도입하여 기존 대비 약 30% 향상된 네트워크 성능을 제공합니다. 추가로 NVIDIA GPUDirect Storage 지원 범위를 넓히고, 자체 Docker 네트워크 플러그인을 통합하여 대규모 데이터 처리 환경에서도 병목 없이 안정적인 성능을 유지합니다.
• 엔터프라이즈 환경을 위한 확장성 확보: GitLab, GitHub Enterprise, AWS ECR 등 여러 프라이빗 레지스트리 통합 기능이 강화되었습니다. 온프레미스와 클라우드 환경을 아우르는 하이브리드 구성 지원이 개선되어, 기업 환경에서도 간편하고 유연하게 Backend.AI를 배포할 수 있습니다.
• 서비스 품질 향상 및 안정성 강화: 세션 관리, 컨테이너 라이프사이클, 스토리지 작업 등 전반에 걸쳐 100건 이상의 버그가 수정되어, 시스템 안정성과 사용자 신뢰성이 크게 향상되었습니다.

향후 릴리스를 위한 준비

• WebUI Neo 적용 준비: 래블업의 프론트엔드 개발팀과 Vice Versa Design Studio와의 긴밀한 협업을 통해 풍부한 사용자 경험을 제공하는 WebUI Neo가 2024년 연말부터 제공됩니다. WebUI Neo는 '인지 부하의 감소'와 '시각적 은유의 일관성 유지'를 콘셉트로 설계되었습니다. '인지 부하의 감소' 측면에서, 우리는 사용자가 복잡한 정보를 입력하거나, 탐색해야 하는 상황을 최소화하고자 하였습니다. 예를 들어, 대규모의 실험을 설정하는 경우 수십가지의 옵션을 한 번에 늘어놓는 것 보다는 순차적으로 정보를 노출하여 단계별로 확인 가능한 정보의 양을 제한했습니다.

Backend.AI는 앞으로도 사용자 여러분의 AI 연구와 개발을 더욱 편리하고 안전하게 만들어 드리겠습니다.

Make your AI accessible with Backend.AI!

Backend.AI 24.09에 대한 전체 릴리스 내역은 릴리스 히스토리 페이지에서 확인하실 수 있습니다.

작성자: 허진호, 신정규, 김혁진